このプロジェクトについて
JarvisNanoは、Waveshare ESP32-S3-Touch-AMOLED-1.75Cを小型で常時利用可能なデスクアシスタントに変えるファームウェアです。スタンドアロンモードでは、ESP32-S3がマイクをGemini Liveにストリーミングし、ES8311スピーカーパスを通じてネイティブ24 kHzで返答を再生し、単一のコンポジタで466x466の円形AMOLEDを駆動します。スマートフォンやハブは不要です。明示的にペアリングされたZeroChatスマートフォンは、代わりに表示された6桁のペアリングコードを要求し、プライベートなWi-Fiオペレーターリースを保持し、16 kHzのマイクPCMを受信し、独自のブレインを実行し、24 kHzの音声PCMをデバイススピーカーに返すことができます。1.75Cが製品であり、唯一サポートされるビルドターゲットです。元のWaveshare 1.75とSeeed XIAOのトラックはハードウェアリファレンスとして保持されています。
インタラクションは音声ファーストです。「Jarvis」と言うかPWRを押してから話しかけると、返答中に話しかけることで割り込みできます。中央をスワイプすると画面のリング(JARVIS、WATCH、WEATHER、STATUS、ACTIVITY、およびコンパニオンがライブの間はDESK)を移動し、それぞれが設定ページではなくライブの読み取り値を表示します。開いているシートをタップすると、Jarvisが画面に表示されている内容を話します。STATUSはバッテリー、充電器、dBm付きのWi-Fiバー、セッションとツールのランプ、アドレス、チップ温度、CPUギア、無線モード、稼働時間を報告します。プライバシーは物理的です。ガラスを保持する、デバイスを伏せる、または中央コントロールを押すとマイクがミュートされ、金色のリングと閉じた金色のスリットで示されます。バッテリーで放置されると、デバイスは休止し、暗くなり、ディープスリープし、持ち上げるか触れると起きます。
ハードウェアには、ESP32-S3R8デュアルコア240 MHz SoC、CO5300 QSPI AMOLED、CST9217タッチ、ES7210とES8311オーディオ、Wake-on-Motion付きQMI8658 IMU、AXP2101 PMIC、8 MBオクタルPSRAM、2つの4 MB OTAスロット付き32 MBフラッシュが含まれます。CリビジョンにはTCA9554、RTC、microSDスロットがありません。時刻はSNTPに支えられています。
ライブ機能には、WakeNetウェイクワード、サーバーVAD、AECを備えた直接のGemini Liveデュプレックスセッション、スピーカー背後の適応ジッタバッファ、3つのセッションウォッチドッグ(キープアライブ、無返答、未応答発話)、ウェブ検索とニュース、天気、Wikipedia、価格、為替レート、タイムゾーン、翻訳、研究論文、デバイスレベル用の音声ツール(デバイス上で強制される読み取り専用許可リストの背後)、オプションのZeroChatコンパニオンモード、ディープスリープで終わる休止ラダー、合成入力が上書きできない物理的権限、プリフライト、試用、ロールバックを備えたデュアルスロットOTAが含まれます。ホストテストされたレンダリングは、リング、シート、HUDで556のチェックをカバーします。
リポジトリは、main/をコンポジションルートおよびHTTPルート権限として中心に構成され、components/jr_core(純粋なセッションと休止ラダー状態)、jr_transport(GeminiフレーミングとWebSocket)、jr_audio、jr_display、jr_tools、jr_imu、jr_power、jr_net、さらにボード定義、ビルド/フラッシュ/OTA/QA用スクリプト、広範なドキュメントが含まれます。ビルドはscripts/build-v5.shとscripts/flash-v5.shを介してespressif/idf:v5.5.4に固定されたDockerを使用します。実行中のデバイスはUSB-JTAGではなくscripts/jarvisctl.py otaでWi-Fi経由で更新されます。
セキュリティノートは明確です。シークレットはデバイスNVSまたはホストキーチェーンに保存されますが、NVSは現在暗号化されていないため、物理的なフラッシュアクセスでWi-Fi、Gemini、JarvisMCPの認証情報が露出します。ツールは完全なゲートウェイ権限を持つベアラーを伴うレガシー/actルートを介してJarvisMCPに到達するため、デバイスは読み取り専用許可リストを強制します。サーバー側の機能ポリシーを備えた型付き/device/v1/invokeルートが意図されていますが、プロビジョニングされていません。JR_DEV_OPEN_DIAGNOSTICSはリリース前に0でなければならず、署名済みイメージ、認証された暗号化アップロード、NVS/フラッシュ暗号化はリリースゲートとして残っています。プロジェクトはApache-2.0です。
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.