lociant

Lociantは、AndroidネイティブのローカルAIランタイムであり、Androidスマートフォン、Rockchipボード、小型Linuxシステムなど、低消費電力で常時オンのエッジデバイスを制御されたエッジノードに変えることを目的としています。ローカルでのモデル実行、ハードウェアに支えられたデバイス機能、認証済みLAN接続を可能にし、実行とポリシーをクラウドではなくデバイス上に保持します。 このプロジェクトは、GGUFモデルのインポートと、llama.cppによるローカル推論実行をサポートします。デバイス機能には、権限が許す範囲で、画面制御、アクセシリティ機能、カメラアクセス、センサー、ファイル操作、プロセス管理が含まれます。外部クライアントは、MCP Streamable HTTPまたはポート11434で提供されるコントロールAPIを通じて接続できます。 サポートされるデバイス役割: - Androidスマートフォン: Flutterコンソール、Rustバックエンド、Kotlinデバイス層を備えたフルエッジノード - Rockchipボード: Rustサービス、RKLLM NPUランタイム、ターミナルTUIを備えたヘッドレスエッジノード - Linuxデスクトップ: グラフィカルコントローラーおよび開発ホスト アーキテクチャは、モデルインベントリ、ツールレジストリ、ピアネットワーキング、ポリシー適用のために共有Rustバックエンドを使用します。GGUF推論はローカルllama.cppプロセスとして実行され、NCNNはAndroid上のカメラおよびビジョン操作を処理し、RKLLMはサポートされるRockchipボードで使用されます。 ツール公開は累積的権限モデル（read、sensor、action）に従い、各ツールには実行前にチェックされるremoteAllowedポリシーがあります。ランタイムはチャットUIや汎用エージェントループを提供しません。代わりに、クラウドまたはデスクトップクライアントがオーケストレーションできる制御された機能レイヤーとして動作します。 ビルドと実行の詳細はリポジトリのappsディレクトリにあり、Flutter UI、Rustバックエンド、Androidデバイス層用の個別コンポーントが含まれています。