オープンソース。新しい可能性。

Janoは複数のローカルLLMを単一GPUで共有するための軽量OpenAI互換ルーター。リクエストを貪欲にバッチ処理し、モデル切り替え回数を削減することで、ローカル環境での大幅な時間短縮を実現する。

Lexosは、Goゲートウェイ、Pythonワーカー、Redisキュー、セルフホストモデルを組み合わせたイベント駆動型AI文書処理エンジンで、オフラインRAG、要約、音声文字起こしを実現します。

ELIは、完全に自分のハードウェア上で動作する、厳密にローカルでプライベートなAIアシスタントです。音声、視覚、記憶、そしてコンピュータ制御、メディア再生、文書処理、コーディング、タスク自動化など17分野にわたる227の機能を提供します。デフォルトでオフライン動作し、任意のローカルGGUFモデルを使用可能で、モデル非依存です。オプションでGPUアクセラレーションと、LAN経由のリモートアクセス用Webダッシュボードも備えています。