このプロジェクトについて
FreeLLMAPIは、34のLLMプロバイダーと600以上のモデルエンドポイントの無料枠にアクセスするための統合された /v1 エンドポイントを提供します。これにより、ユーザーは複数の無料クォータを積み重ねて総推論容量を増やしつつ、レート制限やプロバイダーの障害を自動的に管理できます。
主な機能は以下の通りです：
- 統合API：チャット、補完、埋め込み、画像、ビデオ、音声向けのOpenAI互換インターフェースに加え、Anthropic MessagesおよびGeminiネイティブインターフェースをサポートしています。
- スマートルーティング：6つのルーティング戦略を備え、プロバイダーがレート制限に達した際やエラーを返した際に、自動フェイルオーバーとキーローテーションを行います。
- モデル管理：自動更新されるモデルカタログと、暗号化されたAPIキーの管理および利用分析を追跡するためのReactベースの管理ダッシュボードが含まれています。
- 高度な機能：「Fusion」（マルチモデル合成）、プロンプト圧縮、コンテキスト引き継ぎのためのスティッキーセッション、およびエージェント内省用のMCPサーバーを提供します。
- デプロイメント：Dockerコンテナ、macOSおよびWindows向けのネイティブデスクトップアプリとして提供され、ARM SBCを含むNode 20+環境で動作します。
- 統合：Claude Code、Aider、Cline、Cursorなどの様々なコーディングエージェントやCLI向けの自動セットアップツールを提供しています。