オープンソース。新しい可能性。

GPT4Freeは、複数の言語モデルおよびメディア生成プロバイダーを統合インターフェースで提供します。Python/JSクライアント、OpenAI互換REST API、GUI、CLIを備え、gpt-4o-miniやfluxなどのモデルによるテキスト・画像生成をサポートしています。

キーごとのトークン予算管理、レート制限、コストダッシュボード、および自動モデルダウングレード機能を備えた、軽量なOpenAI APIリバースプロキシです。

OpenAI の Chat Completions と Embeddings API 用の軽量 FastAPI プロキシ。マルチテナントキーのマッピング、ストリーミング、公式 SDK 互換性をデータベース不要で実現します。

CogniGateは、認証情報を安全に保持しながら、複数のモデルプロバイダーを管理するための単一のOpenAI互換エンドポイントを提供する、セルフホスト型のマルチテナントLLMゲートウェイです。

RouteTokはOpenAIおよびAnthropic互換APIを持つローカルファーストのLLM推論ルーターで、健全性対応フェールオーバー、マルチプロバイダカタログ、運用ダッシュボード、モデルサンドボックスを備える。

LLMルーティング、リトライ、フォールバック、構造化出力、および利用状況・コスト管理を実現するプロバイダー中立的なFastAPIゲートウェイ。モデルエイリアス、リトライポリシー、永続的な利用追跡を備え、GeminiとOpenAIをサポートします。

OpenAI APIで一般的なタスクを遂行するための例コードとガイドのコレクション。主にPythonで記述され、実行にはOpenAIアカウントとAPIキーが必要。

AIを活用したリアルタイムビジュアルノベルエンジンで、ストリーミングナラティブ、キャラ立ち絵、シーン背景、分岐選択肢、共同創作機能を備えています。FastAPI+SSEを使ってデスクトップアプリまたはブラウザで動作します。

Xinferenceは、言語・音声・マルチモーダルモデルの提供に対応した統合推論ライブラリです。OpenAI互換RESTful API、異種GPU/CPU活用、分散配置を提供し、LangChain、LlamaIndex、Dify、Chatboxと連携します。

One APIは、OpenAI、Azure、Anthropic Claude、Google Gemini、DeepSeekなど主要数十モデルをサポートする統一LLM API管理・配布システムです。OpenAI互換形式のAPI、トークン管理、チャンネル負荷分散、ユーザーグループ設定、二次配布機能を提供し、単一バイナリまたはDockerでワンクリックデプロイ可能です。