busbar

Busbarは、汎用リバースプロキシではなく、AIシステム向けの顧客運用型の執行境界として機能します。AIアプリケーションおよびエージェントと、LLMプロバイダー、MCPツール、A2Aエージェントなどの下流の宛先との間のリクエストパスに位置し、オペレーターがモデル呼び出し、ツール使用、エージェント委任を検証、統制、ルーティング、記録してから、リクエストが承認された宛先に到達できるようにします。このプロジェクトは完全にセルフホスト型であり、マネージドホスト型サービス、必須のサインアップ、外部へのフォーンホーム動作はありません。すべてのプロバイダー認証情報は、執行境界にあるオペレーター自身のインフラ内に留まります。イングレスとエグレスの両方で6つのLLMワイヤプロトコルをファーストクラスでサポートします。OpenAI、OpenAI Responses、Anthropic、Gemini、Cohere、Bedrock Converseであり、36通りのイングレスからアップストリームへのプロトコルペアをすべてカバーします。同一プロトコルのルートは元のリクエストバイトを直接転送し、プロバイダーへの直接呼び出しとバイト単位で同等のパリティを実現します。クロスプロトコルのルートは、リクエストフィールドをターゲットプロバイダーのネイティブ形式に一致するよう変換します。クライアント統合では、ベースURLとAPIキーをBusbarインスタンスを指すように変更するだけで済み、既存のネイティブSDKワークフローを変更する必要はありません。デプロイは運用オーバーヘッドを最小限に抑えるよう設計されています。Busbarは、別個のインタープリター、データベース、サイドカーを必要としない単一の静的Rustバイナリとして、または小さな圧縮コンテナイメージとして配布されます。設定は単一のYAMLファイルで定義され、ネットワークアクセスや実行中のサーバーなしで動作する組み込みの設定検証コマンドを備えており、CIパイプラインへの組み込みに適しています。Kubernetesデプロイ用の公式Helmチャートが提供され、非root実行、読み取り専用ルートファイルシステム、不要なLinuxケーパビリティの削除など、強化されたセキュリティデフォルトを備えています。中核となる運用機能には、レーンごとの同時実行制限を備えた重み付きモデルプール、障害要因を特定するサーキットブレーカー、最初の応答バイトがクライアントに到達する前にプロバイダーを切り替えるインフライトフェイルオーバーがあり、ストリーミングリクエストでも機能します。組み込みのガバナンス制御には、仮想APIキー、グループレベルの予算と支出追跡、ネイティブTLSおよびmTLSサポート、PrometheusおよびOTLPテレメトリ、リクエストごとの監査Webhookが含まれます。このプロジェクトのより広範な実行境界モデルは、同じ執行パターンをMCPツールガバナンス（呼び出し元の許可、承認されたスキーマ、予算執行、ドリフト隔離）およびA2Aエージェント信頼（検証、ピン留め、エグレス制御、ターゲットに紐づいた認証情報）にも拡張します。このプロジェクトは自身の実装に関するベンチマーク測定値を公開しており、p50追加レイテンシ73マイクロ秒、ゼロ失敗で毎秒67,837リクエストの持続、アイドル時常駐メモリ7.3 MiB、圧縮コンテナイメージ5.74 MiBを含み、他の一般的なAIゲートウェイおよび汎用APIゲートウェイツールとの公開比較も行っています。このプロジェクトはApache 2.0ライセンスの下でリリースされ、データプレーンHTTPサーフェスおよびサポートされるワイヤプロトコル契約について、メジャーバージョン間でSemVerに安定した契約を提供します。