このプロジェクトについて
Peaky Peek(agent_debugger)は、AIエージェントのデバッグに特化して設計された、ローカルファーストでオープンソースの監査・信頼コンソールです。LangSmith、OpenTelemetry、Sentryなどの従来の可観測性ツールとは異なり、Peaky Peekは運用担当者が実際に気にする質問に答えることに焦点を当てています:このエージェントが行ったことを信頼できるか?
このツールは、各エージェントアクションの背後にある完全な因果関係の連鎖を捕捉し、各実行を監査記録として再構成します。この記録は、何が起こったか、なぜ起こったか、どのような証拠に基づくか、どのような結果をもたらしたか、どこで失敗したかという5つの重要な質問に答えます。すべての主張は、検証済み、部分的に検証済み、矛盾、裏付けなし、未検証、古いのいずれかに決定的に分類され、各セッションには説明可能な信頼スコアと、行動(act)、検証優先(verify-first)、行動禁止(do-not-act)という名前付きの姿勢を持つ判定カードが付与されます。
主な機能は以下の通りです:
- 決定的な判定カード、説明可能な信頼スコア、失敗の説明、検証バッジ、リスクシグナルを備えたエージェント監査・信頼コンソール
- エージェントの推論をインタラクティブなツリーとしてナビゲートするための決定木可視化
- チェックポイント対応の再生によるエージェント実行のタイムトラベルを可能にするチェックポイントリプレイ
- 全セッションにわたって特定のイベントを見つけるためのトレース検索
- 類似した失敗の適応的分析のための失敗クラスタリングとマルチエージェント連携
- 2つのエージェント実行を並べて比較するためのセッション比較
統合は3つの方法で提供されます:シンプルなデコレータ(@trace)、コンテキストマネージャ(trace_session)、およびPydanticAI、LangChain、OpenAI SDK、CrewAI、AutoGen、LlamaIndex、Anthropicとコード変更なしで動作するゼロコンフィグの自動パッチです。
アーキテクチャは、計測用のSDKレイヤー、検出と再生用のインテリジェンスレイヤー、SQLiteストレージを備えたFastAPIサーバー、および9つの専門パネルを備えたReact/TypeScriptフロントエンドで構成されています。このプロジェクトはMITライセンスで、Python 3.10以上が必要で、peaky-peek-serverとしてpipから利用できます。
プライバシー機能には、外部テレメトリなしのローカルファースト運用、オプションの編集パイプライン、bcryptハッシュによるAPIキー認証、クラウド依存なしのSQLiteストレージが含まれます。
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.