このプロジェクトについて
Torvian Chatbotは、データ、モデルプロバイダー、ツール実行を自分で管理したいユーザー向けのセルフホスト型AIワークスペースです。サーバーは自分で運用し、独自のLLM構成を接続し、エージェント的なアクションには人間を介在させます。
READMEに記載されている主な機能:
- 独自のLLMプロバイダーを持ち込める: OpenAI互換APIとローカルOllamaモデル。
- モデル応答をリアルタイムでストリーミングし、異なるチャットセッションからの応答を同時に処理。
- スレッド/分岐したメッセージフローで長い会話を整理。
- ツール実行はデフォルトで承認が必要で、ツールごとに自動承認または自動拒否の設定が可能。
- 任意の過去メッセージからエージェント会話を再開し、コンテキストとツール状態を復元。
- 認証とロール/権限ベースの認可を備えたマルチユーザーアクセス。
- デスクトップ、Web (WASM)、Android向けのマルチプラットフォームクライアントがすべて同じサーバーに接続。
- ツールはクライアントの実行場所に依存せず、任意のマシン(ローカル、リモート、VM)で24時間365日実行可能。
アーキテクチャ: KtorサーバーがコアAPIとオーケストレーション層を提供し、認証/認可、チャットセッション、メッセージ処理、LLM統合、ツールライフサイクル、永続化(Exposed ORM経由のSQLite)を担います。Compose Multiplatformクライアントはデスクトップ、Web (WASM)、Androidをカバーします。オプションのスタンドアロンワーカープロセスがMCPツール実行を処理し、ワークスペースの分離や常時稼働に有用です。サーバーはカスタムJSONプロトコルを使用してWebSocket経由でワーカーと通信します。
プロジェクト状況: 活発に開発中。サーバーとデスクトップの組み合わせが最も完全で安定していると説明されています。Web (WASM)は安定しているがいくつかの制限があります。Androidは初期段階で、既知のUX上の制限があります。
はじめに: ビルド済みパッケージはReleasesページで公開されています(サーバー、ワーカー、Windows/Linux向けデスクトップクライアント、静的Webクライアント)。サーバーは起動スクリプトまたはghcr.ioのDockerイメージで実行できます。Dockerのクイックスタートコマンドが提供されています。デフォルトのログインはadmin/admin123で、初回ログイン時にパスワード変更が強制されます。ワーカーはMCPツール実行に必要で、認証のためにアクティブなユーザーアカウントが必要であり、セットアップ中にSSL証明書を生成します。信頼された署名者の資格情報はCLIフラグまたは環境変数で登録できます。ツール実行の分離が向上するため、ワーカーにはDockerが推奨されています。
ソースからのビルドにはGit、JDK 21以上、同梱のGradleラッパーが必要です。個別のGradleタスクでサーバー、デスクトップアプリ、Webアプリ、ワーカーをビルドします。ドキュメントにはLLM設定、MCPサーバー設定、信頼された署名者、VPS/Dockerデプロイガイドが含まれます。技術スタック: Kotlin、Material 3を用いたCompose Multiplatform、Ktor、Exposedを用いたSQLite、Koin、Arrow、kotlinx.serialization、Gradle。MITライセンスの下で提供されています。
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.