atomic-chat

Atomic Chatは、プライバシーとオフライン動作を重視し、オープンウェイトの大規模言語モデルを自分のマシンで実行することを目的としたローカルAIアプリケーションおよび推論エンジンです。macOS、Windows、Linux向けのデスクトップビルドに加え、iOSおよびAndroidアプリとして提供されています。 READMEに記載されている主な機能: - ローカルモデル実行: Hugging FaceからLlama、Gemma、Qwen、Mistral、Phi系などのオープンウェイトモデルを実行できます。 - OpenAI互換ローカルAPI: http://localhost:1337/v1 のサーバーがOpenAI SDKのドロップイン代替として機能するため、既存のエージェント、CLI、IDEプラグインはベースURLを変更するだけで接続できます。デフォルトでは127.0.0.1にバインドされ、hostを0.0.0.0に設定することでLAN上に公開できます。 - 複数の推論バックエンド: TurboQuant KVキャッシュオプションを備えたllama.cppフォーク、アップストリームのllama.cpp、Apple Silicon向け視覚言語モデル用のMLX-VLM。READMEには、クライアントはどのバックエンドがアクティブかを知る必要がないと記載されています。 - デコードおよびパフォーマンスオプション: Multi-Token Prediction投機的デコード、DFlashブロック拡散デコード、Flash Attentionトグル、推論コンテキスト追跡、自動コンテキストウィンドウ拡張。 - クラウドモデルサポート: OpenAI、Anthropic、Mistral、Groq、MiniMax、Qwen、Moonshotなどの組み込みプロバイダーに対応し、独自キーの持ち込みやチャットごとのモデル切り替えが可能です。 - ツールと統合: 外部エージェント(Claude Code、Codex CLI、Cline、OpenCode、Goose、OpenHands、Copilot CLI、Kilo Code、Zedなど)のワンクリック起動、HTML/CSS/JS用のArtifactsプレビューパネル、MCPサーバー接続、システムプロンプト付きカスタムアシスタント、会話ツリービューを備えたプロジェクト。 READMEでは、Node.js 20+、Yarn、Make、Rustを使用したソースからのビルド、プラットフォームごとのシステム要件、Linux AppImageの使用方法、GitHub IssuesやDiscordでのトラブルシューティングについても説明されています。READMEに記載されているパフォーマンス数値(スループット向上やKVキャッシュサイズ削減など)はプロジェクト自身の主張であり、ここで独自に検証されたものではありません。