このプロジェクトについて

Turbo AI Chatは、HarmonyOS NEXT向けに設計されたネイティブ・オンデバイス大規模言語モデルチャットアプリケーションです。本プロジェクトはArkTS、C++ N-API、およびMNN Runtimeを用いて構築されており、Android互換レイヤーを必要とせず、HarmonyOS NDKに直接接続する純ネイティブな推論パス（ArkTS → N-API → MNN → CPU）を実現しています。 主な機能は以下の通りです： - ローカル推論：デバイス端でのLLM直接実行をサポートし、ネットワークに依存せず、ストリーミング出力および生成中断機能を提供します。 - モデル管理：モデルプラザを内蔵し、ModelScopeからプリセットモデル（Qwen3-4B-Instruct, MiniCPM5-1B, Gemma-4-E2B-itなど）をワンクリックでダウンロードできるほか、zipまたはhdc経由で互換性のあるMNNモデルディレクトリを手動でインポートすることが可能です。 - マルチモーダル能力：テキスト対話および画像理解をサポートしています（互換性のあるマルチモーダルMNNモデルに依存）。 - 開発者ツール：リアルタイムの実行監視（CPU、メモリ、温度、TTFT/TPOTなどの指標）およびLAN内OpenAI互換APIサービスを提供し、外部クライアント（Cherry Studioなど）からデバイス端のモデルを呼び出すことができます。 - インタラクションの最適化：スマートフォン、タブレット、PCウィンドウに適合し、オフラインの標準中国語音声入力をサポート。また、充実したMarkdownレンダリング（コードブロックのコピー、テーブルなど）を提供します。 本プロジェクトは、「HarmonyOS + ローカルAI」ソリューションを模索する開発者に、検証可能なエンジニアリングベースラインを提供します。