オープンソース。新しい可能性。

LobeHubは、AIエージェントを「エージェント運用の責任者」として位置付けるオープンソースのAIエージェントプラットフォームで、エージェントを業務単位として統合・作成・協働・進化させる仕組みを提供し、DockerやVercelなどでのセルフホストに対応する。

MindsHubは知識作業およびソフトウェア開発向けのオープンソースエージェントワークスペースで、モデルルーター、接続データボルト、交換可能なオープンエージェントハーネス、アーティファクト、メモリ、スケジューリングを提供します。デスクトップ、ウェブ、VPC、またはオンプレミスで動作します。

Xinferenceは、言語・音声・マルチモーダルモデルの提供に対応した統合推論ライブラリです。OpenAI互換RESTful API、異種GPU/CPU活用、分散配置を提供し、LangChain、LlamaIndex、Dify、Chatboxと連携します。

Ollamaは、macOS、Windows、Linux上でオープンソースの大規模言語モデルをローカルに実行、管理し、それらを利用した構築を可能にするツールです。

Hugging Face Transformersは、テキスト、ビジョン、オーディオ、マルチモーダルタスクに対応した機械学習用モデル定義フレームワークです。100万以上の学習済みチェックポイントを備え、推論と学習のための統一APIを提供します。

SGLangは、低遅延かつ高スループットな推論を実現するために設計された、大規模言語モデル（LLM）およびマルチモーダルモデル向けの高性能サービングフレームワークです。