オープンソース。新しい可能性。

Open Dungeon is a fully local AI roleplay app that generates stories and inline scene images on your machine using Ollama and FLUX, without cloud services or API keys.

Unslothは、Windows、macOS、Linuxで大規模言語モデル（LLM）や拡散モデルをローカルに実行およびトレーニングするためのデスクトップアプリケーションおよびフレームワークです。

Xinferenceは、言語・音声・マルチモーダルモデルの提供に対応した統合推論ライブラリです。OpenAI互換RESTful API、異種GPU/CPU活用、分散配置を提供し、LangChain、LlamaIndex、Dify、Chatboxと連携します。

UL-SMFは、長文脈Transformer推論向けKVキャッシュ圧縮フレームワークであり、FSQと16次元潜在マッピングにより最大384倍の圧縮を主張しています。中核の圧縮ロジックは、プロプライエタリなクローズドソースバイナリを必要とします。

LlamaFactoryは100以上の大規模言語モデルとマルチモーダルモデルの効率的なファインチューニングを可能にするPythonフレームワークで、ゼロコードCLI、Gradio Web UI、LoRA/QLoRA、複数の学習アルゴリズムを提供します。

Ollamaは、macOS、Windows、Linux上でオープンソースの大規模言語モデルをローカルに実行、管理し、それらを利用した構築を可能にするツールです。

Hugging Face Transformersは、テキスト、ビジョン、オーディオ、マルチモーダルタスクに対応した機械学習用モデル定義フレームワークです。100万以上の学習済みチェックポイントを備え、推論と学習のための統一APIを提供します。