Código abierto. Nuevas posibilidades.

PocketRisu es una plataforma de chat de rol con IA autoalojada, derivada de RisuAI, que permite ejecutar un servidor personal accesible desde PC, tablet y smartphone a través de un navegador web.

Aider es una herramienta de programación en pareja basada en la terminal que permite a los desarrolladores colaborar con LLMs para crear nuevos proyectos o modificar bases de código existentes.

PowerInfer es un motor de inferencia local para LLMs que usa localidad de activación para mantener neuronas "calientes" en la GPU y calcular las "frías" en la CPU. Soporta inferencia híbrida o solo CPU, servidor, lotes, evaluación de perplejidad, cuantización INT4 y modelos PowerInfer GGUF.

YuE2 es un modelo de generación musical de código abierto que combina planificación simbólica y síntesis de audio. Transforma letras y un estilo en una partitura editable de melodía y acordes, y luego genera una canción completa con voz y acompañamiento. También admite versiones "zero-shot" y edición de partituras "agentic".

vLLM es una biblioteca de alto rendimiento y eficiencia de memoria diseñada para la inferencia y el servicio de modelos de lenguaje extensos (LLM).

Repomix empaqueta un repositorio completo en un único archivo optimizado para IA (XML, Markdown, JSON o texto plano) para facilitar el uso de bases de código en LLM como Claude, ChatGPT y Gemini. Ofrece conteo de tokens, comprobaciones de seguridad, compresión de código y soporte para repositorios remotos.

Proyecto de código abierto de modelos de lenguaje grandes chinos LLaMA y Alpaca, que amplía el vocabulario chino sobre la base del LLaMA original y realiza un segundo preentrenamiento, proporcionando modelos ajustados con instrucciones, pesos LoRA, scripts de entrenamiento y cuantificación, con soporte para ejecución local en CPU/GPU.

Unsloth es una aplicación de escritorio y un framework para ejecutar y entrenar modelos de lenguaje extensos (LLMs) y modelos de difusión localmente en Windows, macOS y Linux.

LocalAI es un motor de inferencia de IA de código abierto y autoalojado que ejecuta modelos de lenguaje, visión, voz, imagen y video en cualquier hardware, incluido sin GPU. Ofrece compatibilidad con APIs de OpenAI, Anthropic y ElevenLabs, backends modulares bajo demanda, autenticación multiusuario y agentes integrados con RAG y MCP.

Oumi es una plataforma de código abierto para el ciclo de vida completo de modelos fundacionales: preparación de datos, entrenamiento y ajuste fino (SFT, LoRA, QLoRA, GRPO), evaluación, síntesis de datos con jueces LLM y despliegue mediante vLLM/SGLang, con CLI y lanzamiento de trabajos en la nube.

UL-SMF es un marco de compresión de caché KV para inferencia de Transformers de contexto largo, que afirma comprimir hasta 384x mediante FSQ y mapeo latente de 16D. La lógica central de compresión requiere un binario propietario de código cerrado.

LlamaFactory es un framework de Python para el ajuste fino eficiente de más de 100 modelos de lenguaje grandes y multimodales, con CLI sin código, interfaz web Gradio, LoRA/QLoRA y múltiples algoritmos de entrenamiento.

AstrBot es una plataforma de chatbot de agente todo en uno de código abierto que conecta LLMs y marcos de agente a aplicaciones de mensajería instantánea principales como QQ, Telegram, Slack y Feishu, con extensiones de complementos, WebUI y ejecución en sandbox.

Langchain-Chatchat es una aplicación de código abierto de RAG y Agent basada en Langchain y grandes modelos como ChatGLM, Qwen, Llama, que admite preguntas y respuestas con base de conocimiento local, integración de múltiples marcos de inferencia de modelos, WebUI y servicios API.

Ollama es una herramienta que permite a los usuarios ejecutar, gestionar y construir con modelos de lenguaje extensos de código abierto localmente en macOS, Windows y Linux.

Una herramienta de productividad de línea de comandos impulsada por LLMs de IA. Genera comandos de shell, fragmentos de código y documentación, admite modos chat/REPL, roles personalizados y llamadas a funciones. Compatible con Linux, macOS y Windows.

SGLang es un marco de servicio de alto rendimiento para modelos de lenguaje extensos (LLM) y modelos multimodales, diseñado para una inferencia de baja latencia y alto rendimiento.