Un proxy inverso ligero para la API de OpenAI que cuenta con presupuestos de tokens por clave, limitación de tasa, paneles de costos y degradación automática de modelos.
OPEN SOURCE, OPEN TO EVERYONE
Código abierto. Nuevas posibilidades.
Descubre proyectos de código abierto de calidad, envía proyectos de forma anónima y reclama y edita tu propio proyecto.
✳Selección editorial · Descubre buen código abierto4109descubiertos
Un poco de curiosidad. Un mundo de código abierto.
THE FIRST COLLECTIONTopic: devops清除
llm-budget-proxyInkByteStudio
NUEVOcloudnative-pgcloudnative-pg
NUEVOCloudNativePG es un operador de Kubernetes de código abierto que gestiona todo el ciclo de vida de los clústeres de PostgreSQL—despliegue, conmutación por error, escalado de réplicas, actualizaciones progresivas y copias de seguridad—sin herramientas externas de alta disponibilidad como Patroni o repmgr.
llm-routeradwibha
NUEVOLLM Router dirige prompts a modelos de Perplexity rentables, rastrea tokens y costos en PostgreSQL y ofrece analíticas mediante una API y un tablero de React. Su diseño agnóstico permite intercambiar APIs.