llm-budget-proxyInkByteStudio
NOVOUm reverse proxy leve para a API da OpenAI com orçamentos de tokens por chave, limitação de taxa, painéis de custos e downgrade automático de modelos.
Descubra projetos open source de qualidade, envie projetos anonimamente e reivindique e edite seu próprio projeto.
Um pouco de curiosidade. Um mundo de código aberto.
THE FIRST COLLECTIONUm reverse proxy leve para a API da OpenAI com orçamentos de tokens por chave, limitação de taxa, painéis de custos e downgrade automático de modelos.
Kahuna é um kit de ferramentas de sistemas distribuídos de código aberto que oferece bloqueio distribuído, um armazenamento chave/valor tolerante a falhas e sequenciamento de IDs ordenados globalmente, construído sobre consenso Raft e MVCC.