llm-budget-proxyInkByteStudio
НОВОЕЛегковесный реверс-прокси для OpenAI API с функциями управления бюджетом токенов для каждого ключа, ограничением частоты запросов, панелью мониторинга затрат и автоматическим понижением версии модели.
OPEN SOURCE, OPEN TO EVERYONE
Открытый код. Новые возможности.
Находите качественные проекты с открытым исходным кодом, отправляйте проекты анонимно, заявляйте права на свои проекты и редактируйте их.
✳Выбор редакции · Находите хороший open source4107найдено
Немного любопытства. Мир открытого кода.
THE FIRST COLLECTIONTopic: rate-limiter清除