token-stationballast-ai
신규Token Station은 AI 에이전트와 LLM 제공자를 위한 로컬 라우팅 게이트웨이입니다. Claude Code, Cursor, Codex, Gemini CLI 등을 루프백 전용 게이트웨이를 통해 라우팅하며, 스마트 티어 선택, 할당량 인식 라우팅, 사용량 추적을 제공합니다.
OPEN SOURCE, OPEN TO EVERYONE
오픈 소스. 새로운 가능성.
우수한 오픈 소스 프로젝트를 발견하고, 익명으로 프로젝트를 제출하며, 내 프로젝트를 신청해 편집하세요.
✳편집자 선정 · 좋은 오픈 소스 발견4101발견됨
호기심으로 오픈 소스의 세계를 발견하세요.
THE FIRST COLLECTIONTopic: model-routing清除
llm-gateway-with-litellmMd-Emon-Hasan
신규LiteLLM과 LangChain을 활용한 LLM 게이트웨이 프로젝트. OpenAI 호환 API를 통해 여러 AI 제공업체에 통합 접근, 지능형 라우팅, 자동 장애 조치, 부하 분산, 비용 추적, 캐싱, 관측 가능성 및 PII 숨기기·프롬프트 주입 차단 같은 입력 측 가드레일을 제공한다.
tiered-llm-routersatyam671
신규Gemini 및 Claude 모델을 활용한 3단계 아키텍처를 통해 쿼리 복잡도에 따라 분류함으로써 API 비용을 최적화하는 Python 기반 LLM 라우팅 시스템입니다.