smart-slm-routerqmmughal
신규단순한 쿼리는 소형 언어 모델(SLM)로, 복잡한 쿼리는 프런티어 모델로 라우팅하여 비용을 최적화하는 OpenAI 호환 프로덕션급 스마트 LLM 라우터 및 폴백 프록시입니다.
우수한 오픈 소스 프로젝트를 발견하고, 익명으로 프로젝트를 제출하며, 내 프로젝트를 신청해 편집하세요.
호기심으로 오픈 소스의 세계를 발견하세요.
THE FIRST COLLECTION단순한 쿼리는 소형 언어 모델(SLM)로, 복잡한 쿼리는 프런티어 모델로 라우팅하여 비용을 최적화하는 OpenAI 호환 프로덕션급 스마트 LLM 라우터 및 폴백 프록시입니다.
RouteTok은 OpenAI 및 Anthropic 호환 API를 갖춘 로컬 우선 LLM 추론 라우터로, 건강 상태 기반 페일오버, 다중 제공업체 카탈로그, 운영 대시보드, 모델 샌드박스를 제공합니다.
Token Station은 AI 에이전트와 LLM 제공자를 위한 로컬 라우팅 게이트웨이입니다. Claude Code, Cursor, Codex, Gemini CLI 등을 루프백 전용 게이트웨이를 통해 라우팅하며, 스마트 티어 선택, 할당량 인식 라우팅, 사용량 추적을 제공합니다.
OpenAI 호환 API 라우터로 OpenAI, Anthropic, Gemini 간 요청 변환 및 라우팅을 처리합니다.
Switchboard는 로컬에서 실행되는 AI 게이트웨이로, 16개 제공업체 간 요청을 라우팅하며免費 티어 우선, 자동 폴백, 상세 결정 로그를 제공합니다. 클라우드 계정 없이 작동합니다.