localrouter

LocalRouter는 완전히 로컬 머신에서 실행되도록 설계된 셀프 호스팅 AI API 프록시 게이트웨이입니다. 개발자는 OpenAI, Anthropic, Azure, Ollama 등을 포함한 여러 AI 제공업체에 대한 액세스를 단일한 일관된 엔드포인트 뒤로 통합할 수 있습니다. 이를 통해 제공업체나 모델을 변경할 때 애플리케이션 코드를 수정할 필요가 없습니다. 주요 기능으로는 모델 별칭 지정(예: 'gpt-4o'를 임의의 업스트림 제공업체에 매핑), 활성 업스트림 간의 원클릭 전환, 전체 요청/응답 로깅(스트리밍 SSE 콘텐츠 포함), 모델별 설정 가능한 가격 기반의 실시간 비용 추적, 그리고 소스, 엔트리 또는 모델별 토큰 추세 및 세부 내역이 포함된 상세 사용량 분석이 있습니다. 이 도구는 선택적 인증 토큰을 통한 액세스 제어를 지원하며, 데스크톱 앱(macOS, Windows, Linux)과 서버 모드를 모두 제공합니다. 모든 데이터는 SQLite 데이터베이스에 로컬로 저장되어 개인 정보 보호와 오프라인 작동을 보장합니다. 개발자는 기본 URL을 변경하는 것만으로 기존 OpenAI SDK와 원활하게 통합할 수 있습니다. 대시보드는 소스, 엔트리, 로그 및 통계에 대한 시각적 관리를 제공하여 디버깅과 모니터링을 간편하게 만듭니다. 로그는 최대 10,000개로 제한되며 별표 표시되지 않은 레코드는 자동으로 삭제되는 반면, 별표 표시된 로그는 무기한 보존됩니다. 설정은 .env 파일을 통해 포트와 데이터베이스 경로를 간단히 지정할 수 있습니다. MIT 라이선스로 제공됩니다.