onyx

Onyx는 LLM을 위한 애플리케이션 계층 역할을 하는 오픈 소스 AI 플랫폼으로, 자체 호스팅 가능한 기능이 풍부한 채팅 인터페이스를 제공합니다. 이는 모든 주요 LLM 제공업체를 지원하며, 자체 호스팅 옵션(Ollama, LiteLLM, vLLM)과 독점 서비스(Anthropic, OpenAI, Gemini)를 포함합니다. 주요 기능은 다음과 같습니다: - 에이전틱 RAG: 정보 검색을 위한 AI 에이전트와 결합된 하이브리드 인덱스. - 심층 연구: 심층 보고서를 생성하기 위한 다단계 연구 흐름. - 사용자 정의 에이전트: 사용자 정의 지침, 지식, 동작으로 에이전트를 구축합니다. - 웹 검색: Serper, Google PSE, Brave, SearXNG와의 통합, 그리고 자체 웹 크롤러 및 Firecrawl/Exa 지원. - 아티팩트: 다운로드 가능한 문서, 그래픽, 파일을 생성합니다. - 동작 및 MCP: 유연한 인증으로 에이전트를 외부 애플리케이션에 연결합니다. - 코드 실행: 데이터 분석 및 파일 수정을 위해 샌드박스에서 코드를 실행합니다. - 음성 모드: 텍스트-음성 및 음성-텍스트 상호 작용. - 이미지 생성: 프롬프트에서 이미지를 생성합니다. 배포 옵션에는 Onyx Lite(1GB 미만의 메모리가 필요한 경량 채팅 UI)와 Standard Onyx(벡터/키워드 인덱싱, 백그라운드 작업자, 모델 추론 서버, Redis 캐싱, MinIO 블롭 스토리지를 포함한 전체 기능 세트)가 있습니다. 지원되는 배포 방법은 Docker, Kubernetes, Helm/Terraform, 그리고 주요 클라우드 제공업체를 포함합니다. 엔터프라이즈 기능에는 SSO(Google OAuth, OIDC, SAML), SCIM 사용자 프로비저닝, 역할 기반 액세스 제어, 사용량 분석, 쿼리 기록 감사, PII 제거를 위한 사용자 정의 코드 실행, 화이트라벨링이 포함됩니다. Onyx는 MIT 라이선스 하에 커뮤니티 에디션을 제공하며, 더 큰 조직을 위한 추가 기능을 갖춘 엔터프라이즈 에디션을 제공합니다.