pezzo

Pezzo는 대규모 언어 모델을 사용하는 팀을 대상으로 한 오픈소스, 클라우드 네이티브 LLMOps 플랫폼입니다. README에 따르면, 프롬프트 설계, 버전 관리, 즉시 배포, 협업, 문제 해결 및 관찰 가능성을 간소화하도록 설계되었습니다. 저장소에 설명된 주요 기능: - 프롬프트 관리: 한 곳에서 프롬프트를 생성, 버전 관리 및 관리하며, 변경 사항을 즉시 배포할 수 있습니다. - 관찰 가능성: AI 운영을 관찰하고 모니터링하며 문제를 해결할 수 있습니다. - 캐싱: README는 캐싱이 비용과 지연 시간을 절약하는 데 도움이 될 수 있다고 명시합니다. - 협업: 프롬프트와 AI 변경 사항을 협업적으로 관리할 수 있습니다. README에 나열된 지원 클라이언트에는 Node.js(npm의 @pezzo/client), Python(PyPI) 및 LangChain이 포함됩니다. 기능 매트릭스는 이러한 클라이언트 전반에서 프롬프트 관리, 관찰 가능성 및 캐싱이 지원됨을 보여줍니다. 프로젝트는 추가 클라이언트를 요청하는 이슈를 환영합니다. 아키텍처 및 배포: Pezzo는 완전히 클라우드 네이티브로 설명되며 PostgreSQL, ClickHouse, Redis 및 Supertokens를 포함한 오픈소스 기술에 의존합니다. 전체 스택을 로컬에서 실행하기 위한 Docker Compose 설정이 문서화되어 있으며, Node.js 18+, Docker, Nx, Prisma 마이그레이션 및 GraphQL codegen을 사용하는 개발 모드도 설명되어 있습니다. 서버는 상태 확인 엔드포인트를 노출하며, Pezzo Console은 별도의 웹 애플리케이션으로 실행됩니다. 다양한 사용 사례와 LLM 제공업체에 대한 문서, 튜토리얼 및 레시피는 공식 문서 사이트에서 제공됩니다. 프로젝트는 풀 리퀘스트와 이슈를 통한 커뮤니티 기여를 환영하며, CONTRIBUTING.md와 Contributor Covenant 행동 강령을 포함합니다. 소스 코드는 Apache 2.0 라이선스로 배포됩니다.