chatbot

Torvian Chatbot은 데이터, 모델 제공자, 도구 실행에 대한 통제권을 원하는 사용자를 위한 자체 호스팅 AI 워크스페이스입니다. 서버를 직접 실행하고, 자신의 LLM 설정을 연결하며, 에이전트 작업에 사람이 개입하도록 유지합니다. README에 설명된 주요 기능: - 자체 LLM 제공자 사용: OpenAI 호환 API 및 로컬 Ollama 모델. - 서로 다른 채팅 세션에서 동시 응답을 포함해 모델 응답을 실시간으로 스트리밍. - 스레드/분기 메시지 흐름으로 긴 대화를 정리. - 도구 실행은 기본적으로 승인이 필요하며, 도구별 자동 승인 또는 자동 거부 환경설정을 선택적으로 지원. - 이전 메시지 어디에서든 에이전트 대화를 다시 시작하고 컨텍스트와 도구 상태를 복원. - 인증과 역할/권한 기반 인가를 갖춘 다중 사용자 접근. - 데스크톱, 웹(WASM), Android용 멀티 플랫폼 클라이언트가 모두 동일한 서버에 연결. - 도구는 클라이언트가 실행되는 위치와 무관하게 어떤 머신(로컬, 원격, VM)에서든 24/7 실행 가능. 아키텍처: Ktor 서버가 인증/인가, 채팅 세션, 메시지 처리, LLM 통합, 도구 수명주기, 영속성(SQLite via Exposed ORM)을 위한 핵심 API와 오케스트레이션 계층을 제공합니다. Compose Multiplatform 클라이언트는 Desktop, Web(WASM), Android를 지원합니다. 선택적 독립 워커 프로세스가 MCP 도구 실행을 처리하며, 워크스페이스 격리와 상시 가용성에 유용합니다. 서버는 사용자 정의 JSON 프로토콜을 사용해 WebSocket으로 워커와 통신합니다. 프로젝트 상태: 활발히 개발 중입니다. 서버와 Desktop 조합이 가장 완성도 높고 안정적인 조합으로 설명되며, Web(WASM)은 일부 제한이 있지만 안정적이고, Android는 알려진 UX 제한이 있는 초기 단계입니다. 시작하기: 사전 빌드된 패키지가 Releases 페이지에 게시되어 있습니다(서버, 워커, Windows/Linux용 데스크톱 클라이언트, 정적 웹 클라이언트). 서버는 시작 스크립트 또는 ghcr.io의 Docker 이미지로 실행할 수 있으며, Docker 빠른 시작 명령이 제공됩니다. 기본 로그인은 admin/admin123이며 첫 로그인 시 비밀번호 변경이 강제됩니다. 워커는 MCP 도구 실행에 필요하고, 인증을 위해 활성 사용자 계정이 필요하며, 설정 중 SSL 인증서를 생성합니다. 신뢰할 수 있는 서명자 자격 증명은 CLI 플래그 또는 환경 변수로 등록할 수 있습니다. 워커에는 도구 실행을 더 잘 격리할 수 있어 Docker가 권장됩니다. 소스에서 빌드하려면 Git, JDK 21+ 및 포함된 Gradle 래퍼가 필요하며, 별도의 Gradle 작업으로 서버, 데스크톱 앱, 웹 앱, 워커를 빌드합니다. 문서에는 LLM 구성, MCP 서버 구성, 신뢰할 수 있는 서명자, VPS/Docker 배포 가이드가 포함되어 있습니다. 기술 스택: Kotlin, Compose Multiplatform with Material 3, Ktor, SQLite with Exposed, Koin, Arrow, kotlinx.serialization 및 Gradle. MIT 라이선스입니다.