hindsight

Hindsight는 AI 에이전트가 시간이 지남에 따라 학습하고 개선할 수 있도록 설계된 오픈소스 에이전트 메모리 시스템으로, 단순한 대화 회상을 넘어섭니다. 장기 메모리 작업에서 RAG 및 지식 그래프 접근 방식의 대안으로 자리매김하고 있습니다. ## 기능 Hindsight는 인간의 기억이 작동하는 방식에서 영감을 받은 생체모방 데이터 구조를 사용하여 메모리를 구성합니다. 메모리는 다음과 같이 분류됩니다: - **세계 사실**: 세계에 대한 일반적인 사실 - **경험**: 에이전트 자신의 직접적인 경험 - **관찰**: 시간이 지남에 따라 많은 메모리로부터 형성된 통합되고 증거에 기반한 신념 - **정신 모델**: 관찰과 사실로부터 종합된, 에이전트의 세계에 대한 학습된 이해 시스템은 세 가지 핵심 작업을 제공합니다: 1. **Retain** — 새로운 정보를 저장합니다. LLM을 사용하여 엔티티, 관계, 시간 데이터를 추출한 다음, 나중에 검색할 수 있도록 정규 표현으로 정규화합니다. 2. **Recall** — 네 가지 병렬 전략을 사용하여 메모리를 검색합니다: 의미론적 벡터 유사도, 키워드 BM25 매칭, 그래프 기반 엔티티/시간/인과 링크, 시간 범위 필터링. 결과는 reciprocal rank fusion을 통해 병합되고 재순위화됩니다. 3. **Reflect** — 기존 메모리에 대한 심층 분석을 수행하여 새로운 연결을 형성하거나, 복잡한 질문에 답하거나, 철저한 이해를 구축합니다. 관찰은 관련된 보존 사실로부터 백그라운드에서 자동으로 통합되며, 정확한 인용과 함께 뒷받침 증거를 유지합니다. 정신 모델은 뱅크가 더 많이 학습함에 따라 Hindsight가 다시 작성하는 정의된 질문에 대한 상시 답변입니다. ## 사용 방법 ### 배포 옵션 - **Docker** (권장): `docker run`으로 단일 컨테이너를 실행하여 포트 8888에 API를, 포트 9999에 UI를 노출합니다. - **베어 메탈**: `pip install hindsight-api`로 설치하고 직접 실행합니다. - **Kubernetes**: `oci://ghcr.io/vectorize-io/charts/hindsight`에서 Helm 차트를 사용할 수 있습니다. - **임베디드 (Python)**: `pip install hindsight-all`로 별도 배포 없이 인프로세스 서버를 사용할 수 있습니다. - **Hindsight Cloud**: 자동 확장과 99.9% 가동 시간 SLA를 갖춘 관리형 호스팅 옵션입니다. 서버는 OpenAI, Anthropic, Gemini, Groq, Bedrock, Ollama 및 모든 OpenAI 호환 엔드포인트를 포함한 25개 이상의 LLM 제공업체와 작동합니다. ChatGPT Plus, Claude Pro, Cursor, GitHub Copilot의 기존 구독은 API 키 없이 작동합니다. ### 클라이언트 라이브러리 Python(`hindsight-client`), Node.js/TypeScript(`@vectorize-io/hindsight-client`), Go, CLI를 모두 사용할 수 있습니다. 간단한 예: ```python from hindsight_client import Hindsight client = Hindsight(base_url="http://localhost:8888") client.retain(bank_id="my-bank", content="Alice works at Google") results = client.recall(bank_id="my-bank", query="What does Alice do?") ``` ### 빠른 통합 LiteLLM 래퍼(`hindsight-litellm`)를 사용하면 두 줄의 코드로 기존 LLM 클라이언트를 감쌀 수 있으며, 각 호출 전에 관련 메모리를 자동으로 회상하고 호출 후 대화를 보존합니다. 이를 통해 LiteLLM을 통해 100개 이상의 모델을 지원합니다. ### 통합 Hindsight는 코드 변경이 필요 없는 60개 이상의 통합을 제공합니다: - **코딩 에이전트**: Claude Code, Codex, Cursor, GitHub Copilot, Aider, Cline 등 — git 기록에서 구축된 저장소별 프로젝트 메모리를 위한 전용 패키지 포함. - **에이전트 프레임워크**: LangGraph/LangChain, LlamaIndex, CrewAI, Pydantic AI, OpenAI Agents SDK, Google ADK, AutoGen 등. - **노코드/로우코드**: n8n, Zapier, Dify, Flowise. - **앱**: ChatGPT, Perplexity, Obsidian, Vapi, Pipecat. 모든 서버는 `/mcp/{bank_id}/`에 내장 MCP 엔드포인트를 노출하여 모든 MCP 클라이언트가 retain, recall, reflect를 도구로 사용할 수 있게 합니다. ## 주요 기능 - **기본 다국어 지원**: 입력 언어가 감지되고 보존되며, 엔티티는 원래 문자를 유지합니다(예: 张伟는 张伟로 유지). - **Memory Defense**: 모든 retain에서 45개 패턴에 대해 비밀과 PII를 스캔하여 저장 전에 일치 항목을 수정하거나 차단하는 뱅크별 선택적 정책입니다. - **메모리 뱅크**: 사용자, 에이전트 또는 프로젝트별로 격리된 메모리 저장소로, 뱅크 간 엄격한 누출 방지를 보장합니다. 뱅크는 reflect가 추론하는 방식을 형성하는 성향 특성(회의주의, 문자주의, 공감)을 가질 수 있습니다. - **프로덕션 준비**: 저장을 위한 PostgreSQL with pgvector 또는 Oracle AI Database, Prometheus 모니터링, 운영을 위한 관리자 CLI, 수명 주기 이벤트를 위한 웹훅, 테넌트/인증/스토리지 확장 지점. - **지식 페이지**: 뱅크가 자신에 대해 작성하는 살아있는 문서로, 위키처럼 구성되고 마크다운 파일로 프로젝션할 수 있습니다. ## 성능 주장 README에 따르면, Hindsight는 2026년 1월 기준 LongMemEval 벤치마크에서 최첨단 성능을 달성했습니다. 벤치마크 데이터는 Virginia Tech의 Sanghani Center와 The Washington Post의 연구원들에 의해 독립적으로 재현되었으며, 다른 점수는 공급업체가 자체 보고한 것입니다. 실시간 결과는 benchmarks.hindsight.vectorize.io에 게시됩니다.