human-cognition-layer

Human Cognition Layer (HCL)는 인간의 심리 상태 모델링과 의사결정 보정을 위한 연구 프로젝트입니다. 핵심 아이디어는 기저 모델의 가중치를 수정하지 않고, 명확하고 재현 가능하며 전이 가능한 인지 구조를 통해 인간의 지식, 신념, 의도, 인과적 불확실성 및 사회적 의사결정을 보다 안정적으로 모델링하여 최종 응답이나 행동을 개선하는 것입니다. 프로젝트는 module-first 원칙을 채택하여, 인지 계층은 항상 처리 파이프라인에 유지되며, 성능 저하는 진단 신호로 간주됩니다. HCL을 우회하여 더 나은 벤치마크 점수를 얻는 방식은 사용하지 않습니다. 현재 단계는 PHASE-04로, 의사결정 전략 수정과 새로운 홀드아웃 검증에 중점을 두고 있으며, 아직 모델 학습은 시작되지 않았습니다. HCL v0.3 아키텍처는 세 가지 주요 부분으로 구성됩니다: 1. 동결된 인지 상태: 각 입력에 대해 먼저 구조화된 cognition state를 구성하며, SIMPLE, EPISTEMIC, CAUSAL_AMBIGUITY 등의 모드를 지원합니다. 세계의 진실과 에이전트 지식의 분리, 1차 및 2차 신념의 분리, 정보 전이에 증거 브릿지가 필요하다는 의미론적 원칙을 강조합니다. 2. 상시 응답 루프: 입력이 인지 상태, 기저 모델 초안, 일관성 및 보정 검사를 거쳐 최종 응답을 생성합니다. 검사기는 사실 일관성, 정보 접근성, 신념 계층, 오류 명확화 및 응답 세분성에 주목합니다. 3. 상호작용 의사결정 전략: SOTOPIA 등의 환경에서 인지 상태를 행동 전략으로 추가 매핑하여, 행동 전략 부재로 인한 과도한 수동성이나 저정보 행동을 방지합니다. 프로젝트는 CogToM과 SOTOPIA-Hard 두 가지 평가를 제공합니다. CogToM은 현재 진단 및 회귀 도구로 사용되며, SOTOPIA-Hard는 주요 방법 검증 환경입니다. README에는 state fidelity, answer checker 및 SOTOPIA-Hard의 실험 데이터가 기록되어 있지만, 이는 연구 증거일 뿐 제품 능력 선언이 아니며, 긍정적인 홀드아웃 신호는 사전 정의된 반복 실험과 기저 모델 간 전이 검증을 통해 확인해야 한다고 명시되어 있습니다. 저장소에는 역사적인 CogToM runner 스크립트도 포함되어 있으며, DeepSeek API를 통해 베이스라인 또는 진단 테스트를 실행할 수 있습니다. 실시간 실행 상태는 STATUS.md를 유일한 사실 소스로 삼습니다.