프로젝트 소개

JouleWise는 LLM 추론 단계의 에너지 소비를 측정하기 위한 관리형 프레임워크를 제공합니다. 이는 측정 세션(윈도우)이 정규화된 구성, 이벤트 로그 및 원시 전력 트레이스를 포함하는 불변의 실행 번들로 기록되는 엄격한 증거 기반 파이프라인을 구현합니다. 주요 기능은 다음과 같습니다: - 실행, 번들 검증, 원시 데이터의 요약 메트릭 변환 및 정적 HTML 보고서 생성을 위한 CLI 기반의 실행 가능한 하네스. - Apple Silicon을 위한 powermetrics 기반 MLX 런타임과 NVIDIA GPU를 위한 vLLM 기반 스택을 포함한 다양한 텔레메트리 어댑터 지원. - 기록된 증거와 출처의 무결성을 보장하기 위한 엄격한 검증 도구(`validate-bundle`). - JSON-Schema 내보내기 및 검증 기능이 포함된 타입 지정 구성 시스템. - 장치 간 및 구성 간 비교를 가능하게 하는 총 측정 에너지와 유휴 상태 제외 에너지 뷰 모두 지원.