Об этом проекте
JouleWise предоставляет управляемую платформу для измерения энергопотребления фаз вывода LLM. Реализует строгий evidence-based pipeline, где сессии измерений (окна) фиксируются в неизменяемых пакетах запусков с нормализованными конфигурациями, журналами событий и сырыми трассировками мощности.
Ключевые возможности:
- Запускаемый инструментарий с CLI для выполнения запусков, проверки пакетов, преобразования сырых данных в сводные метрики и генерации статических HTML-отчётов.
- Поддержка адаптеров телеметрии: MLX runtime с powermetrics для Apple Silicon и vLLM-стек для NVIDIA GPU.
- Строгие инструменты валидации (`validate-bundle`) для подтверждения целостности данных и происхождения.
- Типизированная система конфигурации с экспортом и валидацией через JSON-Schema.
- Поддержка общего измеренного энергопотребления и скорректированного с учётом простоя для сравнения между устройствами и конфигурациями.
Comments
0 Rating appears after 10 ratings
Sign in to join the discussion.