fairmind

FairMind — это открытая платформа для управления этичным ИИ, предназначенная для проведения оценок доказательного уровня для систем машинного обучения, больших языковых моделей и мультимодальных ИИ. В настоящее время проект находится на внутренней альфа-стадии разработки и предлагает базовую плоскость управления с поддержкой неизменяемой идентификации целевых объектов и наборов, связывания контура выполнения и проверки политик доверия. В платформе уже реализованы устаревшие конечные точки для выявления смещений в предиктивных моделях (демографическое паритет, выравнивание шансов, неравное воздействие, справедливость для отдельных лиц и групп), а также запланированы дорожки для выявления смещений в больших языковых моделях и мультимодальных системах (WEAT, SEAT, минимальные пары, смещения при генерации изображений, аудио и видео). Платформа также предоставляет функцию генерации кода для устранения проблем, опциональные интеграции с MLOps-инструментами Weights & Biases и MLflow, сопоставление доказательств управления с такими нормативными основами, как EU AI Act и ISO/IEC 42001, реестр моделей с поддержкой версионирования и панели мониторинга. Бэкенд платформы реализован на FastAPI, Python, SQLAlchemy, SQLite/DuckDB/PostgreSQL, Redis с аутентификацией по JWT, а фронтенд использует Next.js, React, TypeScript и необруталистский интерфейс. В репозитории проекта представлены инструкции по разработке, документация по API и подробная структура проекта.