fairmind

FairMind는 머신러닝, 대규모 언어 모델, 멀티모달 AI 시스템에 대한 증거급 평가를 제공하는 것을 목표로 하는 오픈소스 윤리적 AI 거버넌스 플랫폼이다. 현재 프로젝트는 내부 알파 단계에 있으며, 변경 불가능한 대상 및 스위트 식별자, 실행 봉투 바인딩, 신뢰 정책 검증을 위한 기초 제어 평면을 제공한다. 예측 모델용 기존 편향 감지 엔드포인트(인구통계적 동등성, 동등화 오즈, 차별적 영향, 개인 및 집단 공정성)와 계획된 LLM 및 멀티모달 편향 레인(WEAT, SEAT, 최소 쌍, 이미지/오디오/비디오 생성 편향)을 포함한다. 또한 시정 코드 생성, Weights & Biases 및 MLflow와의 선택적 MLOps 통합, EU AI Act 및 ISO/IEC 42001과 같은 프레임워크용 거버넌스 증거 매핑, 버전 관리 기능이 있는 모델 레지스트리, 모니터링 대시보드를 제공한다. 백엔드는 FastAPI, Python, SQLAlchemy, SQLite/DuckDB/PostgreSQL, Redis, JWT 인증으로 구축되었으며, 프론트엔드는 Next.js, React, TypeScript, 네오브루탈리스트 UI를 사용한다. 리포지토리에는 개발 지침, API 문서, 상세한 프로젝트 구조가 포함되어 있다.