fairmind

FairMind est une plateforme open source de gouvernance éthique de l'IA qui vise à fournir une évaluation de niveau probant pour l'apprentissage automatique, les grands modèles de langage et les systèmes d'IA multimodaux. Le projet est actuellement en phase alpha interne, offrant un plan de contrôle fondamental pour l'identité immuable des cibles et des suites, la liaison d'enveloppe d'exécution et la vérification des politiques de confiance. Il comprend des points de terminaison hérités de détection de biais pour les modèles prédictifs (parité démographique, égalisation des odds, impact disparate, équité individuelle et de groupe) et des voies de biais LLM et multimodales prévues (WEAT, SEAT, paires minimales, biais de génération d'images/audio/vidéo). La plateforme fournit également la génération de code de remédiation, des intégrations MLOps facultatives avec Weights & Biases et MLflow, une cartographie des preuves de gouvernance pour des cadres tels que l'EU AI Act et l'ISO/IEC 42001, un registre de modèles avec versionnage, et des tableaux de bord de surveillance. Le backend est construit avec FastAPI, Python, SQLAlchemy, SQLite/DuckDB/PostgreSQL, Redis et l'authentification JWT, tandis que le frontend utilise Next.js, React, TypeScript et une UI néobrutaliste. Les instructions de développement, la documentation API et une structure détaillée du projet sont incluses dans le dépôt.