fairmind

FairMind es una plataforma de gobernanza ética de IA de código abierto que tiene como objetivo proporcionar evaluación con grado de evidencia para modelos de aprendizaje automático, modelos de lenguaje grandes (LLM) y sistemas de IA multimodales. El proyecto se encuentra actualmente en una etapa alfa interna, ofreciendo un plano de control fundamental para identidad inmutable de objetivos y suites, vinculación de envolvente de ejecución y verificación de políticas de confianza. Incluye endpoints de detección de sesgos heredados para modelos predictivos (paridad demográfica, odds igualadas, impacto dispar, equidad individual y grupal) y carriles planificados de sesgo para LLM y multimodal (WEAT, SEAT, pares mínimos, generación de sesgo en imágenes/audio/vídeo). La plataforma también ofrece generación de código de remediación, integraciones opcionales de MLOps con Weights & Biases y MLflow, mapeo de evidencia de gobernanza para marcos como el AI Act de la UE e ISO/IEC 42001, un registro de modelos con versionado y paneles de monitoreo. El backend está construido con FastAPI, Python, SQLAlchemy, SQLite/DuckDB/PostgreSQL, Redis y autenticación JWT, mientras que el frontend utiliza Next.js, React, TypeScript y una interfaz de usuario neobrutalista. El repositorio incluye instrucciones de desarrollo, documentación de la API y una estructura detallada del proyecto.