fairmind

FairMind é uma plataforma de governança ética de IA de código aberto que visa fornecer avaliação com grau de evidência para aprendizado de máquina, grandes modelos de linguagem e sistemas de IA multimodal. O projeto está atualmente em estágio alfa interno, oferecendo um plano de controle fundamental para identidade imutável de alvos e suítes, vinculação do envelope de execução e verificação de política de confiança. Ele inclui endpoints legados de detecção de viés para modelos preditivos (paridade demográfica, equalized odds, impacto dispar, justiça individual e de grupo) e faixas planejadas de viés para LLM e multimodal (WEAT, SEAT, pares mínimos, viés de geração de imagem/áudio/vídeo). A plataforma também oferece geração de código de remediação, integrações opcionais de MLOps com Weights & Biases e MLflow, mapeamento de evidências de governança para estruturas como EU AI Act e ISO/IEC 42001, um registro de modelos com versionamento e painéis de monitoramento. O backend é construído com FastAPI, Python, SQLAlchemy, SQLite/DuckDB/PostgreSQL, Redis e autenticação JWT, enquanto o frontend usa Next.js, React, TypeScript e uma UI neobrutalista. Instruções de desenvolvimento, documentação da API e uma estrutura detalhada do projeto estão incluídas no repositório.