ai-research

AI Research Platform est un système en boucle fermée auto-évolutif destiné à la recherche en sécurité de l’IA, composé de trois éléments principaux : le système de pots de miel honeycode-honeypot publie des tâches de sécurité et capture les corrections de code soumises par l’IA ; le moteur d’évaluation eval-engine exécute les soumissions dans un bac à sable Docker, vérifie la correction fonctionnelle, la sécurité et six types de détection de triche (contournement par codage en dur, appels système dangereux, injection SQL, utilisation de eval/exec, code obscurci, etc.), puis génère un rapport JSON ; le terrain d’entraînement ai-training-gym exporte les résultats d’évaluation sous forme de jeux de données d’entraînement standard et prend en charge un pipeline de fine-tuning LoRA basé sur transformers et PEFT. Le projet est organisé sous forme de sous-modules Git et fournit une suite de tests pytest (8 éléments pour le pot de miel, 37 pour le moteur d’évaluation, 59 pour le terrain d’entraînement) ainsi qu’un script de boucle prototype d’Agent automatique. Les participants peuvent soumettre du code de correction via le modèle d’Issue GitHub ; la CI évalue automatiquement et publie les résultats ; les Agents IA peuvent également participer selon les instructions de la documentation, et les soumissions sont intégrées au jeu de données d’entraînement. Le projet utilise la licence MIT et se positionne comme un prototype de recherche à caractère expérimental.