Une recherche de l'UNamur rend les outils de l'intelligence artificielle plus fiables

Avant qu'une intelligence artificielle puisse reconnaître une image, comprendre un texte ou répondre à une question, elle doit d'abord être entraînée. Pour cela, les développeurs et les data scientists utilisent des bibliothèques logicielles spécialisées, de véritables « boîtes à outils » qui permettent de construire ces modèles d'IA.

C'est sur ces logiciels que s'est penchée une équipe de recherche réunissant l'Université de Namur, l'Université de Passau (Allemagne) et la TU Delft (Pays-Bas). Leur objectif : détecter des bugs particulièrement difficiles à repérer, susceptibles de provoquer l’arrêt brutal d'un programme.

Pour vérifier que ces bibliothèques fonctionnent correctement, les chercheurs utilisent des logiciels capables de générer automatiquement des milliers de tests. Leur rôle est de pousser les programmes dans leurs retranchements afin de repérer d'éventuelles erreurs. 

Jusqu'ici, ces outils avaient toutefois une limite importante Lorsqu'un test provoquait un dysfonctionnement d'une bibliothèque logicielle, le logiciel chargé d'effectuer les tests cessait lui aussi de fonctionner. Impossible, dès lors, de comprendre précisément l'origine du problème ou de le signaler aux développeurs. 

Les chercheurs de l'UNamur ont donc imaginé une nouvelle méthode. Désormais, chaque test est exécuté séparément. Si l'un d'eux provoque un crash, celui-ci est isolé : le logiciel de test continue de fonctionner, enregistre l'erreur et poursuit ses analyses. Il devient ainsi possible de détecter automatiquement des bugs qui passaient jusque-là inaperçus. 

Grâce à cette nouvelle méthode, les chercheurs ont analysé 1 648 modules appartenant aux principales bibliothèques de machine learning et mis au jour 32 bugs inédits. Plusieurs concernaient des logiciels devenus incontournables pour entraîner des modèles d'intelligence artificielle.

Ces anomalies ont été signalées aux équipes de développement. Plusieurs ont déjà été reconnues puis corrigées. “Lorsqu'on corrige un bug à ce niveau-là, ce sont potentiellement des milliers, voire des millions d'utilisateurs qui en bénéficient”, souligne Xavier Devroey, professeur à la Faculté d’informatique de l’UNamur et membre du centre de recherche PReCISE du Namur Digital Institute (NaDI). Au-delà de ces corrections, cette recherche contribue à rendre plus fiables les logiciels sur lesquels reposent aujourd'hui de très nombreuses applications d'intelligence artificielle.

Cette avancée est née du mémoire de master de Lucas Berg, réalisé à l'UNamur sous la supervision du professeur Xavier Devroey. Dans le cadre de son stage de recherche, Lucas Berg rejoint ensuite l'équipe du professeur Annibale Panichella à la TU Delft afin de travailler sur Pynguin, l’outil open source de génération automatique de tests développé à l'Université de Passau par l'équipe du professeur Gordon Fraser évoqué précédemment. 

Au départ, son objectif était d'améliorer cet outil. En évitant les crashs tout en découvrant des bugs, cette première contribution a attiré ensuite l'attention des chercheurs de l'Université de Passau, confrontés au même problème, donnant naissance à une collaboration internationale qui débouchera sur une publication scientifique commune. 

Lucas Berg poursuit aujourd'hui un doctorat à la Faculté d'informatique de l'UNamur sous la supervision des professeurs Wim Vanhoof et Xavier Devroey. Les résultats de cette recherche ont été présentés à l'IEEE International Conference on Software Testing, Verification and Validation (ICST 2026), l'une des conférences internationales les plus prestigieuses dans le domaine du test logiciel.  

Cette recherche a aussi bénéficié du soutien du Service public de Wallonie (SPW Recherche) et de Wallonie-Bruxelles International. Une reconnaissance qui souligne la qualité de ces travaux et leur intérêt pour la communauté scientifique internationale. 

Au sein de NaDI, les chercheurs apportent des solutions innovantes aux nouveaux défis sociétaux posés par la révolution digitale (eGov, eHealth, eServices, Big data, etc.). Issus de différentes disciplines, les chercheurs croisent leurs expertises en informatique, technologie, éthique, droit, management ou sociologie. Regroupant six centres de recherche, le Namur Digital Institute offre une expertise multidisciplinaire unique dans tous les domaines de l'informatique, de ses applications et de son impact social.