Mieux expliquer les algorithmes pour développer une IA de confiance
Publié le 19 09 2022 | Mis à jour le 07 11 2024
L’intelligence artificielle qui ne cesse de se développer depuis plusieurs décennies s’invite de plus en plus dans notre quotidien en influençant toujours plus de décisions humaines. Si son efficacité s’avère incontestable dans un grand nombre de secteur, l’IA demeure mystérieuse, complexe et incomprise par la plupart des utilisateurs. Développer des solutions pour rendre l’IA plus accessible et compréhensible, c’est le défi du projet européen TRUST-AI.
Intelligence artificielle et interprétabilité : un véritable enjeu
Les modèles d’intelligence artificielle, souvent qualifiés de "boîtes noires", sont connus pour leur efficacité et leurs résultats très pertinents. Cependant, le manque de transparence lié au mode de fonctionnement de ces modèles suscite aujourd’hui un vrai scepticisme chez les utilisateurs. L’interprétabilité des algorithmes suppose même un véritable enjeu éthique alors que l’intelligence artificielle influence de plus en plus de décisions dans notre vie quotidienne. Par exemple, lorsqu’elle influence une décision médicale, les professionnels de santé ainsi que les patients concernés doivent pouvoir comprendre le cheminement des algorithmes ayant influencé la décision. La notion d’interprétabilité devient alors cruciale pour créer une relation de confiance entre l’intelligence artificielle et l’utilisateur.
C’est dans ce contexte que le projet TRUST-AI a vu le jour, impliquant divers instituts de recherche et sociétés. Coordonné par Conçalo Figueira de l’Institut de sciences, de technologies et d’ingénierie informatique et des systèmes au Portugal, ce projet implique également des membres de l’équipe-projet Tau du centre Inria Saclay-Île-de-France. D’autres participants ont également pris part au projet, comme des membres du Conseil néerlandais de la recherche, de l’université de Tartu en Estonie et trois entreprises : APINTECH localisée à Chypre, LTPlabs au Portugal et Tazi en Turquie. Lancé officiellement en octobre 2020, ce projet, financé par le Conseil européen de l’innovation (EIC) dans le cadre du programme Horizon Europe, bénéficie d’un budget de quatre millions d’euros sur quatre ans.
Lire la suite (INRIA)