MULTITEL
Une IA digne de confiance pour les systèmes critiques

Trusted AI

Objectif du défi

L'objectif de ce défi est de construire et d'évaluer une IA digne de confiance et de réduire ainsi les obstacles pour les entreprises wallonnes désireuses de déployer des solutions d'IA dans des secteurs réglementés.

Les enjeux

Les systèmes d'IA sont devenus de plus en plus complexes, évoluant de modèles avec des règles élaborées à la main (supervision/intervention humaine) à des modèles qui créent d'autres modèles. Beaucoup apparaissent comme des boîtes noires, ce qui suscite la méfiance et empêche les utilisateurs finaux de se fier à des technologies par ailleurs très efficaces. Cette évolution a poussé l'Union européenne et les régulateurs de nombreux secteurs à chercher des moyens de certifier les systèmes critiques basés sur l'IA (par exemple, les avions ou les voitures) avant leur fabrication et leur utilisation. La nécessité de certifier les technologies d'IA avant leur déploiement sur le marché constitue un obstacle important à l'adoption de l'IA, en particulier dans les secteurs sensibles comme l'aéronautique, l'espace ou la médecine. Des secteurs où elles pourraient justement être d'une aide précieuse à la prise de décision humaine.

Challenges

Mettre en place tout un cadre pour le développement de l'intelligence artificielle en toute confiance. L'Europe a fait de ce défi une de ses priorités afin de se différencier des autres grands marchés concurrentiels. Or, ce cadre doit offrir des lignes directrices claires et applicables afin que l'objectif initial d'encourager les entreprises à utiliser ces technologies soit effectivement servi.

Solutions IA possibles

Guidés par les quatre principes éthiques et les sept exigences de l'IA de confiance mis en avant par la Commission européenne, différentes voies technologiques seront explorées telles que l'explicabilité - l'interprétabilité ; la robustesse - l'attaque contradictoire ; l'éthique - le biais - l'équité ; et la sécurité - la quantification de l'incertitude. Des outils génériques seront créés pour guider la création d'algorithmes et faciliter ainsi le déploiement de systèmes d'IA de confiance. Dans la mesure du possible, ces outils anticiperont les réglementations existant dans différents secteurs, comme la protection des données des patients dans le domaine de la santé ou la réglementation des drones dans l'aéronautique.

Sujets clés

  • IA explicable (XIA)
  • Systèmes d'IA équitables / impartiaux
  • Robustesse des systèmes d'IA

Contacter le responsable

Jean-Yves Parfait (parfait@multitel.be)