Peut-on faire confiance à un algorithme d’IA dont les décisions ne sont pas interprétables ? Quand il s’agit de diagnostiquer une maladie ou de prédire une panne sur un train ou une voiture, la réponse est évidemment non.
L’intelligence artificielle hybride se positionne comme une réponse naturelle et efficace aux exigences croissantes d’interprétabilité, de robustesse et de performance.
En conciliant données et connaissances, apprentissage et raisonnement, ces approches ouvrent la voie à une nouvelle génération de systèmes intelligents, capables de comprendre — et de faire comprendre — le comportement de systèmes physiques complexes. Une direction incontournable pour une IA de confiance.
Les algorithmes d’IA s’immiscent de plus en plus dans les systèmes critiques — transport, énergie, santé, industrie, etc. Dans ces domaines, une erreur peut avoir des conséquences graves — et un problème majeur de la plupart des systèmes d’IA actuels est qu’ils ne sont pas capables d’expliquer leurs conclusions et qu’il est donc difficile pour leurs superviseurs humains de rectifier le système s’il commet une erreur.
Considérons par exemple la maintenance des roulements d’un train. Si un modèle d’IA indique la nécessité d’une réparation sans donner d’explication, le technicien en charge ne sait pas si l’alerte est justifiée, ni quoi réparer ou remplacer exactement. Celui-ci peut alors être amené à ignorer l’alerte pour éviter des arrêts ou des réparations inutiles, ce qui peut avoir des conséquences critiques. Pour ces raisons, la nouvelle loi européenne sur l’IA — le AI Act — introduit des exigences de transparence et de supervision humaine.
À lire aussi :
L’AI Act, ou comment encadrer les systèmes d’IA en Europe
Tous les quinze jours, de grands noms, de…
Auteur: Elodie Chanthery, maîtresse de conférences en diagnostic de fautes – IA hybride, INSA Toulouse
