L’essor fulgurant de l’intelligence artificielle offre d’immenses opportunités, mais fait également peser des risques majeurs sur la démocratie, l’économie, la santé et la sécurité, que seuls des usages responsables, des systèmes plus sûrs et une régulation internationale ambitieuse pourront contenir.
L’intelligence artificielle (IA) s’invite désormais dans presque tous les aspects de notre vie. Nous profitons de ses avantages, comme l’accélération de la découverte de nouveaux médicaments ou l’avènement d’une médecine plus personnalisée grâce à la combinaison de données et d’expertise humaine, souvent sans même nous en rendre compte. L’IA générative, qui permet de créer rapidement du contenu et d’automatiser la synthèse ou la traduction via des outils comme ChatGPT, DeepSeek ou Claude, en est la forme la plus populaire. Mais l’IA ne se limite pas à cela : ses techniques, issues principalement de l’apprentissage automatique, des statistiques et de la logique, contribuent à produire des décisions et des prédictions en réponse aux demandes d’utilisateurs.
Si elle permet désormais d’accélérer des travaux de recherche qui exigeaient autrefois des années, elle peut aussi être détournée, par exemple pour identifier des composants utiles à la mise au point d’armes biochimiques. Elle ouvre la voie à des technologies comme les véhicules autonomes, mais en leurrant leur système de vision, on peut aussi transformer ces véhicules en armes… Les risques liés à l’IA sont multiples et spécifiques, et doivent être compris comme tels, ne serait-ce que parce que les systèmes d’IA sont complexes et s’adaptent avec le temps, ce qui les rend plus imprévisibles. Au rayon des menaces, on trouve notamment les données utilisées pour entraîner les modèles sous-jacents, puisque des données biaisées produisent des résultats biaisés.
Globalement, des acteurs malveillants peuvent utiliser…
Auteur: David Rios Insua, Member of the ICMAT, AXA-ICMAT Chair in Adversarial Risk Analysis and Member of the Spanish Royal Academy of Sciences, Instituto de Ciencias Matemáticas (ICMAT-CSIC)
