IA : « La question centrale n’est pas de savoir si les développeurs se soucient de l’humanité, mais qui possède le pouvoir de dire stop »
Tribune sur le Monde, extraits :
En l’absence de solides freins institutionnels, les entreprises ont tendance, lorsqu’elles sont sous pression, à sacrifier la sécurité de tous pour leur profit
(…)
Les gouvernements peuvent redouter qu’un autre pays n’acquière un avantage technologique décisif. Même les acteurs animés des meilleures intentions se retrouvent prisonniers d’une course qui récompense l’accélération. Les politiques climatiques se heurtent depuis longtemps au même problème. La responsabilité volontaire ne peut résoudre de manière fiable une situation dans laquelle la retenue est coûteuse pour celui qui la pratique, alors que ses bénéfices sont répartis entre les concurrents et les générations futures.
Il s’agit donc moins d’une défaillance morale que d’une défaillance structurelle.
(…)
La question centrale n’est donc pas de savoir si les développeurs d’IA se soucient de l’humanité. Tant que nous n’aurons pas redéfini qui détient les droits de décision, qui assume les coûts et qui possède le pouvoir de dire stop, les appels à la responsabilité des entreprises ne seront pas plus rassurants que le fait de demander aux pollueurs de protéger volontairement l’atmosphère.
Effectivement, dans le capitalisme, l’irrationnalité, l’irresponsabilité (profits privés, coûts publics) règnent. L’Etat pourrait limiter et contrôler en théorie les activités nuisibles, mais l’Etat dépend du capitalisme et en est le meilleur allié, donc les contrôles restent limités, surtout quand la croissance est structurellement atone et diminue les rentrées d’argent pour l’Etat.
De plus c’est la fabrication des IA qui est nuisible en elle-même, quels que soient ensuite les usages et les contrôles éventuels.
Auteur:
