La course folle à l’IA pourrait mettre en danger l’humanité

IA et arme nucléaire. Le parallèle est de plus en plus utilisé, même si cela peut nous sembler complètement aberrant. Depuis les tweets publiés par Jacob Coxon, désormais ancien collaborateur d’Anthropic, l’inquiétude face à la puissance de l’intelligence artificielle est grandissante. Si, il n’y a pas si longtemps, on se moquait gentiment de ceux qui pensaient que l’IA pourrait finir par prendre le contrôle, aujourd’hui, les rires s’éteignent.

Les intelligences artificielles sont-elles hors de contrôle ?

C’est d’autant plus inquiétant que Evan Hubinger, collaborateur chez Anthropic, a affirmé que, selon lui, il est tout à fait possible que l’intelligence artificielle puisse éteindre l’espèce humaine. Toujours selon lui, ce danger pourrait se produire dans les dix prochaines années et serait même supérieur à 10 %. Des révélations qui font froid dans le dos, à l’heure où l’IA est devenu un outil complètement intégré dans notre quotidien.

Les géants de la tech vont-ils lever le pied sur la course à l’IA ?

On l’utilise pour notre travail. On en fait notre psychothérapeute. On s’en sert comme un savant fou. Comme si l’intelligence artificielle avait toutes les réponses et, de ce fait, la vérité absolue. Avons-nous laissé trop de pouvoir à cette force numérique et ce, en l’espace de quelques années seulement ? Car désormais, même les gros noms associés à l’intelligence artificielle semblent vouloir lever le pied.

Mais alors, comment faire pour stopper la cette machine folle ? Peut-on seulement l’arrêter ou est-il déjà trop tard ? Le problème, c’est que, s’il reste une chance, elle ne dépend pas du peuple, mais du haut de la pyramide, comme l’explique Jérémy Beaufils, directeur exécutif de la Chaire Digital Disruption de l’ESSEC.

Et c’est bien la raison pour laquelle le parallèle avec la bombe atomique se fait rapidement. C’est à cause des événements de Nagasaki et Hiroshima que la course à l’armement à commencer. L’idée est de ne pas laisser l’adversaire gagner du terrain, quitte à créer un danger monumental. Seulement l’arme nucléaire peut rester dissuasive, tant que les états le décident. Pour l’IA, c’est plus compliqué que cela.

Le chercheur Jules Brochard, il y a trop de strates à prendre en compte, ce qui rend la manœuvre particulièrement complexe. Pour lui, ce sont les acteurs commerciaux, légaux et politiques qui peuvent éventuellement inverser la situation.

Jérémy Beaufils semble légèrement plus optimiste, en affirmant que des tests, une sécurité forte et des restrictions d’accès peuvent contrôler la menace. L’Union Européenne a mis en place l’IA Act en 2024. Quant aux géants OpenAI, SpaceXAI, Google DeepMind et finalement Anthropic, ils ont également fini par freiner cette course. Contrairement à Mark Zuckerberg, de Meta, qui ne semble pas prêt à ralentir le rythme.