"L’IA risque de plonger l’humanité dans une nouvelle ère sombre !"
La montée en puissance de l’intelligence artificielle (IA) suscite de vives inquiétudes parmi les experts qui mettent en garde contre les dangers d’une IA non régulée qui "risque d’anéantir l’humanité. "
Parmi ces experts, on trouve en première ligne le "parrain de l’intelligence artificielle" Geoffrey Hinton, qui a démissionné de chez Google l’année dernière pour pouvoir mettre en garde contre les dangers de l’IA. Hinton pense que l’IA sera bientôt plus intelligente que l'humain, et il craint qu’elle n’échappe à notre contrôle.
Récompensé pour ses travaux pionniers en intelligence artificielle par le Prix Nobel de physique 2024, Geoffrey Hinton est l’un des premiers à avoir posé les bases des réseaux neuronaux, ouvrant la voie à l'IA moderne.
Aujourd’hui, il appelle à une régulation internationale de l'IA, comparable à celle de l’énergie nucléaire. Sa plus grande peur est que les technologies du futur permettent de mettre au point des "robots tueurs" véritablement autonomes.
Alex Stamos, expert en cybersécurité, fait échos aux inquiétudes de Hinton. Dans une tribune parue dans Le Monde le 11 novembre dernier, il met en garde contre les risques que l’intelligence artificielle fait peser sur la guerre. Il donne l’exemple des armes autonomes qui pourraient changer l’équilibre mondial en permettant à l’IA de mener des frappes sans intervention humaine.
"Nous nous trouvons à un point d’inflexion majeur en matière de guerre, à la limite de passer d’une guerre menée par des humains assistés par l’IA à une guerre menée par l’IA assistée par des humains.", écrivait Stamos dans sa tribune.
Selon Stamos, un tournant se dessine où l'IA pourrait décider d'attaques létales sans intervention humaine, risquant de faciliter des crimes de guerre en rendant les décisions plus rapides et irrévocables.
De même que Hinton, Stamos pense qu’une collaboration internationale est primordiale pour maîtriser l’IA avant que ses dérives ne deviennent incontrôlables et que l’humanité ne soit plongée "dans une nouvelle ère sombre".
(Insaf A – Source : Le Monde, JVTECH/Picture : Pixabay)
