IA : L’ancien PDG de Google prévient que les garde-fous actuels en matière d’IA ne sont pas suffisants

L’ancien PDG de Google, Eric Schmidt, a déclaré que les garde-fous mis en place par les entreprises d’intelligence artificielle (IA) sur leurs produits « ne sont pas suffisants » pour prévenir les dangers pour l’humanité. Il s’agit de la dernière mise en garde en date d’un dirigeant du secteur technologique concernant le développement de l’IA, après celles de Mark Zuckerberg et d’Elon Musk.

Eric Schmidt, qui s’est exprimé mardi lors du sommet AI+ d’Axios à Washington, a averti que l’IA pourrait mettre l’humanité en danger d’ici cinq à dix ans si la technologie atteint « le point où l’ordinateur peut commencer à prendre ses propres décisions pour faire des choses ». Auparavant, on estimait qu’il faudrait une vingtaine d’années pour atteindre ce stade, a déclaré Eric Schmidt, mais certains experts estiment que ce scénario est envisageable dans deux à quatre ans.

Eric Schmidt, qui a été PDG de Google entre 2001 et 2011, a également appelé à la création d’une organisation mondiale chargée de « fournir des informations précises aux décideurs politiques » et de réglementer efficacement l’IA. Plusieurs dirigeants technologiques milliardaires, dont Mark Zuckerberg, Elon Musk et Bill Gates, et des législateurs se sont réunis en septembre lors d’un forum à huis clos sur l’IA, au cours duquel Mark Zuckerberg a insisté sur la nécessité de mettre en place des politiques de sécurité et d’accessibilité pour l’IA.

Selon CNBC, Elon Musk a déclaré aux journalistes après avoir quitté le sommet que l’IA représentait un « risque pour la civilisation », mais qu’il y avait peu de chances que « l’IA nous tue tous », ce qui renforce les appels à la création d’un département américain de l’IA, déjà évoquée par Sam Altman, PDG d’OpenAI.

Eric Schmidt compare le développement de l’IA à la réglementation des armes nucléaires après la Seconde Guerre mondiale : « Après Nagasaki et Hiroshima, il a fallu 18 ans pour parvenir à un traité sur l’interdiction des essais et d’autres mesures similaires. Nous ne disposons pas d’un tel délai aujourd’hui. »

Bien qu’il ait mis en garde contre les dangers potentiels de l’IA, Eric Schmidt a déclaré que la technologie profiterait probablement à la plupart des populations, ajoutant : « Je vous défie d’affirmer qu’un médecin ou un tuteur IA est négatif. » Bill Gates, cofondateur de Microsoft, a également salué l’impact que l’IA pourrait avoir sur la société, indiquant qu’il avait vu des réalisations « stupéfiantes » au cours des derniers mois.

Eric Schmidt, qui a cofondé la société de capital-risque Innovation Endeavors en 2010, possède une fortune estimée à 20,1 milliards de dollars, selon les dernières estimations de Forbes.

Eric Schmidt a largement critiqué le développement de l’IA au cours des derniers mois, suggérant en mai que la technologie pourrait « blesser ou tuer » des personnes et qu’elle pose des « risques existentiels ». L’ancien PDG de Google, qui a été président exécutif d’Alphabet de 2015 à 2017, a participé à la rédaction d’un rapport en 2021 de la Commission de sécurité américaine sur l’IA, qui indiquait que le gouvernement américain n’était « pas préparé aujourd’hui à cette nouvelle technologie ». Les appels à la réglementation de l’IA se sont multipliés ces derniers mois après qu’OpenAI a lancé son chatbot ChatGPT à la fin de l’année dernière, qui a précédé d’autres chatbots d’IA lancés par d’autres entreprises, dont Google. Le mois dernier, le président américain Joe Biden a signé un décret visant à limiter les risques et à « saisir la promesse » de l’IA, y compris de nouvelles « normes rigoureuses » pour tester les systèmes d’IA avant leur mise sur le marché.

Article traduit de Forbes US – Auteur : Ty Roush