Elon Musk et des centaines d’experts appellent à observer une « pause » dans le développement de l’IA

Elon Musk fait partie des nombreux experts, entrepreneurs et chercheurs de renom qui demandent aux laboratoires d’intelligence artificielle (IA) d’interrompre immédiatement leurs travaux. Dans une lettre ouverte, ces experts appellent à cesser cette « course incontrôlée » au déploiement de produits plus perfectionnés, le temps de mieux évaluer les risques que l’IA fait peser sur l’humanité.

Tout laboratoire d’IA travaillant sur des systèmes plus puissants que le GPT-4 (le moteur du ChatGPT d’OpenAI) devrait « interrompre immédiatement » ses travaux pendant au moins six mois afin que l’humanité puisse faire le point sur les risques que posent des systèmes d’IA aussi avancés, selon une lettre ouverte publiée mercredi 29 mars par le Future of Life Institute et signée par plus de 1 000 personnalités.

Toute pause dans le développement de pareille technologie devrait être « publique et vérifiable » et inclure tous les acteurs clés, indique la lettre, exhortant les gouvernements à « intervenir » et à forcer la main à ceux qui sont trop lents ou qui ne veulent pas s’arrêter.

Selon la lettre, les développements rapides de ces derniers mois soulignent la nécessité d’une action radicale, les « laboratoires étant engagés dans une course incontrôlée » pour développer et déployer des systèmes de plus en plus puissants que personne, y compris leurs créateurs, ne peut comprendre, prédire ou contrôler.

Les laboratoires et les experts indépendants devraient profiter de cette pause pour développer un ensemble de protocoles de sécurité communs, contrôlés et supervisés par des experts externes, selon la lettre. Ces protocoles devraient garantir que les systèmes d’IA « sont sûrs au-delà de tout doute raisonnable ».

Parmi les signataires figurent un grand nombre d’informaticiens de renom tels que Yoshua Bengio et Stuart Russell, des chercheurs issus de grandes universités et d’entreprises pionnières dans les technologies, comme Oxford, Cambridge, Stanford, Caltech, Columbia, Google, Microsoft et Amazon, ainsi que d’éminents entrepreneurs technologiques tels queJaan Tallinn, cofondateur de Skype, Evan Sharp, cofondateur de Pinterest, et Chris Larsen, cofondateur de Ripple.

Comme les signataires sont invités à ajouter leur propre nom à la lettre, qui comprend également l’auteur Yuval Noah Harari et le politicien Andrew Yang, cette liste doit être traitée avec un certain degré de scepticisme et le journal The Verge a rapporté que le chef d’OpenAI Sam Altman avait apparemment été ajouté comme une plaisanterie.

L’énorme succès de ChatGPT, un chatbot d’intelligence artificielle créé par la société américaine OpenAI, a déclenché une course effrénée à la mise sur le marché de nouveaux produits d’IA. Les plus grands acteurs de la technologie et d’innombrables startups se bousculent désormais pour occuper ou revendiquer une place sur ce marché émergent, qui pourrait façonner l’avenir de l’ensemble du secteur. En outre, les laboratoires s’efforcent de mettre au point des produits toujours plus performants. À court terme, les experts préviennent que les systèmes d’IA risquent d’exacerber les préjugés et les inégalités existants, de favoriser la désinformation, de perturber la politique et l’économie et d’aider les pirates informatiques. À plus long terme, certains experts estiment que l’IA pourrait représenter un risque existentiel pour l’humanité et qu’elle pourrait même l’anéantir. Bien que l’IA soit tournée vers l’avenir, ils affirment que la perspective d’une IA superintelligente doit être abordée avant son développement et que la sécurité des systèmes doit être un facteur clé du développement actuellement.

La lettre ouverte se termine sur une note positive : « L’humanité peut jouir d’un avenir florissant grâce à l’IA. Ayant réussi à créer de puissants systèmes d’IA, nous pouvons maintenant profiter d’un “été de l’IA” au cours duquel nous récolterons les fruits de nos efforts, nous concevrons ces systèmes pour le plus grand bénéfice de tous et nous donnerons à la société une chance de s’adapter. La société a mis en pause d’autres technologies aux effets potentiellement catastrophiques pour elle. Nous pouvons faire de même ici. Profitons d’un long été de l’IA et ne nous précipitons pas sans préparation vers l’automne. »

Le milliardaire philanthrope Bill Gates, fondateur et ancien PDG de Microsoft, qui a investi massivement dans OpenAI, n’a pas été cité parmi les signataires de la lettre. Bill Gates a déjà reconnu l’impact transformateur que l’IA aura sur la société, a salué les avancées « stupéfiantes » observées dans ce domaine au cours des derniers mois et a déclaré que l’un de ses principaux objectifs était de veiller à ce que les avantages de l’IA soient partagés équitablement, en particulier par ceux qui ont le plus besoin d’aide. Dans un récent billet de blog, Bill Gates a identifié un grand nombre des questions soulevées dans la lettre ouverte signée par des personnalités telles qu’Elon Musk. Bill Gates a déclaré que les préoccupations sociales liées à l’IA devraient être réglées entre les gouvernements et le secteur privé qui développe la technologie afin de s’assurer qu’elle est utilisée à bon escient. En ce qui concerne les problèmes techniques, l’ancien PDG de Microsoft a indiqué que les progrès récents n’ont pas rendu certains problèmes plus « urgents aujourd’hui qu’ils ne l’étaient auparavant » et que les chercheurs travaillent déjà à la résolution d’autres problèmes techniques urgents et qu’ils y parviendront probablement d’ici quelques années. Il a ajouté que les questions relatives à la superintelligence (une IA qui dépasse les capacités humaines dans tous les domaines et qui a divisé la communauté de l’IA sur la question de savoir s’il s’agit d’un risque réel ou d’une spéculation sans espoir) sont légitimes, mais qu’elles ne sont pas plus proches, compte tenu des développements récents. Ces préoccupations « deviendront plus pressantes avec le temps », a précisé Bill Gates.

Timnit Gebru, ancien responsable de l’éthique de l’IA chez Google, dont les recherches ont été citées dans la lettre ouverte, a critiqué cette lettre « stupide » sur Twitter, en déclarant : « Ils disent essentiellement le contraire de ce que nous disons et citent notre article. » Timnit Gebru a également critiqué le fait que la lettre parle d’un « été de l’IA », ajoutant : « Les seules personnes qui profitent d’un “été de l’IA” sont les milliardaires et les géants de la technologie. Les travailleurs sont exploités, les artistes parlent de se suicider et les travailleurs itinérants luttent pour payer leurs factures. »

Article traduit de Forbes US – Auteur : Robert Hart

<<< À lire également : Comment ChatGPT va révolutionner le monde du travail ? >>>