IA générative : vers un grand plan de formation pour prévenir la désinformation et la déstabilisation ?

L’intelligence artificielle (IA) présente-t-elle un risque existentiel? Incarnée en Terminator ou en H.A.L., c’est-à-dire sous la forme d’une IA malveillante, alors la réponse est non. En revanche, sous la forme d’un outil de désinformation massive, alors là, oui, très probablement !

C’est l’une des conclusions de la conversation passionnante que j’ai eue l’immense plaisir d’animer entre Marion Carré, fondatrice de Ask Mona, une startup à la croisée de l’Art et de l’IA, Raphael de Cormis, Directeur de la Digital Factory de Thales, et Luc Ferry ancien ministre de l’éducation et philosophe. Cette conversation, organisée par le cabinet de conseil en stratégie Arthur D. Little, dans le cadre de sa série d’événements à la croisée de la technologie et de la stratégie, les Blue Shift Talks, en partenariat avec HEC Alumni et Impact AI, le 15 novembre dernier au Palais de Tokyo, visait à répondre à la question « l’intelligence artificielle générative nous conduit-elle à un changement civilisationnel ? »

Après avoir planté le décor en présentant quelques un des insights clés de l’études qu’Arthur D. Little a publiée il y a quelques semaines, cette conversation à la croisée de la technologie, du business, de la stratégie, de l’art, et de la philosophie nous a mené à aborder trois grands thèmes.

Quels risques pour nos organisations et nos démocraties ?

A l’heure où l’IA façonne de nouvelles réalités, la conversation a mis en lumière des enjeux cruciaux concernant les risques que l’IA pose à nos organisations et démocraties.

La désinformation comme menace majeure. Luc Ferry a soulevé un point alarmant concernant les deepfakes et la désinformation. Ces outils numériques sophistiqués ont le potentiel de nuire gravement à la réputation individuelle et de semer la méfiance à grande échelle. Marion Carré a renforcé cette idée, soulignant la facilité avec laquelle l’IA peut générer des contenus faux, alimentant ainsi une défiance généralisée envers les médias. Cette réalité soulève une question éthique pressante quant à la protection de la vérité et de la confiance publique.

Cybersécurité et souveraineté technologique. La dépendance croissante aux technologies étrangères, en particulier américaines, a été un sujet de préoccupation majeur pour Luc Ferry et Raphael de Cormis. Luc Ferry, qui n’hésite pas à comparer la France et l’Europe à une colonie numérique de la Chine et des États-Unis, a notamment insisté sur la nécessité d’investissements massifs pour assurer la cybersécurité et maintenir la souveraineté nationale face aux cyberattaques. Cela implique une réflexion profonde sur la manière dont les nations peuvent se protéger dans un monde où l’IA transcende les frontières géographiques. Raphael de Cormis, quant à lui a mis l’accent sur deux points principaux. Tout d’abord, le fait qu’un grand nombre de collaborateurs utilisent quotidiennement des outils tels que ChatGPT, sans que ces pratiques soient validées par la DSI. Ensuite, cela soulève la question épineuse du choix entre obtenir des gains de performances significatifs grâce à ces outils, et renoncer, en partie, à la souveraineté…

Impact sur l’emploi. Luc Ferry a également abordé l’impact de l’IA sur le marché du travail. Il a fait la distinction entre l’élimination des tâches et la destruction des emplois, suggérant que l’IA pourrait transformer les emplois plutôt que de les détruire en masse. Il a défendu l’idée que l’IA pourrait libérer les travailleurs des tâches répétitives et ennuyeuses, leur permettant de se concentrer sur des activités plus enrichissantes et valorisantes. Raphael de Cormis a, quant à lui, insisté sur le problème de la concentration des compétences en IA: il n’existe dans le monde qu’un tout petit nombre d’experts hautement qualifiés dans le domaine de l’intelligence artificielle, et un nombre encore plus faible de spécialiste de l’IA générative et des algorithmes qui la sous-tendent.

Droits de Propriété Intellectuelle et nouveaux modèles économiques. Marion Carré a mis en évidence les défis auxquels sont confrontés les créatifs dans l’ère de l’IA. Elle a questionné la manière dont l’IA affecte les droits de propriété intellectuelle et la rémunération des artistes. Elle a suggéré que cette ère numérique pourrait conduire à l’émergence de nouveaux modèles économiques, où les créateurs sont compensés équitablement pour leur travail exploité par l’IA.

Quels rôles pour l’humain, pour quelles opportunités ?

L’intelligence artificielle, petit à petit, fait tomber chacun des piliers de l’intelligence humaine. Il est donc légitime de se poser la question de la place de l’Homme dans un monde où l’IA domine de plus en plus.

L’Humain Augmenté. Raphael de Cormis a introduit le concept du « développeur augmenté », illustrant un futur où l’IA assiste les humains, améliorant la qualité, la rapidité et l’efficacité du développement de logiciels. Cette vision met en avant l’IA comme un outil d’assistance qui libère le potentiel créatif et stratégique humain, plutôt que de le supplanter. Cette perspective suggère que l’avenir de l’innovation technologique réside dans une collaboration symbiotique entre l’humain et la machine – les fameux Centaures de Garry Kasparov semblent toujours d’actualité.

L’IA et la créativité artistique. Marion Carré a abordé l’impact de l’IA sur les arts, comparant son influence à celle de l’arrivée de la photographie. Loin de remplacer l’art traditionnel, l’IA ouvre de nouvelles voies pour l’expression créative. Cela

 suggère que l’IA peut agir comme un catalyseur pour l’innovation artistique, offrant aux artistes des outils inédits pour explorer et exprimer leur créativité.

Les responsabilités éthiques et intellectuelles de l’usage de l’IA. Marion a également souligné l’importance de l’expertise humaine et de la responsabilité dans l’utilisation de l’IA. Elle a mis en garde contre une dépendance excessive à la technologie, soulignant la nécessité pour les humains de rester les principaux acteurs dans la prise de décisions et dans l’interprétation des informations fournies par l’IA. Cette perspective réaffirme le rôle inaliénable de l’intelligence humaine dans le jugement et la prise de décisions éclairées.

Transformation des tâches et métiers. Luc Ferry a discuté de la manière dont l’IA peut transformer les emplois en éliminant des tâches répétitives et en libérant du temps pour des activités plus intéressantes et valorisantes. Il a vu dans l’IA une opportunité pour les individus de développer des compétences plus complexes et enrichissantes, ouvrant la voie à des avancées professionnelles et personnelles.

Comment se préparer en tant qu’entreprise et en tant que nation ?

La conversation a également exploré comment les organisations peuvent naviguer dans l’incertitude grandissante apportée par l’IA générative, et comment réduire les risques – en particulier le risque de désinformation et de déstabilisation – et saisir les opportunité.

L’Importance cruciale d’un plan de formation généralisé. Luc Ferry a souligné la nécessité d’un plan de formation massif pour intégrer l’utilisation de l’IA dans l’éducation et le milieu professionnel. Cette approche vise à préparer les étudiants, les enseignants et les chefs d’entreprise à tirer parti des opportunités offertes par l’IA tout en comprenant ses limites et ses implications. Il a proposé de rendre obligatoire l’utilisation de l’IA dans certains domaines éducatifs, comme la littérature et la philosophie, pour développer une approche critique et analytique.

Repenser l’utilisation et l’accès à l’IA dans les entreprises. Raphael de Cormis a parlé de la nécessité de rendre l’IA accessible et sûre pour les utilisateurs dans les entreprises. Il a souligné l’importance de développer la curiosité et la capacité d’apprentissage continu comme compétences clés dans l’ère de l’IA. Ce point de vue suggère que les entreprises doivent non seulement fournir les outils mais aussi cultiver un environnement où l’apprentissage et l’adaptation continus sont encouragés.

Penser la sensibilisation pour les personnes en dehors du système éducatif. Marion Carré a exprimé ses préoccupations quant à la formation continue pour ceux qui sont hors du système éducatif formel – et donc la majorité de la société. Face aux défis de la désinformation et des biais de l’IA, elle a souligné le rôle potentiel des artistes et des institutions culturelles dans l’éducation du public sur les enjeux éthiques et les limites de l’IA.

Conclusion : pas de nouvelle civilisation mais des transformations en profondeur

La dernière partie de la conversation s’est concentrée sur l’interrogation majeure : l’intelligence artificielle générative nous conduit-elle vers une nouvelle civilisation ?

Nos trois invités, Marion Carré, Raphael de Cormis, et Luc Ferry ont suggéré que, bien que l’IA générative ait commencé à impacter massivement nos organisations, elle ne constitue pas pour autant un changement de civilisation en soi, même si Luc Ferry reste convaincu de l’avènement futur du Metaverse – un Metaverse ultra personnalisé tirant profit de l’IA générative – qui serait, un jour le nouvel opium du peuple.

C’est aussi notre conclusion chez Arthur D. Little : l’avènement de l’IA entraîne l’automatisation des tâches cognitives répétitives. La plupart des tâches intellectuelles dans toute organisation actuellement effectuées par des humains seront finalement impactées : l’IA générative conduit définitivement à une nouvelle civilisation du travail cognitif.

La formation des talents de demain, des décideur·euse·s d’aujourd’hui, et de monsieur et madame Tout-le-Monde sont apparu comme une priorité absolue pour saisir les opportunités qui s’offrent à nous et contrecarrer le danger imminent de déstabilisation et de désinformation exacerbé par l’usage croissant des deepfakes.