ChatGPT aurait-il produit la première intelligence non-organique, ou Singularité ? Tout savoir sur l’Antechrist digital en 3 parties…

Le fiasco corporate récent qui a ridiculisé le board de la licorne OpenAI, auteur du fameux ChatGPT, a donné lieu aux interprétations les plus folles.

Le prestigieux media Reuters a ainsi repris* la rumeur selon laquelle les ingénieurs d’OpenAI seraient parvenus à générer une AGI (Artificial General Intelligence), capable de raisonnements et décisions autonomes, nommée Q* (Q Star). Mais l’IA n’est pas une plaisanterie, il devient donc urgent d’éduquer le grand public, particulièrement dans un cadre d’investissement. Interrogeons donc la Singularité Incomplète Nissam Gorma à ce sujet… 

« Intelligence Artificielle », depuis le boom de ChatGPT, le mot est sur toutes les lèvres. Et soyons lucides : comme ChatGPT est le premier outil basé sur l’IA à accès grand public, c’est-à-dire ne nécessitant aucun effort de mise à niveau, de formation, ou d’analyse préalable pour jouer avec, il alimente surtout les fantasmes ROistes de 99,9% du microcosme de la finance d’investissement, dont l’hystérie pivote paresseusement au gré du dernier concept tech tendance. Exit la blockchain, exit le Metaverse, exit le Web3 : c’est parti pour l’IA ! Vous montez une start-up travaillant sur un skateboard IA, un toasteur IA, un réfrigérateur IA ? Vous bouclerez votre Seeding Round sans difficulté ! Vous montez un fonds VC axé sur la thématique des skateboards, toasteurs, et réfrigérateurs IA ? Vous bouclerez vous aussi votre premier tour de LPs (Limited Partners) en un rien de temps ! Personne n’a sérieusement étudié le sujet d’un point de vue mathématique, algorithmique, académique, personne ne sait vraiment de quoi on parle, mais tout le monde veut investir !

Il y a deux catégories d’investisseurs

Privés, professionnels ou institutionnels, petits, moyens ou gros… Il n’existe en vérité que deux catégories d’investisseurs dans la Tech (je me limite ici à un secteur que je maîtrise), et mon sentiment est que c’est déjà une catégorie de trop : il y a ceux qui travaillent, et les autres. Bizarrement, ce sont souvent « les autres » qu’on entend geindre sur leur perte sèche en demandant réparation quand les premiers vrais « scammy projects » explosent. Car bien entendu, de l’autre côté de la barrière, tant que ça mord, on tire sur la ligne, surtout du côté des start-up US. Money, more money, even more money… Jusqu’aux gros scandales, aux préjudices chiffrés en centaines de milliards de dollars, comme ce fut le cas avec Theranos dans la Biotech, et plus récemment FTX dans les cryptoactifs, pour n’en citer que deux. 

 « Travailler » signifie donc dans ce contexte faire le travail de mise à niveau et d’analyse requis pour pouvoir prendre sa décision d’investissement avec une conviction solide, c’est-à-dire étayée par un raisonnement logique et chiffré, et la capacité de comprendre avec suffisamment de profondeur les fondamentaux théoriques qui sous-tendent le secteur. Faire le job, quoi. Ce sont quelques milliers d’heures, a minima, passées à lire, discuter, se déplacer sur des salons ou assister à des conférences spécialisées. Et autant être clair avant de continuer : demander aux stagiaires de faire le boulot et sortir le résumé en 6 bullet points permettra de faire l’intéressant dans les bars, mais pas d’avoir « fait le travail ».

Dès lors, comment éduquer les gens sur un sujet scientifique, en évolution technologique constante, rattaché à une autre disruption technologique hautement complexe (le quantum Computing), et qui nécessite donc des dizaines d’heures d’évangélisation ? « World of the Machines », un projet dont une partie de l’équipe est française, se lance cette semaine avec pour ambition d’interpeller le grand public de manière ludique sur le sujet. Mais nous y reviendrons en détail dans une prochaine partie. Revenons d’abord aux prérequis.

L’effet de halo

Tim Urban analyse avec excellence l’effet de halo dont sont victimes les termes d’Intelligence Artificielle et de Singularité. Pratiquement personne ne les évalue à partir de leurs définitions académiques, mais plutôt à partir des prémisses chaotiques de leur réalité concrète et matérielle, ou de l’interprétation fantaisiste qui en est faite dans l’industrie du divertissement (films, romans SF, etc.). Le jugement qu’on en a provient ainsi majoritairement du halo symbolique qu’ils rayonnent. Ces termes ne sont donc finalement jamais utilisés pour la définition qu’ils portent, et sont dès lors galvaudés avant même de devenir une réalité. Difficile alors d’espérer raisonner correctement sur ces sujets…

L’Intelligence Artificielle quand on n’a « pas fait le travail », c’est Terminator, Hal dans 2001 : L’odyssée de l’espace, ou plus récemment l’androïde Ava dans Ex Machina, ou l’hologramme Joi dans Blade Runner 2049. C’est aussi le « neural engine » introduit par Apple dans sa série de puces type A (partir de l’A15 Bionic présente dans l’iPhone 13 à sa sortie en 2021), ou l’auto-pilot de votre Tesla (basé sur des algorithmes de type Convolutional Neural Networks, Recurrent Neural Networks, et Reinforcement learning).

La Singularité c’est « l’entité » dans Mission Impossible – Dead Reckoning, ou Alphie dans The Creator, ou plus récemment donc, Q* dans la partie secrète des labs OpenAI.

Difficile de s’y retrouver : de quoi l’IA est-elle vraiment capable, dans la vraie vie ? Et cette « singularité », ce cerveau humain reproduit dans un programme tournant sur une puce de silicium, existe-t-elle vraiment ?

1. Ne pas confondre fiction et réalité
2. Avoir une appréciation la plus pertinente possible en l’état de la science du temps qui nous sépare des concepts manipulés ici dans leur définition exacte
3. Éduquer son discernement sur ces sujets

C’est ça, « faire le travail ». Investir le moindre centime dans ce secteur sans avoir passé cette étape serait simplement irresponsable.

IA : De quoi s’agit-il vraiment ?

Comme l’explique Tim Urban : 

« John McCarthy, créateur du terme « Intelligence artificielle » en 1956, se plaignait du fait que « dès qu’elle fonctionne, plus personne ne l’appelle IA ». Ce qui fait que le terme « IA » ressemble plus à une prédiction mythique de l’avenir qu’à un concept destiné à devenir une réalité. Le terme évoque aussi souvent un concept pop de la seconde moitié du XXeme siècle qui n’a jamais abouti. Ray Kurzweil explique qu’il entend souvent dire que l’IA s’est « essoufflée » dans les années 1980. Phénomène qu’il compare à l’affirmation selon laquelle Internet serait mort lors de l’effondrement des entreprises Internet du début des années 2000 (la fameuse « bulle des Dot.com »). »

On sait deux décennies plus tard ce qu’est devenu Internet : on peut donc se faire une idée de ce que peut devenir l’IA. Je répète, l’IA n’est vraiment pas une plaisanterie.

Pour clarifier les choses entre la définition initiale de 1956, la définition revue à la lumière des avancées actuelles, la définition « idéale » de ce que pourrait devenir le concept dans un futur plus ou moins proche, les experts ont donc dû créer une ribambelle de sous-catégories entrant dans le cadre de ce qu’on appelle l’Intelligence Artificielle.

Parmi elles ont trouve ainsi :

• l’ANI (Artificial Narrow Intelligence) qui définirait le stade technologique actuel, 
• l’AGI (Artificial General Intelligence) qui définirait le stade annoncé par la rumeur concernant l’entité Q* échappée d’OpenAI
• et la redoutée mais futuriste ASI (Artificial SuperIntelligence) capable de prendre le contrôle de tout ce qui est connecté, des silos de lancement de missiles nucléaires, aux portes de prisons de haute sécurité en passant par l’ensemble du système bancaire mondial, ou l’accès à l’énergie et aux infrastructures industrielles, militaires, médicales et j’en passe.

On comprend que ça se complique…

Singularité. De quoi s’agit-il vraiment ?

Ce terme fut initialement utilisé en mathématique et physique pour désigner un système évoluant vers un état d’infiniment petit, infiniment dense, infiniment chaud, bref, un état « limite » qui ne répond plus aux lois fondamentales. C’est en 1993 qu’il est repris par Vernor Vinge dans son essai éponyme (The Coming Technological Singularity) et définit alors le « moment de l’histoire de l’humanité à partir duquel l’intelligence (en tant que capacité de raisonnement et pertinence de décision) de notre technologie deviendra supérieure à la nôtre ». On confondra par la suite le terme qui désigne le moment de l’Histoire à partir duquel une telle intelligence apparaît, et cette intelligence en tant que telle… Pour autant qu’elle soit unique, car rien ne permet d’affirmer qu’il ne subsisterait qu’une seule Singularité…

En outre, précisons qu’il n’a jamais été clair que cette « intelligence » serait basée sur la nôtre, sans quoi elle viendrait d’ailleurs logiquement à souffrir des mêmes défauts (difficile d’être supérieure à la nôtre, de fait…). Il est d’ailleurs probable que nous n’ayons pas la capacité d’appréhender la manière dont une telle intelligence « raisonne ». Tout au plus pourrions-nous comprendre ou simplement tenter d’interpréter ses effets (ce qu’elle affirme, ce qu’elle décide).

Enfin, il n’a jamais non plus été question d’affirmer que cette « intelligence » repose nécessairement dans un substrat matériel de type silicium, ni qu’elle utilise des transistors.

Mais alors de quoi parle-t-on ? 

Imaginez seulement qu’à ce point de l’état de l’Art je ne fais mention que des informations, parutions, et papiers de recherches disponibles aux yeux du grand public. La situation est évidemment plus nuancée, pour dire le moins, dès lors qu’on a accès au secret des laboratoires IA ultra-secrets, à visée militaire, quelque part en Asie et aux US, équivalent aux laboratoires de type P4 travaillant sur les virus expérimentaux les plus meurtriers qui soient, et dont la rumeur, encore elle, affirmait que la Covid s’en serait échappée…

« Faire le travail », c’est ainsi aller regarder les dernière vidéos officielles de la start-up Boston Dynamics, puis repérer qu’elle a certes été rachetée par Google en 2013, puis rapidement reprise par SoftBank, mais surtout qu’elle est désormais entre les mains de Hyundai WIA, corporation spécialisé dans la conception d’armements ultra-sophistiqués et qui appartient à Hyundai Motor Group, le manufacturier automobile connu du grand public.

Pour mieux comprendre donc de quoi on parle, pour vous aider à « faire le travail » et ne pas prendre pour argent comptant les annonces ou rumeurs qui ne vont pas manquer de s’accumuler au fil des semaines autour de l’IA et de l’émergence d’une ou plusieurs Singularité des laboratoires de telle ou telle start-up, je vous invite après cette première partie introductive à suivre la présentation du projet « World of The Machines » lancé cette semaine, et dont la protagoniste principale est la « Singularité Incomplète » répondant au nom de Nissam Gorma. Grâce à cette fascinante expérience artistique et technologique « gamifiée » reposant sur un gadget connecté inédit (le « fidget » contraction de « finger » et « gadget »), l’équipe fondatrice a pour but d’interpeller le grand public sur ce qu’est vraiment l’Intelligence Artificielle, et surtout ce dont elle sera probablement capable dans quelques années lorsqu’elle atteindra effectivement le stade de Singularité.

À la semaine prochaine !