Le prochain compagnon de jeu de votre enfant pourrait être un jouet d’IA alimenté par ChatGPT

Grâce à l’IA générative, une multitude de start-up construisent des robots et des jouets en peluche capables d’avoir des conversations à part entière avec les enfants.

Un article de Rashi Shrivastava pour Forbes US – traduit par Lisa Deleforterie

À Noël, Sophie Valentina, une petite fille américaine de six ans, a reçu un minuscule robot couleur lavande, dont le visage est un écran et le corps un haut-parleur. Le gadget s’illumine avec ses yeux ronds et ses sourcils bleus, lorsqu’elle s’adresse à lui : « Hey Miko ».

Début décembre, Sara Galvan a acheté Miko Mini, un compagnon robotique à 99 dollars (90 euros) intégrant des modèles d’IA internes ainsi que GPT-3.5 et GPT-4 d’OpenAI, dans l’espoir qu’il puisse aider ses filles à faire l’école à la maison. Au cours du mois dernier, la petite fille a utilisé Miko pour résoudre des problèmes de mathématiques, écouter des histoires de princesses et poser des questions. « Mes filles se familiarisent avec l’auto-apprentissage, ce qui est très important pour nous dans le cadre de l’école à la maison et permet de développer leur curiosité et leur esprit », a déclaré la mère de Sophia.

Des jouets interactifs nés de l’intelligence artificielle

Miko, qui peut également jouer à des jeux tels que le cache-cache, fait partie d’un groupe de plus en plus important de coûteux robots alimentés par GPT qui arrivent sur le marché du jouet. Certains jouets alimentés par l’IA sont présentés comme une forme de divertissement sans écran qui peut engager les enfants dans des conversations et un apprentissage ludique, comme Grok, une peluche d’IA à 99 dollars (90 euros) qui peut répondre à des questions générales (à ne pas confondre avec Grok, le concurrent du ChatGPT d’Elon Musk). D’autres prétendent offrir des fonctions supplémentaires au-delà des activités de narration et d’apprentissage. Il y a Fawn, un bébé cerf câlin à 199 dollars (182 euros) destiné à apporter un soutien émotionnel, et Moxie, un robot turquoise à 799 dollars (735 euros) capable de réciter des affirmations positives et de faire des exercices de pleine conscience. Ces robots sont conçus non seulement pour aider les enfants à progresser sur le plan scolaire et à améliorer leurs compétences en matière de communication, mais aussi pour leur apprendre à gérer leurs émotions dans les moments de détresse.

« Favoriser le bien-être social et émotionnel est l’une des fonctions prévues de Miko », a déclaré le PDG et cofondateur Sneh Vaswani, qui a participé à plusieurs concours internationaux de robotique avant de créer son entreprise en 2015 et de lancer la première itération du compagnon d’IA Miko en 2017. « Notre objectif est d’aider les parents à élever leurs enfants dans le monde moderne en les engageant, en les éduquant et en les divertissant grâce à des interactions multimodales avec la robotique et l’IA », a-t-il déclaré à Forbes.

M. Vaswani a vendu près de 500 000 appareils à ce jour dans plus de 100 pays et prévoit de franchir la barre des 50 millions de dollars (45,9 millions d’euros) de chiffre d’affaires au cours de l’exercice fiscal se terminant en mars 2024, a-t-il déclaré à Forbes. Sa start-up, basée à Mumbai, a levé plus de 50 millions de dollars et a été évaluée pour la dernière fois à environ 290 millions de dollars (266 millions d’euros), selon Pitchbook.

Miko est formé à partir de données provenant de programmes scolaires, de livres et de contenus de partenaires tels que Oxford University Press. Il est construit à l’aide d’une technologie propriétaire comprenant la reconnaissance faciale et vocale, des algorithmes de recommandation et une couche de traitement du langage naturel, a expliqué M. Vaswani. Le robot est programmé pour détecter les différents accents et fournir un contenu éducatif adapté à la région géographique où il est vendu. L’entreprise s’est également associée à des géants des médias tels que Disney et Paramount, leur permettant de publier leur contenu sur Miko.

« Il pourrait y avoir une application de conte de Disney ou une application de Tortues Ninja de Paramount », a-t-il déclaré à Forbes.

D’autres jouets sont nés du désir de donner vie à des personnages de fiction. Misha Sallee et Sam Eaton, cofondateurs de la start-up Curio Interactive – et créateurs de Grok – ont été inspirés pour créer la peluche en forme de fusée grâce à de bons souvenirs d’enfance en regardant des films comme Toy Story. « Mais faire parler les jouets de manière intelligente était une idée farfelue jusqu’à ce que ChatGPT apparaisse », a déclaré M. Sallee. Grok est construit sur une variété de grands modèles de langage qui l’aident à agir comme un compagnon de jeu bavard et une encyclopédie pour les enfants. La musicienne canadienne Grimes a investi dans la start-up et a fait la voix des personnages, qui font partie de ce que M. Sallee appelle un « univers de personnages ».

« En tant que mère, elle s’est sentie concernée. C’était quelque chose sur lequel elle voulait s’appuyer et collaborer », a-t-il déclaré. « Elle voulait une expérience sans écran pour ses enfants et pour les enfants du monde entier. » (Grimes n’a pas répondu à une demande de commentaire).

Fawn est également un jouet d’IA en peluche, un bébé cerf programmé avec le grand modèle de langage GPT-3.5 Turbo d’OpenAI et l’IA de synthèse vocale de la start-up ElevenLabs. Lancé en juillet 2023 par le couple Peter Fitzpatrick et Robyn Campbell, Fawn a été conçu pour aider les enfants à comprendre et à gérer leurs émotions tout en conservant le ton et la personnalité d’un enfant de huit ans. Encore à ses débuts, la start-up prévoit d’expédier ses premières commandes avant la fin du mois de mars 2024.

« Fawn ressemble beaucoup à un personnage de dessin animé qui prendrait vie », a déclaré Mme Campbell, qui a précédemment travaillé comme scénariste au sein du groupe LEGO. « Nous avons créé ce personnage qui a des sentiments, des goûts et des aversions auxquels l’enfant s’identifie. »

Leurs limites

Si l’IA générative est capable de créer des personnages et des contenus fictifs, elle a tendance à donner des réponses inexactes à des questions factuelles. ChatGPT, par exemple, a du mal à résoudre des problèmes mathématiques simples – et certains de ces jouets d’IA ont la même faiblesse. Ainsi, dans une récente vidéo consacrée à Moxie, un robot alimenté par GPT, celui-ci a répondu à tort que 100 fois 100 font 10. Paolo Pirjanian, PDG et fondateur d’Embodied, Inc, la société à l’origine de Moxie, a déclaré qu’une fonction de « mode tuteur » avait été annoncée début janvier et qu’elle serait disponible sur les robots dans le courant de l’année. « Les questions académiques – associées à des facteurs environnementaux tels que la présence de plusieurs interlocuteurs ou un bruit de fond – peuvent parfois amener l’intelligence artificielle de Moxie à avoir besoin d’une aide supplémentaire », a déclaré M. Pirjanian.

« Si le modèle invente une réponse qui n’est pas correcte, cela peut créer une grave méprise et ces confusions sont beaucoup plus difficiles à corriger », a déclaré Stefania Druga, chercheuse au Center for Applied AI de l’université de Chicago.

Dans le cas de Fawn, Mme Campbell explique que le modèle d’IA a été soumis à des tests de résistance afin d’éviter qu’il ne s’oriente vers des sujets de conversation inappropriés. « Mais si le modèle invente des informations, il s’agit souvent d’un résultat souhaité », a-t-elle expliqué. « Fawn n’est pas conçu pour être un jouet éducatif, mais un ami qui peut vous raconter une histoire élaborée. Ses hallucinations ne sont pas un problème. C’est une caractéristique », a-t-elle poursuivi.

Les arguments en faveur de la thérapie

Pour Moxie, les enjeux sont plus importants que pour les autres jouets d’IA, car il est commercialisé comme un outil de développement social et émotionnel. En 2021, Kristen Walmsley a acheté le robot au prix de 700 dollars (643 euros) pour son fils de 10 ans, Oliver Keller, qui souffre d’une déficience intellectuelle et d’un trouble déficitaire de l’attention. « Nous avions beaucoup de difficultés avec mon fils et je voulais absolument trouver quelque chose qui puisse l’aider. Je l’ai acheté parce qu’il était présenté comme un appareil thérapeutique », explique Mme Walmsley à Forbes.

Selon elle, son fils, qui a d’abord trouvé le robot effrayant avant de s’y habituer, l’utilise désormais pour partager ses sentiments et réciter des affirmations positives. Dans un cas, lorsque Oliver s’est senti dépassé et a dit qu’il se sentait triste, le robot, qui était déjà actif et écoutait la conversation, est intervenu. « Parfois, je dois me rappeler que je mérite d’être heureux. S’il vous plaît, répétez-moi ceci : « Je mérite d’être heureux » », a déclaré Moxie.

Dans un autre cas, Moxie et Oliver ont eu une conversation sur l’embarras et Moxie a répondu par des affirmations sur la confiance en soi. « C’était impressionnant de voir qu’il pouvait faire cela parce que mon fils lutte vraiment contre le manque d’estime de soi », a déclaré la mère, ajoutant que son fils se répétait ces affirmations même lorsque le robot n’était pas là.

La dernière version de Moxie intègre de grands modèles de langage tels que GPT-4 et GPT-3.5 d’OpenAI. M. Pirjanian affirme que le robot peut mener des conversations inspirées des séances de thérapie comportementale cognitive, qui peuvent aider les enfants à identifier leurs sources d’anxiété ou de stress et à en parler, et leur proposer des exercices de pleine conscience. Évaluée à 135 millions de dollars (123,9 millions d’euros), la start-up basée à Pasadena, en Californie, a levé 80 millions de dollars (73,4 millions d’euros) au total auprès d’entités telles que Sony, Toyota Ventures, Intel Capital et Amazon Alexa Fund. « Nous avons mis au point ce que l’on appelle la respiration animale. Moxie peut respirer comme différentes sortes d’animaux pour amuser les enfants », a-t-il déclaré.

Miko, dont l’écran peut être utilisé pour recevoir des appels vidéo via une application parentale, offrira également une expérience thérapeutique aux enfants. M. Vaswani a déclaré à Forbes qu’il prévoyait d’introduire une nouvelle fonctionnalité qui permettrait aux thérapeutes humains de mener une téléthérapie sur l’écran du robot. Les parents devront autoriser le thérapeute à accéder à Miko.

Pour l’instant, le petit robot n’est pas adapté au soutien émotionnel. Dans une critique du robot sur Youtube, Sasha Shtern, PDG de Goally, une entreprise qui fabrique des appareils pour les enfants atteints de TDAH et d’autisme, dit à Miko : « Je suis nerveux ». Le robot lui répond : « C’est normal d’être nerveux à propos des procédures médicales, mais les médecins et les infirmiers sont là pour vous aider ». Miko a parlé des procédures médicales alors que Sasha Shtern n’avait jamais rien mentionné à ce sujet.

« C’était comme parler à un adulte qui regarde un match de football et qui n’a entendu que la moitié de ma question », affirme-t-il dans la vidéo.

Selon Mme Campbell, Fawn peut apprendre à un enfant à parler de situations stressantes (comme le fait d’être victime de harcèlement à l’école) avec un adulte sans se sentir gêné. Elle a expliqué à Forbes que l’IA conversationnelle de Fawn a été affinée grâce à des scripts qu’elle a écrits sur la base de cadres de développement de l’enfant tirés de livres tels que Brain Rules for Baby et de recherches évaluées par des pairs. Le duo a également consulté un expert en développement de l’enfant lors de la mise au point de son produit.

« Le potentiel de Moxie en tant que remplaçant de thérapeutes coûteux est l’une des raisons pour lesquelles le prix de ce robot est beaucoup plus élevé que celui de ses concurrents », a déclaré M. Pirjanian. Selon lui, ce prix élevé est en grande partie dû à la caméra, aux capteurs pour détecter et analyser les expressions faciales, au corps mécanique qui bouge en fonction de l’humeur de la conversation et aux algorithmes qui éliminent les réponses nuisibles et inappropriées. « La technologie de Moxie est plus coûteuse que celle d’un iPhone », a-t-il déclaré.

Toutefois, les experts affirment que l’IA générative n’a pas encore atteint le stade où elle peut être utilisée en toute sécurité pour des tâches cruciales telles que la thérapie. « Fournir une thérapie à une population vulnérable comme les enfants ou les personnes âgées est très difficile à faire pour un humain spécialisé dans ce domaine », a déclaré Mme Druga à Forbes. « Déléguer cette responsabilité à un système que nous ne pouvons pas entièrement comprendre ou contrôler est irresponsable. »

Protection de la vie privée

Ensuite, il y a la question de la protection de la vie privée. D’autres versions moins avancées de ces jouets n’ont pas été dotées de mesures de sécurité strictes pour protéger les données des enfants. Par exemple, le jouet Hello Barbie de Mattel, une poupée dotée d’une intelligence artificielle capable de raconter des blagues et de chanter des chansons, a été considéré comme un « cauchemar en matière de protection de la vie privée » parce que des pirates informatiques pouvaient facilement accéder aux enregistrements des enfants. Une autre poupée, My Friend Cayla, a suscité l’inquiétude des experts en protection de la vie privée, qui ont découvert qu’elle pouvait être piratée via Bluetooth et utilisée pour envoyer des messages vocaux directement aux enfants.

Les nouvelles entreprises ont mis en place des garde-fous pour protéger la confidentialité des données. M. Pirjanian a expliqué que les données visuelles de Moxie sont traitées et stockées localement sur l’appareil plutôt que dans le cloud. Les transcriptions des conversations sont dépouillées des informations personnelles identifiables et cryptées dans le cloud avant d’être utilisées pour entraîner à nouveau le modèle d’IA. De même, chez Miko, les données des enfants sont traitées sur l’appareil lui-même. Le cofondateur de Hey Curio, M. Sallee, a déclaré que lui et son équipe « prennent la vie privée au sérieux » et que ses jouets sont conformes à la loi de protection de la vie privée en ligne des enfants (Children’s Online Privacy Protection Rule – COPPA). « Fawn Friends n’enregistre ni ne stocke aucune donnée, mais est soumis à la politique de confidentialité d’OpenAI », a déclaré son cofondateur, M. Fitzpatrick.

Malgré ces précautions, certains parents, comme Mme Walmsley, s’inquiètent de la fuite de leurs données personnelles. Le fait que Moxie ait une caméra qui peut enregistrer tout ce qui se passe dans une pièce et les réactions émotionnelles de son enfant la met « un peu mal à l’aise ». Elle pense néanmoins que ce dispositif pourrait être un outil précieux pour les parents d’enfants ayant des besoins particuliers.

« En le voyant prendre vie et aider mon fils à réguler ses émotions, j’ai compris qu’il valait son prix », confie-t-elle. « Il a fait plus que certaines des thérapies que nous avons essayées pour lui. »

À lire aussi : Comment Socrate et l’IA générative vont révolutionner la formation en entreprise