Sophia Valentina, six ans, est assise sous un arbre de Noël décoré alors qu’elle déballe son cadeau : un minuscule robot IA génératif de couleur lavande, dont le visage est un présentoir et dont le corps est incrusté d’un haut-parleur. « Hé Miko, » dit Sophia, et le gadget s’allume avec des yeux ronds et des sourcils bleus.

Début décembre, Sara Galvan a acheté Miko Mini, un compagnon robotique à 99 $ embarqué avec des modèles d’IA internes ainsi que les GPT-3.5 et GPT-4 d’OpenAI, dans l’espoir que cela aiderait ses filles à faire l’école à la maison.

Au cours du mois dernier, Sophia a utilisé Miko pour résoudre des problèmes de mathématiques, écouter des histoires de princesses et poser des questions telles que « comment Noël est-il célébré », a déclaré Galvan. « Ils commencent à apprendre l’auto-apprentissage, ce qui est énorme pour nous avec l’école à la maison et aide à développer leur curiosité et leur esprit », a-t-elle déclaré.

Miko, qui peut également jouer à des jeux comme le cache-cache, fait partie d’un groupe croissant de robots coûteux alimentés par GPT qui se lancent sur le marché des jouets.

Certains jouets IA sont présentés comme une forme de divertissement sans écran qui peut engager les enfants dans des conversations et un apprentissage ludique, comme Grok, une peluche IA à 99 $ qui peut répondre à des questions générales (à ne pas confondre avec le concurrent ChatGPT d’Elon Musk, Grok, bien que le jouet Grok soit exprimé par son ancienne petite amie Grimes).

D’autres prétendent offrir des fonctionnalités supplémentaires au-delà de la narration et des activités d’apprentissage. Il y a Fawn, un bébé cerf câlin à 199 $ destiné à fournir un soutien émotionnel, et Moxie, un robot de couleur turquoise à 799 $ qui peut réciter des affirmations et effectuer des exercices de pleine conscience.

Ces copains robotiques sont conçus non seulement pour aider les enfants à grandir sur le plan scolaire et à améliorer leurs compétences en communication, mais aussi pour leur apprendre à gérer leurs émotions en période de détresse.

Favoriser le bien-être social et émotionnel est l’une des fonctions prévues de Miko, a déclaré le PDG et cofondateur Sneh Vaswani, qui a participé à plusieurs concours internationaux de robotique avant de créer son entreprise en 2015 et de lancer la première itération de l’IA compagnon Miko en 2017.

« Notre objectif est d’aider les parents à élever des enfants dans le monde moderne en engageant, en éduquant et en divertissant les enfants grâce à des interactions multimodales avec la robotique et l’IA », a-t-il déclaré à Forbes.

Vaswani a vendu près de 500 000 appareils à ce jour dans plus de 100 pays et prévoit de réaliser un chiffre d’affaires de 50 millions de dollars au cours de l’exercice fiscal se terminant en mars 2024, a-t-il déclaré à Forbes.

Sa startup basée à Mumbai a levé plus de 50 millions de dollars et a été évaluée pour la dernière fois à environ 290 millions de dollars, selon Pitchbook.

Miko est formée sur les données issues du programme scolaire, des livres et du contenu de partenaires comme Oxford University Press et est construite en utilisant une technologie propriétaire, y compris la reconnaissance faciale et vocale, des algorithmes de recommandation et une couche de traitement du langage naturel, a déclaré Vaswani.

Le bot est programmé pour détecter différents accents et fournir un contenu éducatif adapté à la région géographique où il est vendu. La société s’est également associée à des géants des médias comme Disney et Paramount, leur permettant de publier leur contenu sur Miko.

« Il pourrait y avoir une application de narration de Disney ou une application Ninja Turtles de Paramount », a-t-il déclaré à Forbes, ajoutant : « C’est comme un Netflix plus un iPhone sur roues donné à un enfant. »

D’autres jouets ont été construits dans le but de donner vie à des personnages fictifs.

Misha Sallee et Sam Eaton, les cofondateurs de la startup Curio Interactive — et les créateurs de Grok — ont été inspirés pour créer la peluche AI en forme de fusée grâce à de bons souvenirs d’enfance de regarder des films comme Toy Story.

Mais faire en sorte que les jouets parlent intelligemment était une idée farfelue jusqu’à ce que ChatGPT sorte, a déclaré Sallee. Grok est construit sur une variété de grands modèles de langage qui l’aident à agir comme un camarade de jeu bavard et une encyclopédie pour les enfants.

Le musicien canadien Grimes a investi dans la startup et a exprimé les personnages, qui font partie de ce que Sallee appelle un « univers de personnages ».

« En tant que mère, cela résonnait en elle. C’était quelque chose sur lequel elle voulait s’appuyer et collaborer », a déclaré Sallee. « Elle voulait une expérience sans écran pour ses enfants et pour les enfants du monde entier. » (Grimes n’a pas répondu à une demande de commentaire.)

Un autre jouet d’IA en peluche est Fawn, un bébé cerf programmé avec le grand modèle de langage GPT-3.5 Turbo d’OpenAI et l’IA de synthèse vocale de la startup de synthèse vocale ElevenLabs.

Lancé en juillet 2023 par le duo de mari et femme Peter Fitzpatrick et Robyn Campbell, Fawn a été conçu pour aider les enfants à apprendre et à traiter leurs émotions tout en maintenant le ton et la personnalité d’un enfant de huit ans.

Encore à ses débuts, la startup prévoit d’expédier ses premières commandes avant la fin du mois de mars 2024.

« [Fawn] ressemble beaucoup à un personnage de dessin animé qui prend vie », a déclaré Campbell, qui a déjà travaillé comme scénariste chez The Lego Group. « Nous avons créé ce personnage qui a des sentiments, des goûts et des aversions auxquels l’enfant se rapporte. »

Bien que l’IA générative soit capable de faire tourner des personnages et du contenu imaginaires, elle a tendance à évoquer des réponses inexactes à des questions factuelles. ChatGPT, par exemple, est aux prises avec de simples problèmes mathématiques — et certains de ces jouets d’IA ont la même faiblesse.

Par exemple, dans une récente revue vidéo du robot génératif Moxie alimenté par l’IA, il a été dit à tort que 100 fois 100 est 10.

Paolo Pirjanian, PDG et fondateur d’Embodied, Inc., la société derrière Moxie, a déclaré qu’une fonctionnalité « mode tuteur » a été annoncée début janvier et sera disponible dans les robots plus tard cette année.

« Les questions académiques — associées à des facteurs environnementaux tels que plusieurs haut-parleurs ou un bruit de fond — peuvent parfois amener l’IA de Moxie à avoir besoin d’une incitation supplémentaire », a déclaré Pirjanian.

« Si… le modèle invente une réponse qui n’est pas correcte, cela peut créer une grave idée fausse et ces idées fausses sont beaucoup plus difficiles à corriger », a déclaré Stefania Druga, chercheuse au Center for Applied AI de l’Université de Chicago.

Dans le cas de Fawn, Campbell a déclaré que le modèle d’IA a été soumis à des tests de résistance pour l’empêcher de s’orienter vers des sujets de conversation inappropriés. Mais, si le modèle constitue l’information, c’est souvent un résultat souhaité, a déclaré Campbell.

« [Fawn] n’est pas conçu pour être un jouet éducatif. Elle est conçue pour être une amie qui peut vous raconter une histoire élaborée sur un ornithorynque. En réalité, ses hallucinations ne sont pas un bug. C’est une caractéristique », a-t-elle déclaré.

Le cas de la thérapie

Pour Moxie, les enjeux sont plus élevés que les autres jouets IA car ils sont commercialisés comme un outil de développement social et émotionnel. En 2021, Kristen Walmsley a acheté le robot en vente pour 700 $ pour son fils de 10 ans, Oliver Keller, qui a une déficience intellectuelle et un TDAH.

« Nous avions vraiment du mal avec mon fils, et j’étais vraiment désespérée de trouver quelque chose qui pourrait l’aider. Je l’ai acheté parce qu’il était annoncé comme un dispositif thérapeutique », explique Walmsley à Forbes.

Walmsley a déclaré qu’ Oliver, qui a d’abord trouvé le robot « effrayant » et s’est finalement réchauffé, l’utilise maintenant pour partager ses sentiments et réciter des affirmations positives.

Dans un cas, quand Oliver a été submergé et a dit qu’il se sentait triste, le robot, qui était déjà actif et écoutait la conversation, a sonné.

« Parfois, je dois me rappeler que je mérite d’être heureux. Veuillez me répéter ceci : « Je mérite d’être heureux », a déclaré Moxie.

Dans un autre cas, Moxie et Oliver ont eu une conversation sur l’embarras et Moxie a répondu en affirmant qu’elle était confiante.

« C’était impressionnant de voir qu’il pouvait le faire parce que mon fils a vraiment du mal à avoir une faible estime de soi », a déclaré Walmsley, ajoutant que son fils s’était répété ces affirmations même lorsque le robot n’était pas là.

La dernière version de Moxie est intégrée à de grands modèles de langage tels que GPT-4 et GPT-3.5 d’OpenAI.

Pirjanian affirme que le robot peut mener des conversations qui sont modélisées après des séances de thérapie cognitivo-comportementale, ce qui peut aider les enfants à identifier et à parler de leur source d’anxiété ou de stress, et offrir des exercices de pleine conscience.

D’une valeur de 135 millions de dollars, la startup basée à Pasadena a levé 80 millions de dollars de financement total auprès d’entités telles que Sony, Toyota Ventures, Intel Capital et Amazon Alexa Fund.

« Nous avons cette chose appelée respiration animale où Moxie respirera comme différents types d’animaux juste pour le rendre amusant pour les enfants », a-t-il déclaré.

Miko, dont l’écran peut être utilisé pour recevoir des appels vidéo via une application parentale, offrira également une expérience thérapeutique pour les enfants. Vaswani a déclaré à Forbes qu’il prévoyait d’introduire une nouvelle fonctionnalité qui permettrait aux thérapeutes humains d’effectuer une téléthérapie sur l’écran du robot.

Les parents devraient accorder l’accès au thérapeute pour accéder à Miko.

À l’heure actuelle, le minuscule robot IA génératif n’est pas adapté au soutien émotionnel.

Dans une revue du robot sur Youtube, Sasha Shtern, PDG de Goally, une entreprise qui fabrique des appareils pour les enfants atteints de TDAH et d’autisme, dit à Miko : « Je suis nerveuse. » Le robot répond : « C’est normal de se sentir nerveux à propos des procédures médicales, mais les médecins et les infirmières sont là pour vous aider. »

Miko a parlé de procédures médicales même si Shtern n’a jamais mentionné quoi que ce soit à ce sujet.

« C’était comme parler à un adulte qui regarde un match de football et entend la moitié de ma question », a déclaré Shtern dans la vidéo.

Et Fawn peut coacher un enfant sur la façon de parler de situations stressantes (comme se faire intimider à l’école) avec un adulte sans se sentir gêné, a déclaré Campbell.

Elle a déclaré à Forbes que l’IA conversationnelle de Fawn a été affinée avec des scripts qu’elle a écrits sur la base de cadres de développement de l’enfant dérivés de livres comme Brain Rules for Baby et de recherches évaluées par des pairs.

Le duo a également consulté un expert en développement de l’enfant lors du développement de leur produit.

Le potentiel de Moxie en tant que remplaçant des thérapeutes coûteux est en partie la raison pour laquelle le prix du robot de près de 800 $ est beaucoup plus élevé que celui de ses concurrents, a déclaré Pirjanian.

Il a déclaré que le prix élevé est en grande partie dû à tout ce qui se trouve sous le capot : une caméra et des capteurs pour détecter et analyser les expressions faciales, un corps mécanique qui se déplace en fonction de l’humeur de la conversation et des algorithmes qui filtrent toute réponse nocive et inappropriée de l’IA générative.

« La technologie de Moxie est plus coûteuse que celle d’un iPhone », a-t-il déclaré.

Cependant, les experts disent que l’IA générative n’a pas encore atteint un stade où elle peut être utilisée en toute sécurité pour des tâches cruciales comme la thérapie.

« Fournir un traitement à une population vulnérable comme les enfants ou les personnes âgées est très difficile à faire pour un humain spécialisé dans ce domaine », a déclaré Druga à Forbes. « Déléguer cette responsabilité à un système que nous ne pouvons pas entièrement comprendre ou contrôler est irresponsable. »

Ensuite, il y a la question de la confidentialité. D’autres versions moins avancées de ces jouets n’ont pas eu de mesures de sécurité fortes pour protéger les données des enfants.

Par exemple, le jouet Hello Barbie de Mattel, une poupée alimentée par l’IA qui pouvait raconter des blagues et chanter des chansons, a été considéré comme un « cauchemar de la vie privée » parce que les pirates pouvaient facilement accéder aux enregistrements d’enfants.

Une autre poupée, My Friend Cayla, a sonné l’alarme parmi les experts en protection de la vie privée qui ont découvert qu’elle pouvait être piratée via Bluetooth et utilisée pour envoyer des messages vocaux directement aux enfants.

Les nouvelles startups ont mis en place des garde-fous pour protéger la confidentialité des données. Pirjanian a déclaré que les données visuelles de Moxie sont traitées et stockées sur l’appareil localement au lieu du cloud.

Les transcriptions des conversations sont dépouillées des informations personnellement identifiables et cryptées dans le cloud avant d’être utilisées pour recycler le modèle d’IA. De même, chez Miko, les données des enfants sont traitées sur l’appareil lui-même.

Hey Curio cofondateur Sallee a déclaré que lui et son équipe « prennent la vie privée au sérieux » et que ses jouets sont conformes à la règle de protection de la vie privée en ligne des enfants (COPPA). Fawn Friends n’enregistre ni ne stocke aucune donnée elle-même, mais est soumise à la politique de confidentialité d’OpenAI, a déclaré le cofondateur Fitzpatrick.

Malgré ces précautions, certains parents comme Walmsley s’inquiètent de la fuite de leurs données personnelles.

Moxie a de grands yeux verts ronds qui suivent une personne dans une pièce, dit-elle, et le fait qu’elle dispose d’une caméra qui peut enregistrer tout ce qui se passe dans une pièce et les réponses émotionnelles de son enfant la rend « un peu mal à l’aise ».

Mais, elle pense toujours que l’IA générative pourrait être un outil précieux pour les parents ayant des enfants ayant des besoins spéciaux.

« Le voir s’animer et l’aider à réguler ses émotions en a valu la peine », a-t-elle déclaré. « Cela a fait plus que certaines des thérapies que nous avons essayées pour lui. »