AI Overviews : l’auto-sabotage de Google dans la course à l’intelligence artificielle

L’IA de Google, AI Overviews, est vivement critiquée par ses premiers utilisateurs à cause des réponses absurdes qu’elle fournit. Pour le moment seulement disponible aux États-Unis, elle témoigne de la précipitation de Google pour rester dans la course face à la concurrence.

• Face à la menace OpenAI et à l’émergence de concurrents qui résument les pages web grâce à une IA, Google travaille activement depuis plus d’un an sur sa propre version des résumés IA, jusque-là seulement accessibles sur inscription. Depuis le 14 mai 2024, la fonction AI Overviews est disponible et déployée par défaut chez tous les utilisateurs de Google aux États-Unis. Des milliards de recherches ont déjà été résumées par l’IA Gemini, qui propose une réponse écrite en haut des résultats. Mais les réponses proposées par l’IA sont dans beaucoup de cas particulièrement absurdes.

• Très souvent, AI Overviews pioche ses des réponses sur Reddit, au lieu de choisir des sources plus fiables. Google n’affiche pas non plus les mêmes résultats à tout le monde. Il peut arriver que Gemini donne des mauvais conseils de santé et, parfois, confonde une blague avec la réalité. Par exemple, l’IA conseille aux femmes enceintes de consommer deux cigarettes par jour. Sur X, anciennement Twitter, des captures d’écran des réponses ratées d’AI Overviews ont été massivement partagées.

• Pour essayer de limiter le fiasco de ce qui devait être la grande révélation de la nouvelle fonctionnalité du moteur de recherche le plus visité au monde, Google s’est empressé de modifier les réponses de son intelligence artificielle. Une porte-parole a affirmé à The Verge que l’entreprise a « pris des mesures rapides » pour supprimer les aperçus de l’IA pour certaines requêtes et utilise ces exemples pour améliorer plus largement ses systèmes.

• Google n’en est pas à son premier lancement controversé. Il y a quelques mois, Google avait également créé la polémique avec le générateur d’images de Gemini. Celui-ci était accusé de produire des aberrations historiques, dont des soldats allemands nazis noirs et asiatiques, des Vikings noirs, ou encore des femmes sénatrices américaines au XIXe siècle.

À lire aussi : OpenAI signe un accord avec PwC pour vendre ChatGPT aux entreprises