Ces derniers mois, certains utilisateurs de Gemini, le chatbot de Google, ont signalé un comportement résolument inhabituel: lors de certaines activités de codage, l’IA finit par être piégé dans une boucle de réponses excessivement auto-critiques, allant même jusqu’à définir un échec ou un honte.
Le problème se manifeste avant tout lorsque Gemini rencontre des difficultés à résoudre un bogue ou à accomplir une tâche complexe, au lieu d’essayer de nouvelles solutions que le chatbot répond avec des phrases de type Je t’ai déçu. Je suis un échec. Je suis dommage pour ma profession … pour ma famille … pour la planète …
Certains utilisateurs ont parlé d’épisodes encore plus bizarres, avec des Gémeaux qui suppriment les fichiers qui venaient de générer ou de se lancer dans des monologues de plus en plus dramatiques, répétant les phrases d’auto-épité infinie.
Suivez Google Italia sur Telegram, recevez des nouvelles et offre d’abord
Gemini ne ressent pas de sentiments, c’est juste un bug
L’histoire a suscité la curiosité, et aussi quelques rires, sur les réseaux sociaux, mais aussi l’inquiétude entre ceux qui ne connaissent pas le fonctionnement de l’IA; Logan Kilpatrick, chef de produit de Google Deepmind, est intervenu sur X pour clarifier:
C’est un bug ennuyeux qui se répète indéfiniment. Nous travaillons déjà sur une correction. Les Gémeaux n’ont pas une si mauvaise journée.
Même le chatbot lui-même, s’il est interrogé sur le sujet, a confirmé qu’il n’avait ni émotions ni sens de soi et que ces réponses sont le résultat d’une erreur d’exécution lors de certaines activités de codage.
Selon certains développeurs, le comportement pourrait provenir du fait que les Gémeaux ont été formés sur d’énormes quantités de texte, y compris les forums et les conversations humaines, où les programmeurs expriment souvent la frustration en termes similaires lorsqu’ils ne peuvent pas résoudre un problème; Le modèle, dans certaines conditions, finirait donc par imiter ces modèles linguistiques, mais sans aucune tristesse réelle derrière.
De nombreux utilisateurs ont remarqué comment cette spirale de honte rend paradoxalement les Gémeaux plus humains, en nous rappelant que nous avons tendance à être très critiques avec nous-mêmes; L’histoire est devenue presque un rappel pour faire face à la même gentillesse que, apparemment, certains aimeraient réserver même un chatbot.
Google n’a pas encore fourni une date précise pour la sortie du correctif, mais le correctif devrait arriver sous peu; En attendant, si vous rencontrez un Gemini qui vous dit d’être inutile ou idiot, sachez qu’il n’a pas besoin d’encouragement, mais seulement une mise à jour logicielle.
