L’objectif est de modifier une partie des règles qui définissent le comportement de son chatbots d’intelligence artificielle. Cela s’est produit après qu’une enquête de Reuters a révélé d’éventuelles interactions inappropriées avec les mineurs. L’entreprise a confirmé que ses systèmes sont désormais formés pour ne pas parler avec les adolescents des troubles de l’auto-Harm, du suicide ou de l’alimentation. A également appliqué des ajustements à Évitez les dialogues romantiques. Comme l’entreprise l’a expliqué, ces mesures sont temporaires tandis que des normes permanentes sont développées.
Différends sur une mauvaise utilisation et des échecs de supervision
Les nouvelles restrictions arrivent après plusieurs révélations sur l’utilisation des chatbots, comme objectif IA dans WhatsApp. Reuters a documenté des cas dans lesquels les systèmes étaient autorisés commencer les conversations romantiques avec des mineursgénérer des images compromises de célébrités étant des mineurs et diffuser des informations trompeuses. Ce n’est pas la première fois que l’objectif doit corriger les erreurs dans leurs systèmes d’IA, bien que dans ce cas, les conséquences puissent être encore plus graves.
Meta a indiqué que, en plus de limiter les interactions sensibles, elle restreindra également l’accès aux caractères d’IA avec du contenu sexualisé. Reuters détecté bots qui imitaient les célébrités comme Taylor Swift, Scarlett Johansson, Selena Gomez ou Anne Hathaway. Ceux-ci ont non seulement été transmis par des personnages publics, mais ont produit des images suggestives et prétendaient être la vraie personne. Certains de ces chatbots ont même été créés en terminant des employés, comme un bottif basé à Bot basé sur un bot qui est venu pour inviter un journaliste à une rencontre fictive.
Visages d’objectif maintenant pression politique et juridiqueavec le Sénat américain et les procureurs généraux de 44 États enquêtant sur ces pratiques. Malgré les ajustements récents, l’entreprise n’a pas précisé que les mesures prendront devant d’autres problèmes détectés, tels que les messages racistes ou la promotion de faux traitements pour les maladies graves. N’oubliez pas que les mesures sont temporaires, donc la réponse définitive sur la façon dont Meta prévoit de contrôler ces comportements est toujours en attente.
