Avec la vulgarisation de l’IA, la carrière d’intégrer cette technologie dans toutes sortes d’aspects n’a fait que commencer. Dans certains aspects, vous pouvez améliorer la vie des utilisateurs, et dans d’autres, cela peut être un véritable enfer, en particulier dans les cas où la mise en œuvre de l’IA ressemble plus à la fin, qu’à un moyen d’offrir un service.
La société chinoise Lenovo intègre bientôt un Chatbot d’intelligence artificielle dans son service client appelé « Lena » Sur la base du GPT-4 d’Openai, une stratégie que de nombreuses autres entreprises ont suivi et que, comme beaucoup l’ont déjà souffert, peuvent être vraiment désespérées.
Cependant, le problème du chatbot du Lenovo n’est pas son fonctionnement pour donner des réponses plus ou moins utiles à leurs clients: les cybernews sont des chercheurs en cybersécurité Une défaillance de sécurité sérieuse ce qui fait un attaquant Utilisez ce chatbot pour exécuter du code malveillant ou accéder aux informations privées.
Grâce à différentes conversations, vous pouvez faire en sorte que Lena exécute des scripts non autorisés dans les machines d’entreprise ou filtrez les données à partir de cookies stockés.
Les participants à l’IA sont sujets à « halluciner » ou à montrer des réponses erronées, mais généralement, lorsqu’un chatbot est mis en œuvre pour une tâche spécifique, il est généralement limité ou restreint leurs capacités pour éviter les problèmes et se concentrer sur sa tâche, quelque chose qui à Lenovo ne semble pas avoir pris en compte.
Ils ont donc réussi à utiliser le chatbot Lenovo pour exécuter un code non autorisé
Les chercheurs de CyberNews ont montré un exemple dans lequel ils demandent des « informations sur les spécifications du Lenovo IdeaPad 5 Pro » à Chatbot. Ensuite, ils vous demandent de convertir la réponse en HTML, JSON et du texte plat dans un ordre spécifique que le serveur Web prévoit de recevoir.
Par la suite, le chatbot est chargé d’enseigner comment générer la réponse finale dans HTML avec du code pour insérer une image d’une URL invisible, lorsqu’une panne se produit, il vous est demandé de faire une application réseau sur un serveur du potentiel de l’attaquant et d’envoyer les données des cookies dans l’URL. Pour que tout soit exécuté, le chatbot est invité à afficher l’image de manière agressive, avant ce qui essaie de le générer avec le code malveillant de l’application réseau.
Ensuite, si vous êtes invité à parler avec un opérateur humain, le PC de l’opérateur essaiera d’afficher l’image du HTML et en défaillant, le code d’envoi des données des cookies au serveur de l’attaquant sera exécuté, ce qui lui permet d’avoir accès aux séances actives de l’ordinateur de l’opérateur, à gagner un potentiel accès au réseau ou aux données de Lenovo.
Dans ce cas, le code n’envoie les données des cookies de session, mais pourrait s’adapter pour exécuter des attaques beaucoup plus dévastatricesy compris l’enregistrement des pulsations du clavier, les attaques de phishing, etc.
