Alors que l’intelligence artificielle entre dans nos maisons, de nouveaux risques arrivent également avec elle; Lors de la conférence Black Hat de cette semaine, un groupe de chercheurs a montré à quelle facilité Google Gemini peut être amené à effectuer des actions dangereuses avec un stratagème simple, une invitation au calendrier de maquillage. Une attaque silencieuse, subtile et potentiellement dévastatrice, qui a remis en question la sécurité de Smart Home en fonction de l’IA.
Les Gemini peuvent être trompés avec un événement dans le calendrier, donnant un accès complet à la maison intelligente
Au cours d’une session de la conférence Black Hat, une équipe composée d’experts de l’Université de Tel Aviv, de la Techion et de la Cybersecurity SafeBreach Company a montré comment une invitation apparemment inutile insérée dans Google Calendar peut être utilisée pour tromper les Gemini grâce à une technique d’injection rapide indirecte.
Le mécanisme est simple et en même temps s’inquiète, le modèle de Google, une fois interrogé pour résumer les engagements de la semaine, interprète et suit des instructions cachées dans l’événement lui-même, en arrivant pour ouvrir des fenêtres, éteindre la lumière, allumer la chaudière ou démarrer des appels de zoom, le tout sans que l’utilisateur le remarque dans le temps.
https://www.youtube.com/watch?v=pifc6-c3hq
L’étude, intitulée emblématiquement L’invitation est tout ce dont vous avez besoindétaillé 14 scénarios d’attaque différents impliquant le Web Gemini et l’application mobile; Les attaques vont des simples actions domestiques à des formes de compromis plus sérieuses: contrôle concurrent des appareils domestiques intelligents, exfiltration des données sensibles à partir d’événements et de calendriers, de début d’appels et d’appels vidéo, d’accès non autorisé aux e-mails ou documents partagés.
Ce qui rend ces attaques particulièrement insidieuses, c’est qu’elles ne sont pas basées sur la vulnérabilité du code, mais sur la façon dont Gemini interprète les commandes, ce qui rend le textuel d’entrée une sorte de malware, donc le concept de promptware est né.
En détail, les chercheurs expliquent que les instructions malignes ne sont pas injectées directement dans l’interface utilisateur, mais cachées dans des contenus légitimes tels que des e-mails, des invitations, des fichiers ou des notes partagés; Lorsque l’utilisateur interagit avec les Gémeaux et l’invite, par exemple, à résumer les rendez-vous, l’IA essaie également ces instructions en les effectuant automatiquement.
C’est un saut de paradigme par rapport au classique qu’il attaque, non plus d’exploits techniques mais de tromperies linguistiques, qui s’insinuent là où nous nous attendons moins.
Google a déjà été informé de la vulnérabilité en février et a collaboré avec l’équipe pour mettre en œuvre une série de protections, notamment:
- Nouveaux classificateurs rapides pour identifier les commandes suspectes
- Gestion améliorée des URL suspectées
- Confirmation explicite de l’utilisateur pour les actions sensibles (comme l’ouverture des liens ou du contrôle des appareils)
Cependant, les mêmes chercheurs avertissent comment tout cela ne suffit pas, selon l’analyse, près de 75% des scénarios avaient un risque très critique, et des défauts systémiques demeurent; Le rythme avec lequel LLM (grands modèles linguistiques) sont intégrés dans les produits royaux dépasse la capacité de mettre en œuvre des mesures de sécurité efficaces.
Cet épisode montre quand fragile peut être l’équilibre entre le confort et la sécurité, en particulier lorsqu’il repose sur le contrôle de l’intelligence artificielle de votre maison; Une simple invitation inventée, peut-être reçue par une source inconnue ou négligée pendant la journée, peut devenir la clé pour ouvrir la porte numérique de votre vie privée.
Ceux qui possèdent une maison intelligente devraient, aujourd’hui plus que jamais, vérifier les permis d’autorisation, pour désactiver les actions automatiques inutiles ou non confirmées, limiter l’intégration entre les IAS génératifs et les appareils domestiques, ainsi que la mise à jour régulière de toutes les applications et appareils.
Les Gémeaux, ainsi que toute autre intelligence artificielle, promet de simplifier la vie mais, comme cela arrive souvent, le prix du confort est une supervision constante; La démonstration apportée à la conférence Black Hat n’est pas encore une grande attaque à l’échelle, mais c’est une sonnette d’alarme sans équivoque pour l’ensemble du secteur.
