Dernièrement, des cybercriminels ont détourné l’intelligence artificielle Google Gemini intégrée à l’espace de travail. Leur objectif : propager des e-mails malveillants dissimulant des messages subtils. Ils exploitent les fonctionnalités avancées de la plateforme pour éviter les barrières de sécurité classiques.
TL; Dr
- Une vulnérabilité permet aux hackers de modifier les résumés de Gemini.
- Du code malveillant masqué dans les e-mails via HTML/CSS.
- Google surveille la situation, aucune attaque confirmée à ce jour.
Une vulnérabilité technique expose Google Gemini
Une faille significative dévoile les limites de l’IA intégrée dans la suite Espace de travail de Google, nommée Gémeaux. Selon des sources spécialisées, des attaquants peuvent insérer des instructions nuisibles dans des e-mails en utilisant des méthodes discrètes mais efficaces. Les cybercriminels se livrent à une astuce : insérer dans le message un texte invisible, masqué par le code HTML et CSS (comme une taille de police à zéro ou en couleur blanche), pour tromper l’IA lors de la génération des résumés.
Le phishing envahit Gemini : l’illusion parfaite
Cette méthode laisse peu de traces. L’absence de pièces jointes ou de liens suspects permet à ces e-mails piégés d’échapper aux meilleurs antivirus. En conséquence, lorsqu’un utilisateur demande un résumé via Gémeaux, le programme suit aveuglément les instructions cachées, menant parfois vers des sites frauduleux ou faussement alertants. Cette confiance envers l’outil, couramment utilisé dans le milieu professionnel, devient alors une faille que les hackers exploitent.
Tentatives répétées et parades en cours
Les attaques par « injection rapide » ne constituent pas une première. Malgré les mesures mises en place pour prévenir ces détournements, cette technique demeure effective sur certains modèles d’IA. Un porte-parole de Google a confié que l’entreprise se concentre sur le déploiement progressif des correctifs, tout en affirmant n’avoir détecté, jusqu’à présent, aucun cas concret d’exploitation « sur le terrain ».
Stratégies pour renforcer la sécurité utilisateur
Pour prévenir de tels abus, FigUeroa, responsable du Genai Bug Bounty Program chez Mozilla, suggère plusieurs actions:
- Désactiver ou neutraliser les contenus cachés dans les messages.
- Améliorer le filtrage des résumés contenant des éléments sensibles, comme des URL ou des numéros suspects.
- Augmenter la sensibilisation à ces attaques discrètes dans le domaine informatique.
En attendant une mise à jour officielle de Google, il est crucial de rester vigilant face aux résumés générés par Gemini : derrière une apparente innocuité se cache souvent une menace réelle.
