O vulnerabilitate în Google Gemini permite atacuri de tip phishing. Cum funcționează, cine este vizat
Un cercetător a demonstrat cum Google Gemini poate fi manipulat pentru a genera alerte false care induc utilizatorii în eroare și îi trimit către atacuri de phishing, fără a folosi linkuri directe.
Un nou tip de vulnerabilitate afectează serviciul Google Gemini integrat în platforma Workspace, permițând atacatorilor să exploateze sistemul de generare a rezumatelor emailurilor pentru a transmite mesaje înșelătoare fără a include linkuri sau fișiere atașate, scrie publicația Bleeping Computer.
Cum pot fi păcăliți utilizatorii prin sumarizările automate generate de Gemini
Cercetătorul Marco Figueroa, din cadrul programului 0DIN al Mozilla destinat descoperirii de vulnerabilități în AI generativ, a semnalat problema.
Tehnica implică utilizarea unei injecții indirecte de tip prompt, prin care se inserează în conținutul emailului o comandă ascunsă, scrisă într-un font invizibil (alb pe fundal alb și cu dimensiune zero), astfel încât să nu fie afișată în interfața Gmail.
Deși utilizatorul nu o poate vedea, Gemini o interpretează și o urmează atunci când generează rezumatul mesajului.
Într-un exemplu oferit de Figueroa, AI-ul afișează o alertă falsă privind compromiterea parolei de Gmail și recomandă contactarea unui presupus serviciu de suport la un număr de telefon — care, de fapt, direcționează victima către un atacator.
Recomandări de securitate, dar și reacția Google
Faptul că mesajul original nu conține atașamente, linkuri sau semnale evidente de pericol îl face greu de detectat de filtrele tradiționale de spam sau phishing. Tocmai de aceea, problema este considerată serioasă de către comunitatea de securitate cibernetică.
Pentru a contracara astfel de atacuri, Figueroa propune mai multe metode de apărare, printre care:
eliminarea sau neutralizarea conținutului ascuns prin stilizare HTML;
aplicarea unui filtru suplimentar care verifică dacă în rezumat apar cuvinte precum „urgent”, adrese URL sau numere de telefon, și care marchează astfel mesajul pentru analiză manuală.
În plus, utilizatorii ar trebui să fie atenți și să nu considere automat autentice alertele de securitate generate de Gemini. Confirmarea din surse oficiale rămâne esențială.
Contactată de BleepingComputer, compania Google a declarat că își îmbunătățește în mod constant protecțiile prin exerciții de tip red-teaming, menite să expună și să corecteze posibilele breșe.
Un purtător de cuvânt a precizat că măsuri suplimentare de protecție sunt în curs de implementare sau urmează să fie lansate.
Google a mai declarat că, până în acest moment, nu are dovezi că această metodă de manipulare a fost folosită efectiv în atacuri reale, dar continuă monitorizarea activă a acestui tip de comportament advers.
