Google a identificat și blocat pentru prima dată un exploit AI zero-day care compromite autentificarea cu doi factori

Google a descoperit un exploit zero-day creat de inteligență artificială

*Pe scurt despre fapte*

Când și de ce
Descoperirea
Grupul Google Threat Intelligence (GTIG) a identificat și blocat pentru prima dată un nou exploit zero-day. Autoritatea exploatului a fost generată cu ajutorul inteligenței artificiale, nu scrisă manual de o persoană.

Scopul atacului
Intervenție masivă în sistemul de autentificare cu doi factori (2FA) al unei aplicații web open-source pentru administrarea sistemelor.

Cum s-au recunoscut urmele AI
În codul Python erau „semnături” – o evaluare CVSS falsă, formatare tipică de „învățare” și modele caracteristice modelului lingvistic mare (LLM).

Motivul vulnerabilității
Eroare logică: dezvoltatorul a presupus că un anumit component al sistemului este întotdeauna sigur și nu l-a verificat. Prin acest element neverificat, atacatorii au bypassat 2FA.

Obiectul atacului
Aplicația specifică Google nu este dezvăluită.

Rolul Gemini
Potrivit cercetătorilor, modelul Gemini nu a fost folosit în crearea exploatului.

Prevenție
Atacul a fost oprit înainte să devină de amploare.

Ce altceva a observat GTIG
1. Noi metode de atac
Atacatorii folosesc AI nu doar pentru a crea cod malițios, ci și pentru „bypass” infrastructurii propriilor sisteme AI.

2. Înșelăciune de rol
Hackerii formulează cereri ca și cum ar fi experți în securitate, determinând modelele să se comporte diferit de restricțiile impuse.

3. Încărcarea bazelor mari de date
În interiorul modelelor sunt încărcate întregi directoare de vulnerabilități, apoi se utilizează instrumentul OpenClaw pentru depanarea programelor malițioase într-un mediu controlat înainte de implementarea reală.

Concluzie
Google a reușit să identifice și să neutralizeze exploit-ul creat de AI datorită analizei detaliate a codului și recunoașterii „semnăturilor” de învățare automată. Aceasta subliniază necesitatea verificării continue a logicii aplicațiilor și conștientizarea faptului că atacatorii pot folosi AI atât ca instrument de creare a atacurilor, cât și pentru a evita mecanismele de protecție ale propriilor sisteme.