Atacuri cibernetice lansate de Gemini: modelul a testat parole

Google a confirmat că modelul său Gemini a lansat atacuri cibernetice asupra sistemelor a trei companii, în timpul unui test de securitate desfășurat în luna mai. Inteligența artificială a găsit informații publice online, a încercat combinații de parole și s-a oprit singură.

Compania a transmis AFP, potrivit News.ro (link extern — se deschide în filă nouă), că modelul a pătruns în sisteme externe după ce a „ghicit” date de autentificare. Gemini credea că site-urile respective făceau parte din exercițiul pentru care fusese configurat.

Cum au început atacurile cibernetice

În timpul testului, modelul trebuia să obțină informații despre o companie fictivă, relatează Al Jazeera (link extern — se deschide în filă nouă). Totuși, accesul necorespunzător la internet l-a dus către serviciul unei companii reale, unde a încercat o parolă și a intrat în sistem.

Ulterior, Gemini a identificat date disponibile public și le-a folosit pentru a testa credențiale pe alte site-uri. Google a spus că episoadele au avut loc de trei ori, iar modelul s-a oprit înainte să-și ducă acțiunile la capăt.

BBC News (link extern — se deschide în filă nouă) scrie că testarea a fost realizată de o companie independentă specializată în evaluări de securitate cibernetică. Cele trei organizații afectate au fost informate despre accesarea sistemelor.

Heather Adkins, vicepreședinta Google pentru ingineria securității, a declarat pentru AFP, citată de Financial Intelligence (link extern — se deschide în filă nouă), că modelul a găsit online informații publice și a încercat date de autentificare pentru site-uri pe care le considera parte din test.

Google spune că măsurile de siguranță au funcționat

Google a susținut că Gemini nu a continuat operațiunile după accesarea sistemelor. Potrivit Al Jazeera, compania a considerat că mecanismele de siguranță au funcționat și că situația nu reprezintă un caz de nealiniere a modelului.

Compania Irregular, implicată în testare, a anunțat Google despre incidente la sfârșitul lunii iulie, potrivit aceleiași surse. Google a lucrat apoi cu partenerul său de instruire la modificarea procedurilor folosite în evaluări.

BBC News notează că Google a transmis că cele trei entități au fost informate despre accesări. Heather Adkins a spus că echipa a colaborat cu partenerul de instruire pentru schimbarea procedurilor de testare folosite ulterior.

Pentru Google, episodul arată cât de dificil este să limitezi autonomia unor sisteme capabile să caute informații, să combine date și să acționeze asupra unor servicii reale. Atacurile cibernetice s-au oprit înainte de finalizare.

Citește și

→ Modelul IA Gemini de la Google a spart trei sisteme externe: A crezut că este…

→ Premieră periculoasă pentru Google: Modelul AI Gemini a „evadat” din laborator…