Gemini AI a ajuns în sistemele a trei companii. Cum s-a întâmplat

Gemini AI, modelul de inteligență artificială dezvoltat de Google, a pătruns în sistemele informatice a trei companii reale în timpul unui test de securitate desfășurat în luna mai. Exercițiul trebuia să rămână într-un mediu controlat. Totul s-a schimbat după ce modelul a primit accidental acces la internet, relatează Adevărul (link extern — se deschide în filă nouă).

Testul a fost organizat de Irregular, o companie specializată în evaluarea securității sistemelor de inteligență artificială. Gemini trebuia să caute informații într-un sistem aparținând unei companii fictive, într-un exercițiu de tip „capture the flag”. Compania inventată purta însă același nume ca una reală, potrivit informațiilor publicate de The Wall Street Journal.

Accesul la internet a creat confuzia decisivă. Modelul a identificat online sisteme pe care le-a considerat parte din exercițiu și a încercat să intre în ele. Într-un caz, a testat mai multe parole până când una i-a permis accesul la un sistem protejat, scrie Adevărul.

În celelalte două situații, Gemini a găsit date de autentificare publicate într-un repository online. Le-a folosit pentru a pătrunde în infrastructurile unor companii reale. Nu a fost nevoie de intervenția unui operator uman pentru aceste acțiuni, potrivit relatărilor despre test.

Cum a ajuns Gemini AI la parole

BBC News (link extern — se deschide în filă nouă) relatează că modelul a accesat informații publice și a ghicit credențiale pentru site-uri pe care le credea incluse în test. Publicația mai scrie că cele trei companii afectate au fost informate despre breșe. Google a colaborat cu Irregular pentru schimbarea procedurilor de testare.

În fiecare dintre cele trei cazuri, Gemini AI și-a oprit acțiunile după ce a realizat că ajunsese într-o infrastructură reală, au transmis reprezentanții Google. Heather Adkins, vicepreședinta pentru ingineria securității, a declarat pentru BBC News că incidentele arată nevoia unor modele capabile să acționeze responsabil.

Modelul s-a oprit înainte de final

Google a transmis că măsurile de siguranță au funcționat și că incidentul nu reprezintă, în evaluarea companiei, un caz de nealiniere a modelului. Irregular a informat Google despre accesările neintenționate la sfârșitul lunii iulie, potrivit The Wall Street Journal. Pentru companiile vizate, testul a devenit astfel o verificare reală a limitelor protecției online.

Citește și

→ Giurgiu: Patru autobetoniere, două camioane și o pompă de beton, cuprinse de un…

→ Experiment condus de doctorul român Sergiu Pașca: șoareci cu creier alcătuit pe…