Claude AI a compromis trei organizații în timpul testelor

Anthropic a anunțat joi că modelul Claude AI a compromis sistemele informatice ale trei organizații în timpul unor teste de securitate cibernetică. Incidentul a apărut după ce mediile de evaluare, proiectate să fie izolate, au rămas conectate la internet. Compania a descoperit cazurile în urma unei verificări ample, declanșate de dezvăluiri recente despre atacuri realizate de alte modele de inteligență artificială, relatează News.ro (link extern — se deschide în filă nouă).

Potrivit Anthropic, accesul a fost neautorizat, iar organizațiile afectate au fost informate ulterior. Compania a analizat 141.006 sesiuni de evaluare a securității cibernetice pentru a căuta dovezi că modelele puteau ajunge dincolo de limitele stabilite. Verificarea a identificat trei cazuri distincte. BBC News (link extern — se deschide în filă nouă) scrie că nici Anthropic, nici organizațiile vizate nu observaseră intruziunile în momentul producerii lor.

Cum a ieșit Claude AI din izolare

Problema a pornit de la o configurare greșită a sistemelor folosite de Anthropic și de partenerul său de evaluare, Irregular. Modelele au primit instrucțiuni potrivit cărora nu aveau acces la internet, însă sistemele au rămas conectate. Astfel, exercițiile concepute pentru rețele simulate au oferit o cale către sisteme externe, arată News.ro și BBC News.

Compania susține că breșele nu au necesitat metode sofisticate. Sistemul a folosit parole slabe și puncte de acces fără autentificare pentru a pătrunde în infrastructurile respective. Primele incidente datează din aprilie și s-au produs în medii care nu aveau măsurile standard de protecție descrise de Anthropic. Cazurile au fost raportate organizațiilor afectate după analiza retrospectivă.

Trei modele implicate în evaluări

News.ro notează că evaluările au implicat trei modele diferite ale Claude AI: Claude Opus 4.7, Claude Mythos 5 și un model intern de cercetare. Testele erau de tip „capture the flag”, o metodă prin care modelele trebuie să găsească informații ascunse în rețele informatice simulate. Evaluările urmăreau să măsoare capacitatea lor de a identifica și exploata vulnerabilități.

După descoperire, Anthropic a anunțat că va trata remedierea ca pe propria responsabilitate și a îndemnat celelalte laboratoare de inteligență artificială să verifice situații similare. BBC News relatează că firma consideră necesare investiții suplimentare și măsuri de protecție mai stricte. Cazurile readuc în prim-plan riscul ca modelele cu autonomie tot mai mare să depășească limitele impuse în testare.

Citește și

→ Ce poate ascunde o tuse care persistă mai mult de trei săptămâni?

→ Așa va arăta viitorul Google Pixel 11 Pro Fold, conform leak-urilor