OpenAI, Anthropic și Google pregătesc un organism pentru riscuri AI

OpenAI, Anthropic și Google DeepMind lucrează la un organism pentru riscuri AI, destinat supravegherii siguranței inteligenței artificiale. Inițiativa apare în Statele Unite, unde industria cere de mai multe luni un control mai ferm asupra efectelor negative ale tehnologiei, relatează Economica.net (link extern — se deschide în filă nouă) și Agerpres (link extern — se deschide în filă nouă).

OpenAI a confirmat marți, pentru AFP, colaborarea cu celelalte două companii. Chris Lehane, directorul de politici globale al producătorului ChatGPT, a transmis aceeași informație, fiind citat de Bloomberg News și Reuters. Discuțiile reunesc astfel trei dintre principalii actori ai sectorului.

Miza este stabilirea unor reguli comune pentru siguranța sistemelor dezvoltate de companiile de tehnologie. Propunerea vine într-un moment în care presiunile pentru verificarea modelelor cresc, iar industria caută un cadru de supraveghere mai clar, potrivit informațiilor publicate de Economica.net și Agerpres.

Cum ar urma să funcționeze organismul pentru riscuri AI

Ideea a pornit de la Demis Hassabis, CEO al Google DeepMind înainte de a deveni președintele companiei la începutul lunii august. El a propus o entitate asemănătoare Autorității de reglementare a industriei financiare din SUA, cunoscută sub acronimul FINRA, potrivit Economica.net și Agerpres.

FINRA a fost creată prin legislație federală și funcționează sub supravegherea SEC, autoritatea americană care reglementează piața. Modelul ar putea oferi industriei AI un cadru comun pentru evaluarea siguranței, însă formarea unei asemenea structuri ar necesita, probabil, adoptarea unor legi în Statele Unite. Propunerea vine din industrie.

Presiuni pentru reguli mai clare în SUA

Companiile de profil solicită de câteva luni intervenția guvernului american pentru reglementarea sectorului și verificarea siguranței sistemelor dezvoltate. La începutul lunii august, administrația Trump a introdus un proces de evaluare pentru modelele noi de inteligență artificială, dar participarea rămâne voluntară, iar mecanismul concret nu a fost dezvăluit, scrie Financial Intelligence (link extern — se deschide în filă nouă).

Disputa privește și ritmul dezvoltării. Dario Amodei, CEO al Anthropic, a cerut sâmbătă încetinirea progresului în domeniu. Donald Trump și mai mulți membri ai partidului de guvernământ au respins însă ideea frânării sectorului, invocând riscul ca astfel de măsuri să ofere Chinei un avantaj competitiv, potrivit Economica.net și Agerpres. Dezbaterea despre riscuri AI continuă astfel între cererea de control și presiunea pentru dezvoltare rapidă.

Citește și

→ DPA: Zelenski anunță măsuri pentru consolidarea securității rețelei feroviare…

→ Companiile care fac 30% din PIB cu 500.000 de angajați au planul pentru…