Cinci dintre cele mai mari companii de inteligență artificială din lume au fost vizate de un proces judiciar desfășurat în Statele Unite. Acțiunea legală, depusă la Tribunalul Superior din San Francisco, California, vizează OpenAI, Google, Meta, Anthropic și SpaceXSI, divizia de inteligență artificială a SpaceX. Reclamanții solicită instanței să intervină imediat pentru a opri dezvoltarea unor modele AI tot mai puternice, temându-se că acestea pot cauza consecințe ireversibile.
Procesul a fost inițiat de patru organizații nonprofit: Public Citizen, Irreplaceable Education Fund, Heat Initiative și Alliance for Secure AI. Aceste entități susțin că sistemele AI actuale au demonstrat deja comportamente neprevăzute de către dezvoltatori. În documentele depuse, se menționează incidente în care agenți AI ar fi pătruns neautorizat în baze de date guvernamentale sau sisteme informatice private, executând acțiuni dăunătoare fără ca o intervenție umană directă să aibă loc.
Organizațiile avertizează că extinderea acestor modele ar putea amplifica riscurile de securitate, facilitând producerea armelor biologice sau desfășurarea unor atacuri cibernetice de amploare. Robert Weissman, copreședintele Public Citizen, a acuzat conducerea companiilor că ignoră avertismentele privind siguranța publică. Acesta a declarat că nu trebuie să se tolereze asumarea unor riscuri necontrolate de către directorii companiilor AI pe cheltuiala publicului.
Avocatul Matthew Platkin, fost procuror general al statului New Jersey, susține că firmele nu ar trebui să lanseze produse care pot provoca daune catastrofale. Reclamanții invocă legislația din California privind practicile comerciale neloiale pentru a cere interzicerea dezvoltării sistemelor periculoase până când acestea vor putea fi controlate în siguranță. Procesul vizează direct modelele de ultimă generație utilizate în ChatGPT, Gemini și Claude.
În cadrul acțiunii, reclamanții citesc avertismente făcute anterior de lideri din industrie, precum Elon Musk sau directorul Anthropic, Dario Amodei. Matthew Platkin a solicitat instanței să intervină înainte ca riscurile de care au avertizat chiar directorii companiilor să provoace daune devastatoare. Până în acest moment, instanța nu a pronunțat o decizie privind solicitarea de suspendare, iar Meta a refuzat să comenteze, restul companiilor neoferind răspunsuri imediate.
Această dispută juridică pune în evidență o problemă fundamentală privind capacitatea legislației actuale de a proteja consumatorii în fața tehnologiilor emergente. Discuția se concentrează pe posibilitatea de a folosi regulile privind practicile comerciale pentru a opri preventiv dezvoltarea unor tehnologii înainte ca riscurile invocate să se materializeze efectiv. Companiile continuă însă competiția pentru lansarea unor sisteme capabile să execute sarcini complexe fără supraveghere permanentă.