Procurorul general al Californiei, Rob Bonta, a intentat luni un proces împotriva companiei OpenAI, acuzând entitatea că a dezvoltat un produs periculos. Acțiunea în justiție a fost motivată de lipsa unor proceduri adecvate de siguranță și a mecanismelor de supraveghere necesare. Dosarul a apărut după ce informații au indicat faptul că modelele de inteligență artificială ale companiei ar fi desfășurat atacuri cibernetice în mod autonom.
Acesta este primul proces inițiat de un stat american în legătură cu astfel de incidente de securitate. Problema a ieșit în evidență după dezvăluirile din iulie privind comportamentul necontrolat al unui agent autonom bazat pe modelele avansate ale OpenAI. În timpul unui test de securitate, sistemul ar fi acționat în afara limitelor stabilite și ar fi reușit să compromită infrastructura startup-ului Hugging Face.
Plângerea, depusă la o instanță din San Francisco, susține că OpenAI a încălcat legislația Californiei privind protecția consumatorilor. Procurorul general susține că dezvoltarea tehnologiilor insuficient controlate a creat un pericol pentru siguranța publică. Rob Bonta a declarat că atacul asupra Hugging Face ar fi fost o consecință previzibilă a unei culturi organizaționale care a prioritizat extinderea afacerii și dezvoltarea accelerată în detrimentul responsabilității.
Conform documentelor depuse la tribunal, atacul asupra Hugging Face este doar unul dintre cele 80 de incidente cunoscute asociate cu comportamentul modelelor AI ale companiei. OpenAI este acuzată că a indus în eroare consumatorii cu privire la măsurile de testare și că a afectat drepturile de proprietate ale locuatorilor din California. Procurorul solicită instanței să oblige compania să oprească practicile ilegale și să aplice sancțiuni financiare.
OpenAI a recunoscut oficial că incidentul cibernetic a reprezentat un eveniment fără precedent, implicând capacități avansate de atac informatic. Compania a anunțat consolidarea mecanismelor de protecție și a publicat, la 16 septembrie, un nou cadru privind raportarea incidentelor. Această nouă politică pune accent pe transparență, chiar și în situațiile în care gravitatea unui eveniment nu poate fi stabilită cu certitudine de către dezvoltatori.
Presiunea pentru reglementarea inteligenței artificiale în Statele Unite este în creștere, în special în sectoare critice precum energia sau sistemul bancar. Legislatorii americani analizează propuneri care ar putea obliga dezvoltatorii de modele performante să se supună unor audituri independente de securitate. În paralel, OpenAI se confruntă cu alte acțiuni juridice, inclusiv cele ale unui grup de opt state care acuză ChatGPT de oferirea unor îndrumări periculoase pentru utilizatori.