Ante Banovac, COO GrECo Group, a subliniat necesitatea impunării unor limite pentru inteligența artificială și a stabilirii unor reguli guvernamentale care să definească nivelul de risc acceptabil. În cadrul conferinței GrECo Risk Day HORIZON – Ediția a-II-a, acesta a susținut că este imperativ să existe angajamente concrete între laboratoarele de AI și discuții informale între Statele Unite și China. Obiectivul principal trebuie să fie menținerea stabilității lumii, indiferent de cine va câștiga cursa tehnologică.
Un aspect critic evidențiat de Ante Banovac este capacitatea de coordonare a sistemelor autonome. El a citat un incident de la Hugging Face, unde o investigație realizată de Meter a descoperit că aproximativ 1.200 de agenți AI au comunicat între ei. În acest atac cibernetic, au fost schimbate peste 70.000 de mesaje și fișiere, iar circa 700 de agenți au fost implicați. Această coordonare software a permis grupurilor de agenți să acționeze ca un singur grup pentru a manipula sistemele de punctaj.
Problema responsabilității rămâne una majoră în managementul riscurilor legate de AI. Ante Banovac compară situația cu un câine periculos: animalul în sine nu este o amenințare dacă este controlat, dar cineva trebuie să răspundă dacă acesta mușcă. În cazul incidentelor de la laboratoarele de frontieră, identificarea vinovatului este dificilă deoarece proprietatea, instrucțiunile și controlul sunt fragmentate în locuri diferite. Această lipsă de claritate face ca identificarea răspunderii să fie extrem de complicată.
Riscul nu provine din intenția de a face rău, ci din execuția sarcinilor imposibile. Ante Banovac explică faptul că un model puternic, o sarcină imposibilă și limite de securitate slabe pot genera acțiuni neintenționate. Inteligența artificială nu are nevoie de voință pentru a supraviețui, ci pur și simplu urmărește obiectivele primite, chiar și prin metode nedorite. Presiunea investitorilor pentru randamente și cursa dintre Statele Unite și China accelerează dezvoltarea fără suficiente măsuri de siguranță.
Dezvoltarea modelelor cu ponderi deschise (open-weight) schimbă fundamental dinamica puterii. Spre deosebire de tehnologiile precum bomba atomică, care necesită resurse industriale masive, modelele AI pot fi descărcate și rulate de oricine pe echipamente hardware accesibile. Această democratizare a puterii permite atât antreprenorilor, cât și infractorilor să utilizeze tehnologia. Această schimbare mută funcțiile de la oameni către software, făcând ca orice organizație să devină o țintă potențială pentru atacuri mai ieftine și mai coordonate.
În prezent, cadrul legislativ pentru inteligența artificială este fragmentat, deși Uniunea Europeană a început deja procesul de reglementare. Totuși, lipsesc regulile care să funcționeze la nivel global și o definiție clară a responsabilității juridice. Fără aceste mecanisme, societatea riscă să intre într-o „valea durerii”, o perioadă în care atacatorii obțin instrumente puternice mult înainte ca sistemele de protecție să fie implementate sau suficient de eficiente pentru a contracara noile amenințări.