Un raport publicat miercuri, 19 noiembrie, de Oficiul pentru Responsabilitate Guvernamentală al Statelor Unite (GAO) avertizează că patru dintre cele mai populare platforme de inteligență artificială pot furniza informații periculoase. Sistemele au oferit detalii care ar putea fi utilizate pentru pregătirea unor atacuri teroriste cu numeroase victime în orașe americane. Testele au inclus platformele ChatGPT, Claude, Gemini și Grok, demonstrând că acestea pot fi manipulate pentru a facilita acțiuni violente.
Cercetătorii au reușit să obțină instrucțiuni specifice privind fabricarea și detonarea unor dispozitive explozive improvizate. De asemenea, platformele au oferit informații despre modul în care poate fi perturbată infrastructura electrică prin utilizarea dronelor sau a armelor de foc. Documentul GAO subliniază că fiecare dintre aceste platforme a furnizat detalii despre ținte specifice, locații, momente și metode de atac, informații care au fost verificate și considerate fezabile de către reprezentanții forțelor de ordine.
Deși mecanismele de siguranță ale platformelor au blocat inițial solicitările legate de organizarea unor atacuri teroriste, investigatorii au reușit să ocolească aceste restricții. Raportul nu a specificat care platforme au cedat în anumite teste sau care au reușit să blocheze solicitările, autorii menționând că publicarea acestor detalale ar putea permite reproducerea experimentelor. Companiile implicate au declarat că experimentele au fost realizate în primăvară, folosind versiuni mai vechi ale sistemelor lor de inteligență artificială.
Senatoarea democrată Maggie Hassan, care a solicitat investigația, a avertizat că riscurile nu mai sunt doar ipotetice. Aceasta a declarat că un terorist ar putea obține un plan concret pentru un atac mortal în mai puțin de 12 ore prin conectarea la o astfel de platformă. Hassan intenționează să prioritizeze legislația privind siguranța modelelor de inteligență artificială după ce va prelua controlul asupra comitetului relevant din Senat, în luna ianuarie, când va conduce Comisia pentru Securitate Internă și Afaceri Guvernamentale.
Reprezentanții industriei susțin că au introdus măsuri suplimentare pentru prevenirea utilizării abuzive a tehnologiilor de la momentul testelor. Companiile au recunoscut existența riscurilor legate de încercările de ocolire a restricțiilor de către persoane rău intenționate și au afirmat că au îmbunătățit mecanismele de protecție. Scopul acestor actualizări este de a împiedica utilizarea modelelor în scopuri ilegale sau violente, recunoscând în același timp seriozitatea problemelor de siguranță identificate în cadrul investigației.
Această problemă a utilizării tehnologiei în scopuri de conflict a fost semnalată și anterior prin alte raportări internaționale. De exemplu, gruparea Boko Haram ar fi folosit instrumente de inteligență artificială pentru activități de pe câmpul de luptă, iar compania Anthropic a raportat utilizarea modelului Claude pentru proiectarea de software destinat armelor, rachetelor și dronelor înarmate în China, Rusia și Yemen.