OpenAI a anunțat vineri implementarea unor noi restricții privind informațiile despre arme și sisteme de securitate accesibile adolescenților prin intermediul ChatGPT. Măsurile vizează prevenirea posibilelor acte de violență în lumea reală, limitând accesul utilizatorilor sub 18 ani la detalii practice care ar putea fi folosite în scopuri periculoase. Această decizie este luată pe fondul preocupărilor crescute legate de riscurile pe care chatboturile bazate pe inteligență artificială le pot reprezenta pentru minorii care utilizează platforma.
Noile reguli impuse de OpenAI vor limita accesul minorilor la informații despre arme chiar și în situațiile în care întrebările par inofensive sau conversațiile nu sugerează intenții violente. Restricțiile vor fi aplicate și utilizatorilor adulți în ceea ce privește discuțiile despre violență. În cazul în care o persoană manifestă o preocupare persistentă pentru astfel de subiecte, ChatGPT va putea încheia automat discuția, iar compania ar putea suspenda temporar conturile celor care reiau repetat astfel de interacțiuni.
Pentru a asigura o protecție mai bună, OpenAI va îmbunătăți sistemul de estimare a vârstei, direcționând utilizatorii identificați ca fiind sub 18 ani către versiunea ChatGPT destinată adolescenților. Această versiune include protecții suplimentare, iar părinții vor fi anunțați în cazul în care contul copilului lor este suspendat din cauza discuțiilor repetate despre violență. Implementarea acestor măsuri va avea loc treptat în următoarele săptămâni, urmând să fie ajustate ulterior în funcție de evoluții.
Compania va reduce, de asemenea, nivelul de detaliu al informațiilor oferite despre atacurile armate în masă care au avut loc în trecut. Această limitare va viza în special detaliile despre armele folosite și metodele prin care autorii acestor atacuri și-au procurat armamentul. Această schimbare face parte dintr-un efort de a reduce expunerea la conținut care ar putea servi drept model pentru acțiuni violente, aplicând reguli mai stricte pe platformă.
Anunțul OpenAI vine într-un context de intensificare a supravegherii companiilor de inteligență artificială privind protecția minorilor și identificarea comportamentelor care pot semnala riscuri de vătămare. Recent, organizația nonprofit Common Sense Media a raportat că versiunea ChatGPT pentru adolescenți a avertizat părinții cu întârziere sau deloc în cazuri de discuții despre sinucidere, autovătămare sau tulburări alimentare. Totodată, datele arată că adolescenții petrec, în medie, mai puțin de 15 minute pe zi pe platformă.
Evoluția reglementărilor în domeniul inteligenței artificiale reflectă o tendință globală de control asupra modului în care algoritmii interacționează cu grupurile vulnerabile. Pe măsură ce tehnologia devine tot mai accesibilă, autoritățile și organizațiile de monitorizare pun un accent tot mai mare pe siguranța digitală a minorilor, solicitând companiilor de tehnologie să implementeze mecanisme de verificare a vârstei și filtre de conținut mult mai robuste pentru a preveni utilizarea neadecvată a modelelor de limbaj.