OpenAI a anunțat implementarea unor noi reguli de siguranță pentru platforma ChatGPT, vizând în principal protecția adolescenților. Măsurile, care vor fi introduse treptat în următoarele săptămâni, au scopul de a limita accesul utilizatorilor sub 18 ani la informații practice despre arme și sisteme de securitate. Această decizie vine pentru a reduce riscul ca detaliile tehnice potrivite pentru pregătirea unor acțiuni periculoase să fie accesate de către minori.
Noile restricții vor fi aplicate chiar și atunci când întrebările adresate chatbot-ului par inofensive sau nu sugerează direct intenții violente. Compania va utiliza mecanisme prin care anumite conversații pot fi întrerupte automat, iar conturile care insistă repetat pe subiecte legate de violență pot fi suspendate temporar. Pentru a asigura o identificare corectă a vârstei, OpenAI va consolida sistemul de estimare prin analiza tiparelor de comportament ale utilizatorilor.
Schimbările vor viza și modul în care platforma gestionează discuțiile despre vătămarea gravă a unor persoane, indiferent de vârsta utilizatorului. În situațiile în care sistemul identifică o preocupare persistentă pentru violență, ChatGPT va putea încheia automat interacțiunea. OpenAI dezvoltă aceste intervenții împreună cu specialiști în sănătate mintală și prevenirea violenței, pentru a identifica semnalele de avertizare cât mai devreme și a reduce riscurile de utilizare neadecvată.
Restricțiile vor afecta și informațiile despre atacurile armate în masă din trecut, limitând detaliile despre echipamentele folosite de atacatori sau modalitățile de achiziție. Deși documentarea evenimentelor rămâne permisă, vor fi limitate reconstituirile detaliate care ar putea contribui la amplificarea notorietății autorilor. OpenAI a menționat că informațiile despre prevenirea violenței și sprijinirea victimelor vor rămâne în continuare accesibile pentru toți utilizatorii platformei.
Pentru a asigura transparența, OpenAI va publica rapoarte periodice despre siguranța comunității, începând cu începutul anului 2027. Primul document va analiza activitățile din a doua jumătate a anului 2026, oferind date despre riscurile identificate. Compania a dezvăluit că, în trimestrul al treilea din 2026, a transmis autorităților peste 200 de sesizări legate de amenințări iminente de violență, intervenții care au ajutat la întreruperea unor planuri periculoase.
Această mișcare a OpenAI urmează o perioadă de scrutiny intens asupra siguranței minorilor pe platformele de inteligență artificială. Recent, Common Sense Media a publicat o evaluare independentă în care a testat peste 4.000 de solicitări, identificând probleme în sistemul de notificare a părinților în cazul unor discuții despre autovătămare sau tulburări alimentare. OpenAI a contestat aceste concluzii, susținând că testele nu reflectă modul real de funcționare al măsurilor sale de protecție.