OpenAI a anunțat implementarea unor noi reguli de siguranță menite să limiteze accesul utilizatorilor sub vârsta de 18 ani la informații practice despre arme. Măsurile vizează prevenirea utilizării unor sisteme de securitate în scopuri periculoase, chiar și în situațiile în care conversațiile cu chatbotul nu indică o intenție violentă clară. Această decizie vine ca răspuns la preocupările crescute privind riscurile pe care tehnologia de inteligență artificială le poate reprezenta pentru minorii care utilizează platforma.
Pentru toți utilizatorii, indiferent de vârsta acestora, ChatGPT va avea capacitatea de a încheia automat sesiunile de conversație în cazul în care o persoană manifestă o preocupare persistentă pentru violență. În plus, OpenAI poate lua măsuri administrative mai severe, cum ar fi suspendarea temporară a conturilor utilizatorilor care poartă în mod repetat discuții de acest tip. Aceste proceduri de monitorizare sunt integrate pentru a reduce expunerea la conținut inadecvat.
Compania va îmbunătăți sistemul de estimare a vârstei pentru a identifica utilizatorii sub 18 ani și a îi transfera către o versiune specială de ChatGPT destinată adolescenților. Această variantă include protecții suplimentare, iar părinții vor fi notificați direct dacă contul copilului lor este suspendat din cauza discuțiilor repetate despre violență. Implementarea acestor schimbări va avea loc treptat în următoarele săptămâni, fiind suiectul unor ajustări ulterioare.
O altă restricție majoră vizează detaliile despre atacurile armate în masă care au avut loc în trecut. OpenAI va limita nivelul de detaliu al informațiilor oferite despre armele utilizate în aceste evenimente și despre metodele prin care autorii le-au procurat. Scopul este de a reduce accesul la date care ar putea servi drept model pentru acțiuni violente, limitând astfel riscurile de siguranță publică.
Anunțul este marcat de o supraveghere tot mai riguroasă a companiilor de inteligență artificială privind protecția minorilor și identificarea comportamentelor de risc. Recent, un raport al OpenAI a indicat faptul că adolescenții petrec, în medie, mai puțin de 15 minute pe zi pe platformă. Totodată, organizația Common Sense Media a semnalat că sistemul de avertizare pentru părinți a funcționat cu întârziere sau deloc în cazuri de discuții despre autovătămare.
Evoluția acestor măsuri de siguranță reflectă presiunea globală asupra dezvoltatorilor de tehnologie pentru a asigura un mediu digital protejat pentru copiii și tinerii utilizatori. În contextul creșterii rapidă a accesului la modele de limbaj avansate, reglementările privind conținutul sensibil și monitorizarea comportamentului utilizatorilor devin elemente critice pentru prevenirea incidentelor de violență sau a comportamentelor autodistructive.