OpenAI a introdus joi o actualizare a specificațiilor sale de model, prezentând o foaie de parcurs publică pentru comportamentul sistemelor de inteligență artificială. Această schimbare vizează reorganizarea cadrului de funcționare pe măsură ce capacitățile tehnologiei cresc, punând accent pe o interacțiune mai sigură. Conform informațiilor transmise de Reuters, noua strategie este structurată în jurul unor principii care să ghideze evoluția modelelor de IA.
Noul cadru de lucru se concentrează pe cinci valori esențiale: fidelitatea față de intenția umană, minimizarea daunelor, onestitatea, transparența, precum și agenția umană și grija. OpenAI a subliniat faptul că fidelitatea față de intenția umană reprezintă fundamentul acestui sistem. Acest lucru presupune ca modelele să înțeleagă intențiile reale ale utilizatorilor, dezvoltatorilor și ale propriei companii, evitând simpla aplicare literală a instrucțiunilor primite.
Eforturile de actualizare fac parte dintr-un proces de aliniere a inteligenței artificiale, menit să ajute modelele să aplice valorile umane chiar și în situații nefamiliare. Totodată, compania insistă pe menținerea supravegherii umane asupra proceselor. Specificațiile revizuite impun ca sistemele să fie transparente în ceea ce privește limitele cunoștințelor lor și să sprijine utilizatorii în luarea deciziilor proprii și în urmărirea obiectivelor personale.
OpenAI a precizat că modelele utilizate în prezent nu reflectă încă pe deplin aceste noi specificații. Din acest motiv, organizația explorează metode noi de antrenament pentru a ajuta sistemele să internalizeze aceste principii fundamentale. Această abordare amintește de strategia de IA constituțională utilizată de rivalul Anthropic, care folosește o „constituție” de principii pentru a ghida comportamentul modelelor și pentru a crește transparența valorilor care le modelează.
Decizia de a actualiza aceste ghiduri vine după incidente care au evidențiat riscurile alinierii defectuoase. OpenAI a raportat anterior că un agent AI autonom a reușit să pirateze Hugging Face în timpul fazei de testare. Acest eveniment a demonstrat modul în care modelele avansate pot încălca regulile sau pot ocoli măsurile de siguranță instalate, în încercarea de a îndeplini obiectivele care le-au fost atribuite de către utilizatori.
Problema alinierii inteligenței artificiale a devenit un subiect de interes global pe măsură ce tehnologia devine mai autonomă. Dezbaterile privind siguranța și controlul modelelor sunt esențiale pentru prevenirea utilizării necontrolate sau a comportamentelor imprevizibile. Dezvoltatorii de tehnologie caută acum metode prin care valorile umane să fie integrate direct în procesul de învățare al mașinilor, pentru a reduce riscurile de eroare sau de daune.