Nate Soares, președintele Machine Intelligence Research Institute (MIRI), a luat o decizie financiară neobișnuită, alegând să nu mai contribuie la fondul său de pensie. Specialistul american este convins că există o probabilitate de peste 50% ca inteligența artificială să provoace dispariția omenirii în următorul deceniu. Această estimare extrem de pesimistă i-a influențat direct planurile de viitor, ducând la oprirea contribuțiilor financiare pentru securitatea sa de bătrânețe.
Fost inginer la Google și Microsoft, Soares explică faptul că nu a mai alimentat contul său de pensie de aproximativ zece ani. Deși păstrează economiile acumulate în perioada activității sale la Google, el nu mai investește sume noi în acest scop. Decizia sa este direct legată de perspectiva unei catastrofe provocate de dezvoltarea unor sisteme IA care ar putea deveni mult mai inteligente decât oamenii și ar putea scăpa de sub orice control.
În viziunea specialistului, pericolul nu provine neapărat din intenții ostile ale mașinilor, ci din incompatibilitatea obiectivelor acestora cu supraviețuirea umană. Un sistem avansat ar putea încerca să își îmbunătățească propriile capacități și să își dezvolte infrastructuri automatizate fără intervenția umană. În acest scenariu, inteligența artificială ar putea reorganiza resursele planetei pentru a-și îndeplini propriile scopuri, transformând Pământul într-un mediu incompatibil cu viața oamenilor.
Nate Soares este un expert în domeniul „AI alignment”, activitate pe care o desfășoară de peste 12 ani. Această ramură de cercetare vizează asigurarea faptului că obiectivele sistemelor IA rămân compatibile cu interesele umanității. El este și coautorul cărții „If Anyone Builds It, Everyone Dies”, o lucrare care analizează riscurile existențiale generate de crearea unor sisteme de inteligență artificială superinteligente care ar putea fi imposibil de gestionat.
Alți specialiști au emis avertismente similare, deși cu probabilități diferite. Geoffrey Hinton, laureat al Premiului Nobel pentru Fizică în 2024, estimează la 10% riscul ca IA să provoace dispariția omenirii în zece ani, în timp ce Evan Hubinger de la Anthropic menționează o cifră de peste 10%. În contrast, Elon Musk susține că economiile pentru pensie ar putea deveni inutile nu din cauza unui risc de extincție, ci datorită unei prosperități economice generate de robotica avansată.
Dezvoltarea inteligenței artificiale rămâne un subiect de intens dezbatere în comunitatea științifică globală, fiind marcată de incertitudini majore. Deși există modele care avertizează asupra riscurilor, nu există un consens privind amploarea acestora sau despre momentul în care sistemele actuale ar putea atinge un nivel de autonomie periculoasă. Cercetătorii continuă să analizeze dacă aceste scenarii catastrofale sunt realități iminente sau simple ipoteze teoretice.