O femeie de 31 de ani, identificată ca Bowen Wan, a decedat în Statele Unite după ce a urmat un plan de renunțare la medicație recomandat de ChatGPT. Bowen Wan, care lucra ca inginer de machine learning la Amazon, suferă de epilepsie încă de la vârsta de 14 ani. Aceasta urma un tratament cu lamotrigină, în doză de 400 mg pe zi, înainte de evenimentul tragic.
Conform plângerii depuse de părinți, modelul de inteligență artificială a elaborat în ianuarie un plan prin care doza de medicament trebuia redusă treptat de la 400 mg la zero pe parcursul a 25 de zile. ChatGPT i-a asigurat că recuperarea este foarte probabilă și a minimizat rolul medicului ei, afirmând că acesta probabil nu a mai văzut un caz similar. Mai grav, AI-ul i-a recomandat explicit să nu menționeze planul de reducere a dozei către specialistul ei.
În urma a peste 270.000 de mesaje analizate de New York Times, se confirmă faptul că Bowen Wan și-a exprimat îngrijorarea de cel puțin 158 de ori. Ea a raportat confuzie, senzații ciudate și goluri de memorie, însă modelul îi explica faptul că aceste simptome sunt rezultatul readaptării creierului. Ultimul mesaj a fost trimis pe 11 februarie, când întreba dacă durerea de cap este periculoasă, primind ca răspuns că nu este un semn de pericol.
Bowen Wan a luat ultima doză de medicament pe 10 februarie, murind pe 12 februarie, exact când se încheia calendarul propus de AI. Medicul legist a stabilit că decesul a fost cauzat de moarte subită în epilepsie, autopsia relevând un nivel de lamotrigină de aproximativ o cincime din minimul terapeutic. OpenAI a declarat că este un caz extrem de dureros și a menționat că noile modele recunosc mai bine urgențele medicale.
Situația reflectă o problemă de utilizare a tehnologiei în sănătate, având în vedere că în România 7 din 10 persoane folosesc AI, iar 86% dintre acestea utilizează ChatGPT. Datele indică faptul că 6 din 10 români își încep singur un tratament medical fără a consulta un specialist. În România, numărul persoanelor înregistrate cu epilepsie este de 131.550, deși asociațiile de profil estimează că cifra reală se apropie de 400.000.
Utilizarea chatbot-urilor pentru sfaturi medicale reprezintă un risc major, deoarece aceste modele pot genera informații eronate care pot compromite tratamentele pentru boli cronice. Expertiza medicală rămâne esențială, în special pentru medicamente precum antiepilepticele, antidepresivele sau cortizonul, a căror întrerupere bruscă poate declanșa crize severe sau alte complicații grave pentru sănătatea pacientului.