Generativni AI chatbotovi mogu pojačati simptome kod ljudi s teškim mentalnim poremećajima. Danski istraživači došli su do ovog zaključka nakon analize tisuća medicinskih kartona pacijenata. Rad je objavljen u časopisu Acta Psychiatrica Scandinavica (APS).
Znanstvenici su analizirali elektroničku medicinsku dokumentaciju gotovo 54 tisuće pacijenata liječenih u službama za mentalno zdravlje u središnjoj regiji Danske od rujna 2022. do lipnja 2025. Tijekom tog razdoblja liječnici su doprinijeli s više od 10 milijuna kliničkih bilješki. Istraživači su tražili spominjanje chatbota i ChatGPT-a, uključujući uobičajene tipfelere.
Rezultati su identificirali 126 pacijenata čija je uporaba umjetne inteligencije vidljiva u njihovoj medicinskoj dokumentaciji. U njih 38 stručnjaci su otkrili potencijalno štetne učinke.
Najčešći problem bilo je jačanje sumanutih ideja – takvi slučajevi zabilježeni su kod 11 pacijenata. Budući da se jezični modeli slažu s korisnikom i “podržavaju” njegovo gledište, to može ojačati lažna uvjerenja.
Osim toga, šest pacijenata iskusilo je povećane suicidalne misli ili zahtjeve botu o metodama samoozljeđivanja. Pet osoba imalo je pogoršanje poremećaja prehrane korištenjem chatbota za kompulzivno brojanje kalorija.
Izolirani slučajevi povezani su s povećanim maničnim epizodama i kompulzivnom uporabom umjetne inteligencije u opsesivno-kompulzivnom poremećaju.
Istodobno, istraživači su zabilježili i pozitivne scenarije. 32 pacijenata koristilo je chatbot za dobivanje informacija o svom stanju ili kao oblik neformalne podrške. Još 20 ljudi koristilo ih je za organiziranje svakodnevnih poslova.
Potrebno je više kvalitetnih razgovora s pacijentima i kontroliranih studija, kažu istraživači. Također predlažu uvođenje automatskih mehanizama u AI sustave za otkrivanje znakova psihoze ili suicidalnih namjera uz preusmjeravanje na stručnu pomoć.
Autori smatraju da bi se regulacija takvih tehnologija trebala provoditi na državnoj razini, a ne ostati isključivo u nadležnosti razvojnih tvrtki. U međuvremenu preporučuju stručnjacima za mentalno zdravlje da s pacijentima aktivno razgovaraju o svojim digitalnim navikama i mogućim rizicima.
