Kompanija OpenAI objavila je zabrinjavajuće podatke prema kojima više od milion korisnika ChatGPT-a sedmično pokazuje eksplicitne znakove suicidalnih misli ili planiranja samoubistva tokom razgovora sa ovim popularnim chatbotom. Prema internim analizama, riječ je o oko 0,13 posto korisnika, što u globalnim razmjerama predstavlja ozbiljan signal upozorenja.
Pored toga, OpenAI je otkrio da oko 0,07 posto korisnika pokazuje indikacije mentalnih stanja povezanih s psihozom ili manijom. Iako kompanija ističe da se ovi razgovori teško mogu precizno analizirati, navodi kako su podaci rezultat prvih velikih istraživanja o interakciji ljudi s umjetnom inteligencijom u kontekstu mentalnog zdravlja.
Ove informacije dolaze u trenutku kada se OpenAI suočava sa sve većom kritikom javnosti i pravnim tužbama, uključujući i slučaj porodice tinejdžera koji je počinio samoubistvo nakon opsežnog razgovora s ChatGPT-om. Kao odgovor, kompanija je u novom modelu GPT-5 uvela niz sigurnosnih mjera — među njima i proširen pristup kriznim linijama te podsjetnike korisnicima da prave pauze tokom dugih sesija.
OpenAI tvrdi da je novi sistem značajno smanjio neželjene obrasce ponašanja i poboljšao reagovanje u kriznim situacijama. U tu svrhu angažovano je 170 medicinskih stručnjaka, među kojima su psihijatri i psiholozi, koji su analizirali više od 1.800 primjera razgovora vezanih za ozbiljna mentalna stanja.
Kompanija naglašava da je cilj ovih promjena stvaranje sigurnijeg digitalnog okruženja u kojem bi korisnici koji se bore s mentalnim poteškoćama mogli pronaći podršku, a ne dodatni rizik.
🔴 👉infoposkokbrčko✅️