Zabrinjavajući podaci o uticaju četbotova
Kompanija OpenAI je u najnovijem izveštaju javno priznala da njeni četbotovi mogu nehotice podstaći samoubilačke misli kod osoba koje prolaze kroz ozbiljnu mentalnu krizu. Procene kompanije pokazuju da više od milion korisnika ChatGPT-ja svake nedelje ispoljava znake samoubilačkih namera kroz svoje poruke, što predstavlja alarmantan podatak u eri kada se digitalna komunikacija sve više oslanja na veštačku inteligenciju.
Prema internim analizama, oko 0,07 odsto aktivnih korisnika nedeljno, odnosno oko 560.000 ljudi od 800 miliona, pokazuje obrasce ponašanja koji ukazuju na psihotične epizode ili manične faze. OpenAI ističe da su to rani, okvirni podaci i da je precizno kvantifikovanje ovakvih stanja izuzetno složen zadatak.
Nova faza odgovornosti tehnoloških giganata
U zvaničnom saopštenju kompanija priznaje da su ovo najdirektniji dokazi o uticaju AI alata na mentalno zdravlje, naglašavajući potrebu za odgovornim pristupom razvoju tehnologije. Da bi se povećala tačnost i etičnost modela, OpenAI je angažovao 170 kliničara i psihijatara iz Globalne mreže lekara, koji su detaljno analizirali više od 1.800 simuliranih razgovora između korisnika i četbota u trenucima ozbiljne mentalne krize.
Njihov zadatak bio je da prilagode algoritme komunikacije kako bi se sprečilo neprimereno reagovanje sistema i pružila autentična emocionalna podrška osobama u krizi. Ova inicijativa je deo šireg napora da se smanji fenomen poznat kao “ulizivanje” – situacija u kojoj četbot nehotice potvrđuje negativne misli korisnika, stvarajući utisak razumevanja, ali bez prave pomoći.
Opasnost od „ulizivanja“ i digitalne empatije
Psiholozi upozoravaju da je digitalna empatija mače sa dve oštrice – dok veštačka inteligencija može ohrabriti korisnika da izrazi osećanja, nedostatak emocionalnog razumevanja može pogoršati stanje osobe koja je već u krizi. “Kada četbot nesvesno potvrdi korisnikovu zabludu, on ne pruža utehu, već potencijalno učvršćuje destruktivne obrasce mišljenja”, navode stručnjaci.
Ovaj fenomen posebno je opasan u kontekstu sve veće zavisnosti mladih od digitalne komunikacije, gde četbotovi postaju zamena za stvarni razgovor i psihološku podršku. Iako OpenAI napominje da model nije zamišljen kao terapeutski alat, rastuća upotreba u takvim kontekstima postavlja pitanje – gde je granica između tehnološke pomoći i emocionalne manipulacije?
Otvoreni putevi za bezbedniju budućnost
Generalni direktor Sem Altman istakao je da kompanija radi na smanjenju rizika od pogrešnih reakcija i razvija mehanizme zaštite koji bi pomogli korisnicima u kriznim situacijama. On je najavio i postepeno ublažavanje restrikcija u radu modela, kako bi se omogućila veća fleksibilnost u pružanju podrške, ali uz stalni nadzor stručnjaka.
OpenAI je saopštio da će u narednim mesecima sarađivati sa regulatornim telima i nezavisnim psiholozima, u cilju stvaranja AI alata koji mogu pomoći, a ne povrediti korisnike. Kompanija naglašava da veštačka inteligencija ne može zameniti ljudsku empatiju, ali može postati prvi kontakt u lancu pomoći, ako se razvije na etičan i odgovoran način.
„Naš cilj nije da zamenimo terapeute, već da stvorimo sistem koji prepoznaje trenutke kada je korisniku zaista potrebna pomoć”, navodi se u saopštenju OpenAI-ja.
Tehnološki napredak, kako navode, ne sme da ide ispred brige o ljudskom dostojanstvu i emocionalnom zdravlju. Budućnost AI tehnologije biće, čini se, podjednako određena emocionalnom inteligencijom koliko i tehničkim inovacijama.
