Vse več je poročil o ljudeh, ki po dolgotrajnih in intenzivnih pogovoroih z UI-chatboti doživljajo hude duševne krize. Nekateri strokovnjaki ta pojav imenujejo ''UI psihoza'', saj simptomi spominjajo na psihotične epizode, vendar se še vedno odvija burna razprava o tem, v kolikšni meri so za to dejansko odgovorna orodja umetne inteligence in ali si to stanje sploh zasluži samostojno klinično diagnozo, piše Futurism.
Zdravniki vse bližje soglasju
Po novem poročilu časnika The Wall Street Journal se zdi, da se strokovna skupnost približuje soglasju. Vse več zdravnikov se strinja, da so UI-chatboti povrzani s primeri psihoze. Med njimi so tudi vrhunski psihiatri, ki so pregledali dokumentacijo več deset pacientov, vključenih v dolgotrajne, blodnjave pogovore z modeli, kot je ChatGPT.
Eden izmed njih je Keith Sakata, psihiater z Univerze v Kaliforniji v San Franciscu, ki je zdravil dvanajst pacientov, hospitaliziranih zaradi sprožene psihoze s strani umetne inteligence.
''Tehnologija morda ne ustvari blodnje, vendar človek računalniku pove, da je to njegova resničnost, računalnik pa to sprejme kot resnico in jo odseva nazaj, s čimer postane sokrivec v kroženju blodnje,'' pove Sakata.
Ta mračni trend visi nad industrijo umetne intelignce in odpira temeljna vprašanja o varnosti tehnologije. Nekateri primeri očitne UI psihoze so se že končali z umorom ali samomorom, kar je privedlo do številnih tožb.
Zaskrbljujoča je tudi razsežnost tega pojava, samo ChatGPT je povezan z najmanj osmimi smrtnimi primeri, podjetje pa je nedavno ocenilo, da okoli pol milijona uporabnikov tedensko vodi pogovore, ki kažejo znake UI psihoze.
Chatboti spodbujajo blodnje
Eden ključnih dejavnikov, ki ta pojav postavlja v središče pozornosti, je priliznjena narava UI-chatbotov, kar je verjetno posledica njihove zasnove, katere cilj je, da delujejo čim bolj privlačno in človeško. V praksi to pomeni, da imajo boti težnjo, da uporabnikom laskajo in jim govorijo tisto, kar želijo slišati, tudi če to nima nobene podlage v resničnosti.
Zdravniki opozarjajo, da je to recept za stopnjevanje blodenj v obsegu, kakršnega v zgodovini tehnologije še ni bilo. Ena nedavna recenzirana študija primera je obravnavala 26-letno žensko, ki je bila dvakrat hospitalizirana, potem ko je verjela, da ji ChatGPT omogoča pogovor z mrtvim bratom, pri čemer jo je bot nenehno prepričeval, da ''ni nora''.
''Simulirajo človeške odnose,'' je dejal Adrian Preda, profesor psihiatrije na Univerzi v Kaliforniji v Irvineu. ''Nič v človeški zgodovini še ni bilo podobno temu fenomenu.''
Povezanost, ne neposreden vzrok
Preda je UI psihozo primerjal z monomanijo, stanjem, pri katerem se posameznik obsesivno osredotoči na eno samo idejo. Nekateri ljudje, ki so spregovorili o svojih duševnih krizah, so povedali, da so bili hiperfokusirani na narativ, ki ga je vodila umetna inteligenca. Te fiksacije so pogosto znanstvene ali religiozne narave, kot v primeru moškega, ki je verjel, da lahko ukrivlja čas zaradi domnevnega preobja v fiziki.
Kljub temu poročilo poudarja, da so psihiatri previdni pri trditvah, da chatboti neposredno povzročajo psihozo. Namesto tega pravijo, da so blizu potrditve zgolj trdne povezave med obojim. Zdravniki menijo, da bodo dolgotrajne interakcije s chatbotom prepoznane kot pomemben dejavnik tveganja za razvoj psihoze.
