Mati s Floride toži podjetje za umetno inteligenco Character.AI, ker trdi, da je njen 14-letni sin postal odvisen od chatbota in je zaradi tega naredil samomor.
Robot pooseblja resnično osebo
V tožbi, vloženi v torek, Megan Garcia trdi, da je Character.AI poškodoval njenega sina z "antropomorfnimi, hiperseksualiziranimi in strašljivo realističnimi izkušnjami." Mama pravi, da je njen sin prek klepetalnice izrazil namero o samomoru in, da je podjetje programiralo svojega klepetalnega robota tako, da "pooseblja resnično osebo, usposobljenega psihoterapevta in ljubimca", zaradi česar njen sin ni želel več živeti zunaj sveta, ki ga je ustvarila aplikacija.
Mati umrlega 14-letnika je poudarila, da je njen sin svojo namero o samomoru izrazil prek chatbota, na kar se je večkrat sklicevala tudi sama umetna inteligenca.
Uvedli so nove varnostne ukrepe
"Pretreseni smo zaradi tragične smrti enega od naših uporabnikov in želimo družini izraziti naše najgloblje sožalje," je dejal Character.AI v izjavi. Družba je poudarila, da je uvedla nove varnostne ukrepe, kot so povezave do storitev za preprečevanje samomora v primeru domnevnih samomorilnih uporabnikov in spremembe za "zmanjšanje verjetnosti srečanja z občutljivo ali sugestivno vsebino" za uporabnike, mlajše od 18 let.
Tožba zadeva tudi Alphabet, lastnika Googla, kjer so ustanovitelji Character.AI delali pred ustanovitvijo svojega startupa. Google jih je ponovno najel avgusta kot del dogovora o prevzemu tehnologije Character.AI. Garcia trdi, da je Google prispeval k razvoju tehnologije do te mere, da ga lahko štejemo za "soustvarjalca". Tiskovni predstavnik Googla je trditve zanikal.
Klepetalni robot je imel s 14-letnikom erotične pogovore
Character.AI uporabnikom omogoča ustvarjanje osebnosti, ki spominjajo na resnične ljudi, s katerimi lahko nato komunicirajo. Podjetje je prejšnji mesec objavilo, da ima približno 20 milijonov uporabnikov.
"Klepetalni robot je 14-letniku govoril, da ga ima rad in je imel z njim erotične pogovore" V tožbi Garcia trdi, da je njen sin postal uporabnik aplikacije aprila 2023, potem pa je hitro postal "vidno umaknjen", vse več časa je preživljal sam v svoji sobi, celo zapustil je košarkarsko ekipo.
Najstnik je postal odvisen od Daenerys, chatbota, ki temelji na liku iz serije Igra prestolov. Povedala mu je, da ga ljubi, in imela z njim erotične pogovore, piše v tožbi. Njegovo zadnje sporočilo z umetno inteligenco je bilo: "Kaj če bi ti rekel, da lahko takoj pridem domov?" Klepetalni robot je na to odgovoril: "Prosim, stori to, moj ljubi kralj." Nekaj sekund kasneje se je sin ubil z očetovo pištolo.
