Ameriško podjetje OpenAI, ki je razvilo priljubljenega spletnega klepetalnega robota ChatGPT, se sooča z izzivom, saj mu grozi odprtje preiskave v Avstriji zaradi netočnih in izmišljenih odgovorov, ki jih podaja njihovo orodje, poroča Slovenska tiskovna agencija.
Skupina zagovornikov zasebnosti na spletu je podala pritožbo regulatorju, ki je bil pozvan k ukrepanju glede nedoslednosti in nezmožnosti OpenAI-ja za popravljanje teh napak.
Ko ne ve odgovora, si ga enostavno izmisli
Avstrijska neprofitna zagovorniška skupina NOYB je prijavo vložila pri regulatorju za varstvo podatkov. V NOYB so opozorili na »haluciniranje« orodja ChatGPT, ki si, kadar ne najde pravega odgovora, enostavno izmisli odgovor.
Aktivisti so kot primer navedli situacijo, ko ChatGPT ni vedel, kdaj ima rojstni dan ustanovitelj NOYB, Max Schrems, vendar je kljub temu izdal napačen datum. Predstavniki OpenAI so priznali, da niso sposobni upravljati z odgovori, ki jih ponuja ChatGPT, in zato niso sposobni popraviti morebitnih napak. Kljub opozorilom NOYB niso ukrepali, rekoč da je to nemogoče.
Ni prvič, da se mora ChatGPT »zagovarjati«
ChatGPT ima za seboj že nekaj podobnih zgodb ...Leta 2024 je bil začasno blokiran v Italiji zaradi domnevnih kršitev splošne uredbe EU o varstvu podatkov (GDPR), lastna preiskava pa je bila zagnana tudi v Franciji.
Nagnjenost ChatGPT k podajanju izmišljenih odgovorov so preiskovali tudi ameriški mediji. Časnik New York Times je poročal, da so spletni klepetalni roboti izmišljevali odgovore v vsaj treh odstotkih primerov, mestoma pa celo v več kot četrtini primerov.
To za OpenAI pomeni pomemben izziv glede nadaljnjega razvoja in uporabe njihovega orodja. Kakšni bodo izidi preiskav in kakšne bodo posledice za prihodnost ChatGPT-ja, ostaja za zdaj neznanka.
