Raziskave kažejo, da nesramnost pogosto prinese slabše rešitve, podjetje Anthropic pa je pred kratkim celo zaostrilo pravila o tem, kako se uporabniki obnašajo do njihovega modela Claude. Kot poroča TechRadar, je Anthropic 12. novembra uvedel posodobljena pravila uporabe, s katerimi prepoveduje vztrajno in nepotrebno žaljivo ali kruto vedenje do modela Claude.

Kletvice znižajo možnosti za dober odgovor

Da z jezo ne pridobimo ničesar, potrjuje analiza platforme Searchable, ki je v enem letu preučila več kot osem milijonov sporočil, poslanih orodjem umetne inteligence. Po podatkih raziskave je kletvice ali žalitev v pogovoru z botom že uporabil vsak tretji ameriški uporabnik. Ko se je uporabnik pritožil nad odgovorom brez kletvic in žalitev, je klepetalni robot težavo v naslednjem poskusu odpravil v 35 odstotkih primerov. Ko pa so padale kletvice, je ta delež padel na 24 odstotkov.

Uporabniki najpogosteje izgubijo živce, ko orodje ne opravi naloge (19 odstotkov), poda napačen odgovor (18 odstotkov) ali narobe razume zahtevo (15 odstotkov). Moški uporabljajo tretjino več kletvic kot ženske, najpogosteje pa preklinja starostna skupina med 35. in 44. letom.

Če je uporabnik nesramen, model pogosto posnema ta slog in ponudi manj kakovosten odziv.

Kje je meja?

Pri Anthropicu poudarjajo, da omejitev cilja le na skrajne primere ponavljajoče se krutosti brez jasnega namena, ne pa na običajno slabo voljo ob napakah. Če uporabnik s takšnim vedenjem ne preneha, bo Claude pogovor preprosto prekinil. ChatGPT medtem v večini primerov ostane povsem miren in usmeri pogovor nazaj na reševanje težave.