O tej temi je govoril tudi pretekli teden na Ptuju na konferenci Dnevi prava zasebnosti in varovanja informacij. Konferenco je že 10. leto zapored organiziralo podjetje Info hiša, ki svoje izkušnje s področja varstva osebnih podatkov in informacijske varnosti prenaša na sorodno področje umetne inteligence in podjetjem pomaga tudi pri vzpostavitvi sistema upravljanja z umetno inteligenco.

V pogovoru z Miho Mazzinijem nas je zanimalo tudi, kaj on meni, koliko sami cenimo zasebnost in koliko osebnih podatkov smo pripravljeni deliti, ko uporabljamo različna orodja umetne inteligence.

Vedno ste spremljali sodobne tehnologije in jih spretno vpeljevali v svoje novinarsko delo. Kako vi vidite razvoj tehnologije, odkar imamo ChatGPT? Kakšni trendi se na tem področju uveljavljajo?

Trendi so isti že dolgo: več sedenja za računalnikom, manj smiselnega dela, večja produktivnost, razlika pa gre v žepe najbogatejših. Poglejte tale grafikon. V prvem letu od objave ChatGPT je zavladala norija, češ, AI bo delala namesto nas, zdaj pa se vedno bolj kažejo omejitve. A znotraj zaposlitev se je že jasno pokazalo: pri mnogih delih bo človek iz delavca, torej samostojnega ustvarjalca, postal kontrolor, ki bo slonel ob zaslonu in pazil, kdaj AI naredi napako.

Kako uporaba ChatGPT-ja vpliva na naš vsakdanji način komuniciranja in pridobivanja informacij? Ga uporabljamo dovolj preudarno, ali mu slepo zaupamo?

Glede na to, da AI pogosto halucinira, torej krene v slepo ulico in v njej arogantno vztraja, si izmišljuje podatke in debelo laže (natančneje, konfabulira, saj verjame samemu sebi), bi uporabo AI najprej odsvetoval učencem na kateremkoli področju. Za dobro rabo AI-ja moramo področje namreč poznati, da ločimo seme od plevela. Resnični primer učenca, ki ga je učiteljica pisno pohvalila staršem, kako je postal priden, saj sedaj dela vse obnove čtiv in piše spise, nakar je učenčeva sestra šla tisto brat in ugotovila, da gre za AI blodnje, od slabo spisanih spisov do lažnih obnov, ki s knjigami nimajo nobene zveze. Kako naj bi učenec vedel, da mu AI laže, če knjige ni bral? Če bi jo bral, potem bi si šele lahko pomagal z AI, saj bi dobil osnovo, na kateri bi potem sam dodal in spremenil, kar je treba. Zanimivo v tej zgodbi je predvsem to, da je učiteljica ocenjevala le kvantiteto namesto kvalitete, torej ni brala tega, kar je učenec prinašal v šolo. Ali še bolj banalno, ko sem ChatGPT vprašal, kateri slovenski kraj je od turistov spregledan in mi ga priporoča za obisk, mi je svetoval Ljubljano. Ker poznam situacijo, ga ne bom upošteval, če ne, bi bil pa še en turist v gneči.

Kakšno orodje je ta trenutek AI? Kakšen vpliv ima na družbo in kakšen vpliv bo imelo v prihodnosti?

Trenutno smo v fazi razočaranja. Zaposleni so si predstavljali, da bo AI namesto njih opravljal nesmiselna in dolgočasna dela, zdaj so pa ugotovili, da ni tako. Pred leti sem zvečer prišel v supermarket in delala je ena sama blagajničarka poleg vrste avtomatskih blagajn. Namenoma sem šel do gospe, češ, naj ji ohranim delovno mesto. Grdo me je pogledala in siknila, naj grem na avtomate. Res sem šel. Ko sem čez nekaj mesecev spet obiskal to trgovino, gospe ni bilo več, tudi preko njenega delovnega mesta so se razširile avtomatske blagajne. Skratka, trenutno je za zaposlene dobro, da jih AI še ne more zamenjati.

Kaj pa naša zasebnost in nenazadnje varstvo osebnih podatkov pri uporabi različnih orodij AI? Bi rekli, da nam je zasebnost dovolj pomembna in tudi dovolj pazimo, kaj vse smo pripravljeni razkriti o sebi? Ali na ta vidik uporabe umetne inteligence največkrat niti ne pomislimo?

Prav nič ne pazimo. Obstaja veliko strani, kjer si lahko ustvarite partnerja ali partnerico po svoji podobi za pogovor ali spolnost. Si predstavljate, kako dragoceni podatki so to? Če se tri do štiri ure na dan zaupno pogovarjate z AI partnerjem o sebi in svojem dnevu, se podatki vas in vam podobnih stekajo na eno samo mesto, ki dobiva nesluteno moč. Pa zdravstvo, za katerega se borijo tehnološki velikani, recimo Amazon in Google. Greste na Amazon k zdravniku in lahko ste deležni najboljše možne (virtualne) obdelave, a potem se ne čudite, če boste po tem po spletu videvali le oglase, ki se tičejo vaše bolezni in bo Amazon za vas imel ugodne komercialne pakete. In tole je le vrh ledene gore.

[[image_1_article_65669]]

Katere priložnosti in nevarnosti nam pretijo?

Priložnosti so dejansko za zmanjšanje duhamornih del, a nevarnost je strašansko povečanje ravno takega dela. Za sedaj gre v drugo smer. Če AI halucinira in blodi, potem ga mora nekdo preverjati. Poglejte prevajalce, ki so prvi nasrkali, tudi pri nas. Sedaj jim naročniki rečejo, saj vržeš besedilo v AI in potem samo preveriš, zato te bomo manj plačali. Kar drži. A to pomeni, da je iz avtorskega in smiselnega dela prevajalec postala kontrolna funkcija stroja, torej za človeka žaljivo nesmiselno delo, ki je tudi seveda precej manj plačano.

Menite, da kot družba, dovolj naslavljamo izzive in nevarnosti, povezane z umetno inteligenco?

Kot vem, ne naslavljamo sploh. To bosta vse pozdravila vitamin D in slana morska voda.

Ko je ChatGPT konec leta 2022 prišel na trg, smo slišali, da bomo vsi v naših poklicih izgubili službe v roku enega leta. Leto in pol kasneje ne poznam nikogar, ki bi dejansko jo. Kako torej vi vidite prihodnost naših poklicev?

Prevajalci so se torej iz avtorskega smiselnega dela premaknili v kontrolorje nesmisla. Poglejmo primer novinarjev. Časopisno podjetje CNET je planilo na AI članke zavrglo novinarje. Po nekaj mesecih je analiza pokazala, da so v več kot polovici tako spisanih člankov blodnje. Pa so (za sedaj) znova zaposlili novinarje. Kar skoraj gotovo pomeni, da se je tudi novinarski poklic premaknil v kontrolorje. Brali bodo besedila, ki jih generira AI in ustavljali škart. Torej spet novo nesmiselno delo. Kaj pa zdravniki? Amazon lahko uporablja AI za diagnoze, a nekdo mora preverjati – to mora biti zdravnik. Namesto pogovora s pacientom in diagnostike, bo kontrolor dela AI. Kakšno ponižanje.

Dejstvo je, da umetna inteligenca spreminja delovna mesta. V predavanju ste rekli, da je ključen doprinos visoke tehnologije družbi, pretvarjanje visoko smiselnih del v visoko nesmiselna dela. Lahko poveste malo več o tem?

Nekaj primerov (prevajalci, novinarji, zdravniki) sem že povedal. Poglejmo še trgovce. Amazon se je bahal s svojimi fizičnimi trgovinami, v katerih ni zaposlenih. Visoka tehnologija vas prepozna, vidi, kaj mečete v košarico in pri izhodu samo pomahate s kartico. Prejšnji teden so na tiho in drobno objavili, da se jim ni izšlo in odpuščajo več kot 1000 indijskih delavcev, ki so preko ekranov spremljali, kaj kupujete. Skratka, za vso to visoko tehnologijo so v resnici doma sedeli ubogi Indijci, kontrolorji AI napak. Nekateri ljudje so rojeni trgovci: zapomnijo se vas, prepoznajo, prijazni so in namesto, da bi stali v trgovinah in klepetali z vami, sedijo doma in klikajo po zaslonu, kaj je kdo kupil. Nesmiselno in žaljivo delo.

Ste si že izdelali svojega avatarja?

Ne. 

Koliko uporabljate Chat GPT na dnevni bazi vi?

ChatGPT uporabljam sorazmerno pogosto, a za brainstorming. Kot malce omejenega sodelavca, s katerim se pogovorim o problemu, in ne pričakujem veliko, a včasih me preseneti. Ali, še pogosteje, zaradi teh odgovorov pričnem razmišljati v drugo smer in najdem rešitev.

Ste uveljavljen kolumnist in pisec, prav tako filmski scenarist. Boste Chat GPTju zaupali pisanje vašega novega scenarija?

Ravno so najavili prvo žajfnico, ki jo bo pisal AI in v njej tudi igral. AI je pač pregledal ogromno besedil in našel značilnosti, torej je našel formule. Dober je za formulaične zadeve, za štanco. Tiste dopoldanske soap opere bodo prej ali slej v domeni AI, ker so vse narejene po formulah.  Moje področje pisanja je iskanje izven formul, iskanje nepredvidljivih, možnih, slutnih zadev, tistega več. Ukvarjam se s smislom, ne z industrijsko proizvodnjo. In tako pisanje je visoko smiselno delo, kar ugotavljam vedno sproti, tudi pri novi knjigi zgodb, ki sem jo pravkar oddal založbi Goga.