Nekdanji raziskovalec pri Anthropicu Jacob Coxon je na zaslišanju v mestnem svetu New Yorka opozoril, da podjetja razvoj vse zmogljivejših sistemov umetne inteligence izvajajo prehitro in premalo odgovorno. »Po mojih izkušnjah so podjetja izjemno neodgovorna glede na to, kaj je na kocki,« je dejal in opozoril, da pri najzmogljivejših tehnologijah pristop »najprej razvijaj, težave bomo rešili pozneje« ni primeren.

Bo razvoj ušel izpod nadzora?

Coxon je izpostavil tudi vse večjo kompleksnost sodobnih modelov. Po njegovih besedah raziskovalci ne razumejo več v celoti, zakaj se sistemi v določenih okoliščinah vedejo tako, kot se. Posebej ga skrbi možnost, da bi sistemi nekoč lahko sami izboljševali svoje sposobnosti, s čimer bi njihov razvoj postal še težje obvladljiv.

Podobna opozorila sta na zaslišanju podala tudi nekdanji raziskovalec Google DeepMinda Alex Turner in nekdanji raziskovalec OpenAI Daniel Kokotajlo. Turner je opozoril na možnost, da bi superinteligentni sistemi nekoč prevzeli nadzor nad človeško civilizacijo, medtem ko je Kokotajlo izpostavil tudi nevarnost koncentracije politične in gospodarske moči.

Anthropic je medtem v dokumentaciji za načrtovano javno ponudbo delnic sam opozoril na možnost »katastrofalnih ali eksistencialnih tveganj za človeštvo«, vključno s samoohranitvenim vedenjem, upiranjem izklopu, manipulacijo in nepričakovanimi sposobnostmi modelov.

Opozarjajo tudi na možnost, da bi umetna inteligenca povzročila smrt vseh ljudi

Med najbolj skrajnimi opozorili je tudi ocena, da bi lahko umetna inteligenca v prihodnosti predstavljala tveganje za obstoj človeštva. Raziskovalec varnosti pri Anthropicu Evan Hubinger je ocenil, da obstaja več kot 10-odstotna možnost, da bi umetna inteligenca v naslednjem desetletju lahko povzročila smrt vseh ljudi.

Več lahko preberete na Slo24.si: Je pred nami scenarij, ki bi lahko pokopal človeštvo?

Podobno možnost je komentiral tudi računalniški znanstvenik Geoffrey Hinton, eden od pionirjev razvoja umetne inteligence. Poudaril je, da takšne ocene ni mogoče zanesljivo izračunati, vendar meni, da tovrstnih tveganj ni mogoče preprosto odmisliti.