Nova opozorila vodilnih v industriji umetne inteligence so znova odprla vprašanje, ki se še pred nekaj leti ni zdelo veliko več kot znanstvena fantastika: kaj se zgodi, če umetna inteligenca postane tako zmogljiva, da je ljudje ne bodo več sposobni učinkovito nadzorovati?
Dario Amodei, izvršni direktor podjetja Anthropic, ki stoji za sistemom Claude, je opozoril, da bi morala industrija upočasniti razvoj in več časa nameniti varnostnim mehanizmom. Brez tega bi lahko po njegovi oceni že v prihodnjih šestih do 12 mesecih nastali dovolj zmogljivi sistemi, da bi množica oziroma »roj« AI-agentov lahko prevzel nadzor nad internetom.
»Roj« umetne inteligence, ki deluje samostojno
Pri tem ne gre za trditev, da bo umetna inteligenca čez pol leta dejansko prevzela internet. Amodei opozarja na možen scenarij, če bodo zmogljivosti sistemov napredovale hitreje kot varnostni ukrepi.
AI-agenti se namreč razlikujejo od običajnih klepetalnikov. Zasnovani so tako, da lahko dobijo nalogo in nato samostojneje izvajajo posamezne korake za njeno dokončanje. Z nadaljnjim razvojem bi lahko takšni sistemi postajali vse bolj sposobni načrtovanja in izvajanja kompleksnih nalog z manj neposrednega človeškega nadzora. Prav možnost, da bi veliko takšnih agentov delovalo hkrati, je eden od scenarijev, ki skrbijo del strokovnjakov za varnost umetne inteligence.
Kaj če umetna inteligenca ne bo več sledila ljudem?
Razprava je širša od morebitnega »prevzema interneta«. Zmogljivejši modeli povečujejo tudi možnosti za zlorabo tehnologije s strani ljudi.
Med najbolj skrajnimi scenariji, ki jih obravnavajo strokovnjaki, so uporaba umetne inteligence za razvoj nevarnih bioloških sredstev ter možnost, da bi napredni sistemi začeli delovati na načine, ki niso skladni s cilji njihovih ustvarjalcev. Amodei zato poziva podjetja in vlade, naj poskrbijo, da bodo vse zmogljivejši modeli umetne inteligence ostali usklajeni z navodili in vrednotami odgovornih ljudi.
O nevarnostih opozarjajo ljudje iz same industrije
Opozorila prihajajo v času, ko se zmogljivosti najnaprednejših modelov hitro povečujejo. Le nekaj dni pred Amodeijevim opozorilom sta tudi nekdanja raziskovalca za varnost pri Anthropicu javno izrazila zaskrbljenost, da se potencialnim eksistencialnim tveganjem umetne inteligence namenja premalo pozornosti. Vprašanje zato ni več zgolj, kaj vse bo umetna inteligenca sposobna narediti, ampak tudi, ali bodo podjetja in države sposobni dovolj hitro razviti varovalke.
V industriji se tako ponovno krepi razprava o upočasnitvi razvoja. Zagovorniki strožjih varnostnih ukrepov opozarjajo, da bi lahko nadaljnja tekma med tehnološkimi podjetji privedla do položaja, ko bodo nove zmogljivosti uvedene hitreje, kot bomo razumeli njihove posledice.
Se lahko razvoj sploh še upočasni?
To ostaja eno ključnih vprašanj. Razvoj umetne inteligence je postal globalna tekma, v kateri sodelujejo največja ameriška tehnološka podjetja, Kitajska in številna druga podjetja ter države. Morebitna odločitev enega podjetja, da razvoj upočasni zaradi varnosti, zato še ne pomeni, da bodo enako storili njegovi konkurenti.
Amodeijevo opozorilo tako ni napoved, da bo umetna inteligenca čez šest mesecev prevzela internet. Je pa opozorilo človeka iz samega vrha industrije, da se lahko okno za vzpostavitev dovolj učinkovitih varnostnih mehanizmov hitro zapira.
