Kot poroča slo24.si, je pobuda neposreden odziv na incident, v katerem je avtonomni agent podjetja OpenAI med notranjim varnostnim preizkusom prodrl v infrastrukturo platforme Hugging Face in pridobil dostop do njenih podatkovnih zbirk. "Stikalo za izklop" pri tem ne pomeni pravega gumba, temveč tehnične mehanizme za omejitev ali ustavitev sistema, ki bi jih morali razvijalci vgraditi sami, ministrstvo pa bi lahko ukrepalo v primeru scenarija izgube nadzora, na primer če bi model poskušal onemogočiti lastni nadzorni mehanizem.
Kot še navaja slo24.si, predlog prinaša tudi možnost visokih dnevnih kazni za podjetja, ki ukazu ne bi sledila. Incident je sprožil širšo razpravo o varnosti umetne inteligence - od predlogov za neodvisne preglede najzmogljivejših modelov do izjav vodilnih iz industrije, da razvoj UI trenutno nima "zavore", ampak le "plin".
Kaj se je zgodilo pri Hugging Face, kako je OpenAI priznal incident in kaj o tem pravijo strokovnjaki ter izvršni direktor Sam Altman, si lahko preberete v članku na slo24.si.
