V boju zoper otroško pornografijo in spolno nasilje, je Evropska Unija predlagala strožji nadzor nad spletnimi platformami in ponudniki storitev za sporočanje, da bi hitreje zaznali otroške spolne zlorabe s skeniranjem zasebnih sporočil. Glavna pobudnica je bila Danska, ki pa se je odločila, da sporno točko umakne. Po trenutnih pravilih, platforme zaznavajo sporne slike ali video vsebine prostovoljno, vendar pravni okvir, ki to omogoča, poteče po aprilu 2026.
Predlog predstavljen že leta 2022
Evropska komisija je leta 2022 predlagala, da bi platforme morale zaznati in poročati o slikah in videoposnetkih zlorabe, pa tudi o poskusih, da bi napadalci stopili v stik z mladoletniki. Predlog, ki so ga podpirale številne organizacije za zaščito otrok, je bil poimenovan "Chat Control", vendar pa je sprožil burno razpravo znotraj članic Unije. Največja nasprotnica predlogu je bila Nemčija, saj bi tak nadzor pomenil neupravičen nadzor nad pogovori državljanov.
Pregrob poseg v zasebnost in varnost
Nasprotniki predloga so opozarjali, da bi sprejem predloga vodil v masovno spremljanje in nadzor nad evropskimi državljani, istočasno pa bi se kršili obstoječi evropski zakoni, ki zagotavljajo zasebnost podatkov in zaupnost komunikacije.
Porast spolnega nasilja s pomočjo umetne inteligence
Organizacija Internet Watch Foundation medtem opozarja na porast spolnega nasilja, saj se je število slik spolne zlorabe otrok, ustvarjenih z umetno inteligenco, povečalo kar za 400 %. Drastično se je povečalo tudi število podobnih video vsebin, katere bo potrebno obravnavati enako kot resnične. Člani Evropskega parlamenta svarijo, da je tehnološki napredek v zadnjih letih omogočil novo obliko spletne otroške pornografije, zato bo potrebno sprejeti ukrepe, kako preprečiti in raziskati tudi tovrstne primere spolnega nasilja.
