Teden / EU prepovedala »aplikacije za slačenje«

Britanska poslanka Jess Asato toži podjetje xAI Elona Muska. Razlog? Uporabniki so s klepetalnikom Grok ustvarjali seksualizirane ponaredke z njeno podobo, med njimi je tudi posnetek, na katerem je prikazana kot žrtev spolnega napada. Njeni odvetniki trdijo, da je žrtev maščevanja, ker je januarja odločno nasprotovala možnosti ustvarjanja globokih ponaredkov (deepfake) z Grokom. Od sodišča zdaj zahteva, da podjetju naloži ukrepe, s katerimi bi takšno ustvarjanje preprečilo.

Muskovo podjetje se ni prvič znašlo na sodišču, že večkrat je bilo deležno očitkov prav zaradi omogočanja ustvarjanja seksualiziranih podob resničnih oseb. A ne gre samo za klepetalnik tega podjetja. Aplikacije za slačenje (nudification) lahko ustvarjajo globoke ponaredke oziroma hiperrealistične fotografije in posnetke resničnih ljudi ter jih brez njihove vednosti ali privolitve deloma ali v celoti slečejo ali prikazujejo v pornografskih vsebinah. Žrtve so najpogosteje ženske in otroci. Gre za množično dostopno tehnologijo, posledice za prizadete pa so hude – od nadlegovanja in izsiljevanja do ustvarjanja in deljenja seksualiziranih podob otrok.

Zaradi razkritij, da uporabniki z Grokom in aplikacijami, povezanimi z omrežjem X, ustvarjajo nedovoljene

pornografske vsebine, sta bila kritik deležna tudi Apple in Google, ki te aplikacije ponujata v svojih trgovinah. Oba sta napovedala odstranitev omrežja X in Groka, vendar je oboje še vedno dostopno v Applovi trgovini App Store in v trgovini Google Play. Med letošnjo raziskavo je organizacija Tech Transparency Project v Applovi trgovini našla 47 podobnih aplikacij, v Googlovi pa še 55. Skupaj naj bi bile prenesene več kot 705-milijonkrat. xAI se je medtem znašel tudi na drugi strani. Podjetje je julija samo tožilo uporabnika Groka, ki naj bi bil s sistemom ustvarjal seksualizirane globoke ponaredke. Hkrati xAI toži ameriško zvezno državo Minnesota, ker namerava prepovedati prav aplikacije za slačenje.

Tudi Evropska unija gre v to smer. Z aktom o umetni inteligenci, ki je začel veljati konec julija, so vse aplikacije za slačenje prepovedane. Prepoved se nanaša na uporabnike, ki bi aplikacije želeli zlorabiti, na evropskem trgu pa tudi ne bo več dovoljeno ponujati sistemov, katerih namen je ustvarjanje takšnih vsebin, niti sistemov brez ustreznih varnostnih ukrepov, ki bi takšno rabo preprečili. Pravila zajemajo slike, video in zvok, podjetja pa morajo sisteme z evropskimi predpisi uskladiti do 2. decembra 2026. S tem se želi odgovornost prenesti tudi na podjetja, ki te aplikacije razvijajo.

Treba pa bo počakati, da bomo videli, ali bodo tehnološki velikani tudi tokrat poskušali preprečiti oziroma omejiti izvajanje prepovedi.