Prepoved globokih ponaredkov s spolno vsebino

Evropski parlament je potrdil spremembe nekaterih pravil v okviru akta EU o umetni inteligenci. Sprejete spremembe zajemajo prepoved uporabe umetne inteligence za ustvarjanje globokih ponaredkov s spolno vsebino ter poenostavitev nekaterih pravil v zvezi z umetno inteligenco in zamik uveljavitve njihovih rokov.

Nova pravila bodo začela veljati prihodnje leto

Spremembe akta o umetni inteligenci vključujejo prepoved sistemov umetne inteligence, ki ustvarjajo gradivo o spolnem izkoriščanju otrok ali ustvarjajo slike, videoposnetke in avdio posnetke, ki prikazujejo intimne dele prepoznavne osebe ali spolno eksplicitne dejavnosti brez njenega soglasja.

Ponudniki teh sistemov jih ne bodo smeli dajati na trg EU, razen če bodo opremljeni z ustreznimi tehničnimi zaščitnimi ukrepi za preprečevanje ustvarjanja takšnega gradiva. Prepoved velja tudi za operaterje, ki uvajajo sistem za uporabo v ta namen, so v sporočilu za javnost pojasnili v Evropskem parlamentu.

Podjetja bodo imela za uskladitev svojih sistemov z zakonodajo čas do 2. decembra letos.

Določbo, ki prepoveduje prakse umetne inteligence v zvezi z ustvarjanjem spolnih in intimnih vsebin brez soglasja ter gradiva, ki prikazuje spolno zlorabo otrok, je marca v predlog Evropske komisije za spremembo akta dodal Svet EU.

Za to se je odločil tudi v luči kritik družbenega omrežja X in njegovega klepetalnega robota z umetno inteligenco Grok zaradi seksualiziranih fotografij žensk in otrok.

Danes potrjene spremembe zajemajo tudi poenostavitev akta o umetni inteligenci in zamike nekaterih rokov. Tako bi se moralo 2. avgusta letos med drugim začeti uporabljati pravila za visoko tvegane sisteme umetne inteligence. Na podlagi danes potrjenih sprememb bodo pravila začela veljati 2. decembra 2027.

Spremembe akta mora potrditi še Svet EU

Za sisteme umetne inteligence, vgrajene kot varnostni sestavni del in zajete v sektorski zakonodaji EU o varnosti in nadzoru trga, pa bodo nove obveznosti veljale od 2. avgusta 2028.

Prav tako se zamika uveljavitev obveznosti uporabe vodnega žiga na vsebini, ustvarjeni s pomočjo umetne inteligence, do 2. decembra 2026. Gre za tehniko, ki omogoča odkrivanje in sledenje vsebine, ki jo ustvari umetna inteligenca.

Spremembe akta o umetni inteligenci mora zdaj uradno potrditi še Svet EU. Večina določb akta bo začela veljati 2. avgusta letos, so še navedli v Evropskem parlamentu.