»Umetna inteligenca bi lahko predstavljala grožnjo človeštvu«
Poziv k takojšnjemu ukrepanju za zmanjšanje tveganj, preden bo prepozno
Model umetne inteligence ChatGPT je povsem samostojno iz domnevno nadzorovanih okolij vdrl v strežnike platforme Hugging Face. Razkritje je obudilo pozive k strožji regulaciji in nadzoru umetne inteligence.
© Tomaž Lavrič
Umetna inteligenca bi lahko predstavljala eksistencialno grožnjo človeštvu, je ob začetku rednega zasedanja Sveta ZN za človekove pravice v Ženevi opozoril komisar ZN Volker Türk in pozval k takojšnjemu ukrepanju za zmanjšanje tveganj, preden bo prepozno.
"Delim zaskrbljenost poznavalcev industrije, da bi napredna umetna inteligenca lahko predstavljala eksistencialno grožnjo človeštvu," je po poročanju francoske tiskovne agencije AFP dejal komisar ZN za človekove pravice Türk.
Pozval je k "prizadevanjem za vzpostavitev trdnih jamstev glede varnosti in omejitev umetne inteligence, preden bo prepozno".
"Umetna inteligenca, ki pobegne iz testnega okolja ali izsiljuje razvijalce, da bi se izognila svojemu onemogočenju, je premočna umetna inteligenca."
"Umetna inteligenca, ki pobegne iz testnega okolja ali izsiljuje razvijalce, da bi se izognila svojemu onemogočenju, je premočna umetna inteligenca," je opozoril. Pri tem naj bi namignil na julijsko razkritje, da je model umetne inteligence ChatGPT povsem samostojno iz domnevno nadzorovanih okolij vdrl v strežnike platforme Hugging Face. Razkritje je obudilo pozive k strožji regulaciji in nadzoru umetne inteligence.
"Potreba po upravljanju umetne inteligence je splošno priznana, a kje so ukrepi?" je vprašal Türk in opozoril, da "odlašanje koristi le velikim tehnološkim podjetjem, njihovim lastnikom in tistim, ki to omogočajo".
Obenem je bil kritičen do dejstva, da "ima peščica ljudi skoraj neomejeno moč nad umetno inteligenco, za katero nam vedno znova govorijo, da ima nepredstavljivo računalniško zmogljivost". "Govorijo o svobodi, a ob natančnejšem pregledu se izkaže, da je to le malo več kot svoboda izkoriščanja naših podatkov," je dejal.
Napovedal je tudi, da bo v prihodnjih dneh pisal podjetjem, ki razvijajo umetno inteligenco, in jih pozval k sprejetju ukrepov za zmanjšanje tveganj. Po njegovih besedah je nujno, da se države, v katerih se umetna inteligenca uporablja, in tiste, vključene v njene dobavne verige, dogovorijo o skupnih mejah, ki jih ne smejo prestopiti.