»Izvaja se eksperiment brez našega soglasja«
Smo zadnja generacija, ki lahko določi pogoje sobivanja človeštva in strojev?
Klepetalni roboti z umetno inteligenco, kot je ChatGPT, je so postali med uporabniki izjemno priljubljeni. Slednji se pogosto na umetno inteligenco obračajo z vsemi mogočimi vprašanji. Klepetalni roboti pa pogosto podajajo tudi netočne in nepopolne nasvete. V osnovi pa v svoji bazi zbirajo osebne in druge podatke uporabnikov.
© Jernej Furman / Flickr / CC
Svet potrebuje globalni sistem upravljanja umetne inteligence, ki bi jo oblikoval v dobro človeštva, je danes pozval generalni sekretar ZN Antonio Guterres. Ob tem je posvaril pred scenarijem, po katerem bi ta tehnologija sama ustvarjala našo prihodnost. Sistemi umetne inteligence že delujejo z vse manj človeškega nadzora, je opozoril.
Kot je dejal danes pred začetkom prvega globalnega dialoga o upravljanju umetne inteligence, ki ga gosti Ženeva, se na naših lastnih družbah izvaja "eksperiment brez načrta in brez soglasja". "To ni vzdržno," je poudaril po poročanju francoske tiskovne agencije AFP.
Umetna inteligenca že spreminja svet
Umetna inteligenca po njegovih besedah že spreminja svet. Človeštvo se mora v tej fazi odločiti, ali bomo to preobrazbo oblikovali skupaj ali pa bomo pustili, da ona oblikuje nas.
Opozoril je, da sistemi umetne inteligence "niso več orodja, ki čakajo na navodila". "Pišejo kodo, delujejo na spletu in sprejemajo odločitve z vedno manj človeškega nadzora," je poudaril. "Naše institucije so bile zgrajene za upravljanje strojev, ki sledijo ukazom. Niso pripravljene na stroje, ki odločajo," je opozoril.
"Naše institucije so bile zgrajene za upravljanje strojev, ki sledijo ukazom. Niso pripravljene na stroje, ki odločajo."
Tako imenovano vibracijsko kodiranje, pri katerem razvijalec izvorne kode ne piše sam, temveč rešitev opisuje z opisnimi navodili, za ustvarjanje kode, izvajanje postopkov in odpravljanje napak pa v celoti poskrbijo napredni modeli umetne inteligence, lahko po Guterresovih besedah dela čudeže. "Vendar pa resnice ne moremo vibracijsko kodirati, prihodnosti človeštva prav tako ne," je poudaril.
Kaj pa varnost otrok?
Pozval je k skupnim metodam za ocenjevanje in preverjanje tveganj ter k skupno dogovorjenim standardom, zlasti za zagotavljanje varnosti otrok, ki dostopajo do sistemov umetne inteligence.
Napovedal je, da bo Generalno skupščino ZN pozval k ustanovitvi globalnega sklada za umetno inteligenco, "da bi povsod gradili znanja, podatke in cenovno dostopno računalniško moč".
"Stroji, ki izbirajo in napadajo svojo tarčo ter jemljejo življenje brez človeškega nadzora in presoje. To je moralno odvratno in to mora biti prepovedano po mednarodnem pravu."
Druga prednostna naloga je po njegovih besedah zmanjšanje vpliva umetne inteligence na podnebje. Ob tem je ponovil svoj poziv podjetjem, naj razkrijejo svoj naraščajoči okoljski odtis in se zavežejo, da bodo do leta 2030 vsak podatkovni center napajala z obnovljivo energijo.
Uporaba v vojaške namene
Izpostavil je še tveganja, ki jih prinaša uporaba umetne inteligence v vojaške namene. "Stroji, ki izbirajo in napadajo svojo tarčo ter jemljejo življenje brez človeškega nadzora in presoje. /.../ To je moralno odvratno in to mora biti prepovedano po mednarodnem pravu," je dejal.
"Morda smo zadnja generacija, ki lahko določi pogoje sobivanja človeštva in strojev," je dodal.