»Tveganje brez primere«

ZN zaradi "tveganja brez primere" države in podjetja, ki razvijajo najnaprednejšo umetno inteligenco, pozivajo k nujnemu ukrepanju za omejitev te tehnologije. Svet je po besedah komisarja ZN za človekove pravice Volkerja Türka na pragu nepovratnih sprememb, ki ne bodo vplivale le na nas, temveč tudi na prihodnje generacije.

"Trenutna tekma za razvoj vse zmogljivejše umetne inteligence pomeni prelomnico, ki povečuje eksistencialna tveganja za vse vidike našega življenja," je v pismu državam in razvijalcem umetne inteligence zapisal Türk.

Pismo je na odločevalce in podjetja naslovil po tem, ko je zaradi bojazni, da bi tehnologija lahko ušla človeškemu nadzoru, odstopil raziskovalec pri podjetju Anthropic, drugi raziskovalec pri istem podjetju pa je izjavil, da "resnično in iskreno verjamemo, da bi umetna inteligenca lahko pokončala vse ljudi". Ob tem je ocenil, da je verjetnost za to v naslednjem desetletju večja od 10 odstotkov.

"Trenutna tekma za razvoj vse zmogljivejše umetne inteligence pomeni prelomnico, ki povečuje eksistencialna tveganja za vse vidike našega življenja."

Ob teh odzivih je izvršni direktor Anthropica Dario Amodei podjetja na področju umetne inteligence v soboto pozval k "nadzorovanemu tempu razvoja" oz. k usklajenemu upočasnjevanju razvoja tehnologije. Pri tem sta ga javno podprla glavna tekmeca Elon Musk (xAI) in Sam Altman (OpenAI).

"V današnjem svetu smo skoraj povsem odvisni od majhnega števila vplivnih podjetij, da bodo sprejela prave odločitve o razvoju umetne inteligence v dobro vsega človeštva," je izpostavil Türk. Kot je zapisal, države in podjetja poziva k nujnemu ukrepanju prek multilateralnih forumov, da bi začrtali pot za upravljanje naprednih modelov umetne inteligence na podlagi mednarodnega prava o človekovih pravicah.

TadYQhst7js