Opozorilo glede umetne inteligence
Kmalu bodo na voljo računalniški sistemi, katerih zmogljivosti bodo presegle človeške, opozarja zdaj že nekdanji raziskovalec pri ameriškem podjetju za umetno inteligenco Anthropic. Ob tem je dejal, da se vodilni razvijalci umetne inteligence igrajo s človeškimi življenji.
Umetna inteligenca kot jo vidi Mladinin ilustrator Tomaž Lavrič
© Tomaž Lavrič
Raziskovalec pri ameriškem podjetju za umetno inteligenco Anthropic se je odločil zapustiti podjetje, pri čemer je dejal, da vodilni razvijalci umetne inteligence ravnajo neodgovorno in se igrajo s človeškimi življenji. V torkovi objavi je še opozoril, da bodo kmalu na voljo računalniški sistemi, katerih zmogljivosti bodo presegle človeške.
Jacob Coxon, britanski raziskovalec, specializiran za učenje modelov umetne inteligence, je v torek sporočil, da zapušča Anthropic, ki stoji za modeli umetne inteligence Claude. Pri tem je umetno inteligenco označil za preveč nevarno, Anthropicu in njegovemu konkurentu OpenAI pa očital, da delujeta neodgovorno in se "igrata z našimi življenji".
Krasni novi svet
Kot je zapisal na družbenem omrežju X, bodo kmalu obstajali računalniškimi sistemi z zmogljivostmi, ki presegajo človeške. Umetna inteligenca bi nato lahko "vdrla v karkoli" in imela možnost "pridobiti resnično moč in vire".
"Ljudje, ki razvijajo umetno inteligenco, resno verjamejo, da bi nas lahko do konca desetletja vse ubila," je opozoril Coxon.
"Ljudje, ki razvijajo umetno inteligenco, resno verjamejo, da bi nas lahko do konca desetletja vse ubila."
27-letni Britanec je za časnik The Wall Street Journal tudi povedal, da bi lahko v "najbolj agresivnih scenarijih" stvari že do konca prihodnjega leta ušle izpod nadzora. Kot glavno nevarnost vidi to, da se je umetna inteligenca sposobna sama razvijati, zaradi česar jo je težje nadzorovati.
Raziskovalec pri Anthropicu Evan Hubinger, čigar vloga je zagotoviti, da umetna inteligenca ostane usklajena s človeškimi interesi, je potrdil Coxonove pomisleke. Osebno verjame, da obstaja več kot desetodstotna verjetnost, da bo umetna inteligenca v prihodnjem desetletju ubila človeštvo, kot poroča nemška tiskovna agencija dpa.
Nihče ni pripravljen na hiter napredek
Po poročanju Wall Street Journala je Coxon eden prvih zaposlenih v Anthropicu, ki je podjetje zapustil zaradi pomislekov glede tveganj, povezanih z umetno inteligenco. V zadnjih letih je sicer več drugih zaposlenih zapustilo OpenAI in druga podjetja iz podobnih razlogov.
Vodja raziskav pri OpenAI Jakub Pachocki, čigar podjetje je razvijalec klepetalnega robota ChatGPT in največji tekmec Anthropica, je nedavno prav tako pozval k "izjemni previdnosti". V objavi na blogu je zapisal, da ga skrbi, da nihče ni pripravljen na hiter napredek zmogljivosti umetne inteligence. Dejal je še, da smo dosegli trenutek v zgodovini, ko strojna inteligenca začenja prehitevati človeško.