»Upočasniti moramo tempo«

Direktor podjetja OpenAI Sam Altman in ustanovitelj xAI Elon Musk sta v soboto podprla poziv direktorja podjetja Anthropic Daria Amodeija k upočasnitvi razvoja umetne inteligence. V zadnjem času se vse bolj krepijo tovrstna svarila in pozivi k bolj nadzorovanemu in odgovornemu razvoju teh tehnologij, ki bi lahko ušle izpod človeškega nadzora.

"Upočasniti moramo tempo, s katerim izboljšujemo zmogljivosti modelov umetne inteligence," je Amodei v soboto zapisal v objavi na svoji spletni strani.

Kot je opozoril, se je razvoj umetne inteligence v zadnjih mesecih drastično pospešil, modeli umetne inteligence pa so postali sposobni samostojnega izboljševanja. "Če tega ne bomo nadzorovali, bi lahko razvoj prehitel našo sposobnost razumevanja in nadzora teh sistemov," je dodal.

Elon Musk in Sam Altman, ki vodita dve izmed največjih podjetij na področju umetne inteligence, sta se strinjala z njegovo oceno.

"Če tega ne bomo nadzorovali, bi lahko razvoj prehitel našo sposobnost razumevanja in nadzora teh sistemov."

"Dario ima prav," je ob deljenju Amodeijevega zapisa na omrežju X sporočil Musk. Altman je prav tako sporočil, da se strinja z direktorjem podjetja Anthropic, in dodal, da bi lahko OpenAI prav tako dopustil zunanji nadzor nad varnostjo tehnologije, ki jo razvija.

Amodei je svoje sporočilo objavil le nekaj dni po tem, ko je raziskovalec pri podjetju Anthropic Jacob Coxon napovedal odhod iz kalifornijskega zagonskega podjetja in ga obtožil podcenjevanja eksistencialnega tveganja, ki ga umetna inteligenca predstavlja za človeštvo.

Coxon je v sredo opozoril, da vodilni razvijalci umetne inteligence ravnajo neodgovorno in se igrajo s človeškimi življenji. "Če ne bomo upočasnili sedanjega tempa napredka, menim, da obstaja velika verjetnost, da bomo v bližnji prihodnosti vsi umrli," pa je dejal v današnjem pogovoru za britanski BBC.

"Če ne bomo upočasnili sedanjega tempa napredka, menim, da obstaja velika verjetnost, da bomo v bližnji prihodnosti vsi umrli."

Altman je ob tem v petkovem intervjuju za revijo Fortune razkril, da namerava OpenAI načrtovan vstop na borzo preložiti vsaj do leta 2027. "Glede na vse, kar se dogaja na področju varnosti, bi bil zdaj neprimeren trenutek za vstop na borzo, v zvezi s tem ne čutimo pritiska," je dejal.

Tako OpenAI kot Anthropic, ki sta vredna več sto milijard dolarjev, sta letos junija vložila vlogi za prvo javno ponudbo delnic.

Upravičeni pomisleki glede varnosti

Ameriško in svetovno javnost je nato julija pretreslo razkritje kibernetskega incidenta, v katerem so agenti umetne inteligence OpenAI na lastno pest vdrli v platformo Hugging Face.

Sledilo je več podobnih razkritij, kar je sprožilo pomisleke glede varnosti, svarila in pozive k upočasnitvi razvoja naprednih modelov umetne inteligence.

Več kot tisoč zaposlenih v tehnološki industriji, tudi iz podjetij OpenAI in Anthropic, je podpisalo peticijo, s katero so pozvali ameriško vlado, naj podpre usklajeno upočasnitev razvoja umetne inteligence.

"Teoretične skrbi glede umetne inteligence, ki se iztrga izpod človeškega nadzora, krožijo že desetletja, vendar nedavni dogodki kažejo, da je ta nevarnost resnična," je v petkovi kolumni za New York Times zapisal raziskovalni novinar Stephen Witt.

"Obstoj (Amodeijevega) pisma je prav tako presenetljiv kot sami hekerski napadi. (...) OpenAI in Anthropic beležita izjemne poslovne rezultate in hkrati pravzaprav prosita ameriško vlado, naj njuno delovanje čim prej uredi z zakonskimi predpisi. Česa podobnega še nismo videli," je dodal.

"Teoretične skrbi glede umetne inteligence, ki se iztrga izpod človeškega nadzora, krožijo že desetletja, vendar nedavni dogodki kažejo, da je ta nevarnost resnična."

Svarilo glede odgovornega razvoja umetne inteligence je nedavno izrazil tudi nekdanji predsednik ZDA Barack Obama, danes poroča New York Times.

"To je področje, ki se v zasebnem sektorju razvija zelo hitro, in če ga ne bomo obvladali, menim, da lahko postane nevarno. Če pa ga bomo obvladali, bo lahko zelo koristno."

"To je področje, ki se v zasebnem sektorju razvija zelo hitro, in če ga ne bomo obvladali, menim, da lahko postane nevarno. Če pa ga bomo obvladali, bo lahko zelo koristno,"

Predlagal je, naj demokratski kandidati pred predsedniškimi volitvami v ZDA, ki bodo potekale leta 2028, uvrstijo umetno inteligenco med osrednje prednostne naloge in "pripravijo zelo jasen načrt" za odzivanje na varnostne in gospodarske pomisleke v zvezi s to tehnologijo.

hpSU77LE5BQ

79l9u2T-1lo