Umaknili najzmogljivejše modele umetne inteligence

Ameriško podjetje Anthropic je v petek nepričakovano ustavilo dostop do svojih najnovejših modelov umetne inteligence Claude Mythos 5 in Claude Fable 5, le nekaj dni po njuni predstavitvi. Podjetje je sporočilo, da je ukrep posledica odločitve ameriške vlade, ki je zaradi varnostnih pomislekov odredila omejitev uporabe modelov za tuje državljane.

Omejitev dostopa za vse tuje državljane

Le tri dni po javni predstavitvi modela Fable 5 je podjetje na svoji spletni strani zapisalo, da mu je ameriška administracija pod vodstvom predsednika Donalda Trumpa odredila omejitev dostopa do obeh modelov za vse tuje državljane, tudi za tiste, ki so zaposleni pri Anthropicu, poroča francoska tiskovna agencija AFP.

"Posledica te odločitve je, da moramo za zagotovitev skladnosti nemudoma onemogočiti Fable 5 in Mythos 5 za vse naše stranke," je sporočilo podjetje.

Po navedbah Anthropica so ameriški nacionalni varnostni organi izpostavili vprašanje nacionalne varnosti. Čeprav vlada ni posredovala posebnih podrobnosti o svojih pomislekih, v podjetju menijo, da se je vlada seznanila s tako imenovano metodo za obhod oziroma "jailbreak". Gre za postopek, s katerim je mogoče zaobiti programske varnostne omejitve modela.

Za kakšne modele umetne inteligence gre?

Fable 5, ki so ga predstavili v začetku prejšnjega tedna, je omejena različica modela Mythos 5, najsodobnejšega modela umetne inteligence, ki ga je podjetje Anthropic zadržalo pred javnostjo zaradi zaskrbljenosti, da ima izjemne zmožnosti za odkrivanje ranljivosti programske opreme oziroma varnostnih lukenj v kodi, kar bi lahko izkoristili hekerji. Mythos 5 je bil zato na voljo le izbranim podjetjem.

Ob izdaji nove različice Claude Fable 5, ki so jo prejšnji teden omogočili za širšo javnost, pa so zagotovili, da ta vsebuje varovalke za preprečevanje zlorabe na področjih, kot je kibernetska varnost.

Pri Anthropicu poudarjajo, da so podrobno preučili domnevni način obhoda varnostnih zaščit ter morebitne zlorabe, ki bi jih ta lahko omogočal. Menijo, da model Fable 5 ne ponuja zmogljivosti, ki jih hekerji ne bi mogli doseči že z drugimi javno dostopnimi modeli umetne inteligence.

"Ne strinjamo se, da bi odkritje omejenega potencialnega načina za obhod varnostnih zaščit upravičevalo umik komercialnega modela," so sporočili iz Anthropica.

"Ne strinjamo se, da bi odkritje omejenega potencialnega načina za obhod varnostnih zaščit upravičevalo umik komercialnega modela."

Po njihovem mnenju bi takšen pristop lahko imel daljnosežne posledice za celotno panogo umetne inteligence. "Če bi enaka merila veljala za vse ponudnike, bi to v praksi skoraj povsem ustavilo uvajanje novih generacij najnaprednejših modelov," so opozorili.

Kaj pravi Evropska unija?

Evropska unija, ki je po večtedenskih pogajanjih v začetku junija pridobila dostop do modela Mythos, je ocenila, da dogajanje še dodatno potrjuje potrebo Evrope po večji tehnološki suverenosti.

"Če bi enaka merila veljala za vse ponudnike, bi to v praksi skoraj povsem ustavilo uvajanje novih generacij najnaprednejših modelov."

"Seznanjeni smo z izjavo podjetja Anthropic in jo preučujemo," je dejal Thomas Regnier, tiskovni predstavnik Evropske komisije, ki je ta mesec predstavila ukrepe za krepitev evropske tehnološke neodvisnosti ter zmanjšanje odvisnosti od ZDA in Azije na področju ključnih tehnologij, vključno z umetno inteligenco.

Anthropic je sicer že dlje časa v sporu s Trumpovo administracijo zaradi nasprotovanja uporabi svoje tehnologije za množični nadzor in avtonomne oborožitvene sisteme. Zaradi nesoglasij je Pentagon s podjetjem prekinil več pogodb o sodelovanju.