V središču / Umetna inteligenca in prevaranti

Spletne prevare so se rodile isti trenutek kot internet. Iz preteklosti poznamo najrazličnejše prevare. Od nigerijskih princev, ki potrebujejo denar, ki ga bodo seveda žrtvi vrnili in bogato poplačali uslugo, do lažnih obvestil o zmagi na loteriji. Metode teh prevar pa so v svetu sodobne tehnologije postale zastarele. Na primer prevara z nigerijskimi princi je stara več kot sto let. Prevaranti so prvotno posameznike poskušali ukaniti s pismi. Obstoj umetne inteligence je celotno industrijo spletnih prevar popolnoma spremenil. Ker je zdaj spletne prevare lažje vzpostaviti, jih je vedno več. NLB je celo začel svojim uporabnikom pošiljati SMS-sporočila, v katerih med drugim zapisuje: »V zadnjih dneh se pojavljajo lažna sporočila, ki jih v imenu NLB pošiljajo spletni goljufi. /…/ Teh sporočil ne pošiljamo mi. Na povezavo nikakor ne klikajte.« Podobna sporočila so uporabnikom začele pošiljati tudi Pošta Slovenije in druge banke. Je torej stanje postalo še resnejše, da se z njim ukvarjajo v velikih družbah?

Znan primer nove vrste spletnih prevar, ki jih je omogočil obstoj umetne inteligence, so lažna medmrežna ljubezenska razmerja. Na straneh, kjer osamljeni iščejo ljubezen, je vedno več lažnih profilov, ustvarjenih z umetno inteligenco. Ti profili z ljudmi načnejo pogovor in čez čas zgradijo prijateljski ali romantični odnos. Zaradi geografske oddaljenosti se žrtev s sogovornikom seveda ne more srečati. Žrtve ne podvomijo o obstoju sogovornika, saj jih ti zasipajo s slikami in videi, ki pa so seveda lažni. Tehnologija je prišla celo tako daleč, da prevaranti z žrtvami lahko komunicirajo prek videoklicev, v katerih prevzamejo podobo namišljene osebe. Čez čas profil začne svoji žrtvi sporočati, da mu primanjkuje denarja ali pa da bi žrtev rad obiskal, vendar tega finančno ne zmore. Zato mu žrtev pošlje denar, profil pa isti trenutek izgine s spleta.

Umetna inteligenca pa je predvsem zelo olajšala izvedbo tradicionalnih spletnih prevar in jih zakrinkala do skorajšnje neprepoznavnosti. Zadnje čase so se na družbenih omrežjih začeli pojavljati oglasi s povezavami do na prvi pogled popolnoma običajnih člankov medija www.24ur. com. Članki imajo pozornost vzbujajoče naslove, na primer: »Zadnje presenečenje Mance Košir: zakaj je slovenska novinarka svojim dedičem zapustila investicijski sistem namesto milijonov« ter: »’Lažete milijonom Slovencev’: kako je legendarna voditeljica oddaje Odmevi brez milosti kritizirala nekdanjega ministra za finance v živo«.

Spletne strani s temi članki so popolne kopije strani 24ur. S pravo stranjo se ujemajo rubrike na vrhu strani in zraven so napovedi pravih člankov s strani 24ur. Članki so obogateni s slikami, ki jih je ustvarila umetna inteligenca, in lažnimi komentarji pod člankom. Enega komentatorja je domnevni administrator celo opozoril: »Prosimo, izogibajte se žaljivemu jeziku v komentarjih.« Stran ima celo oglase, tv-spored in šalo dneva; popolnoma tako kot je to videti na strani 24ur.

Na porast prevar, ustvarjenih s pomočjo umetne inteligence, opozarja tudi Miloš Gajić iz Nacionalnega odzivnega centra za kibernetsko varnost: »Uporaba umetne inteligence v marsičem spreminja spletne prevare (pa tudi druge oblike kibernetskih napadov). In sicer tako, da prevarantom služi kot učinkovito orodje, da lažje kreirajo vsebino, spletne platforme ter predvsem zabrišejo meje med resničnim in umetnim – tu mislim uporabo tako imenovane deepfake tehnologije oziroma metod. Ravno slednje največkrat opažamo (tudi strahovit razvoj v zadnjih letih), ko v različnih videooglasih, praviloma na družbenih omrežjih, znanim osebam (pri Sloveniji smo tako opazili primere za predsednico Natašo Pirc Musar, poslovneža Iva Boscarola ipd.) prepričljivo spremenijo glas, video oziroma jim podtaknejo neke lažne izjave, češ da spodbujajo in podpirajo (lažne) investicijske platforme.«

Verodostojnost strani pa se zamaje takoj, ko uporabnik poskusi klikniti na kakšno rubriko ali drug članek. Povezave preprosto ne delujejo, saj so le slike na zaslonu, ne pa povezave do drugih vsebin. Kljub temu pa se rubrike in članki zameglijo prav tako kot se na pravi strani 24ur, ko jih preletimo z miško.

Prevarantska spletna stran je popolna kopija strani 24ur. Članki so obogateni s slikami, ki jih je ustvarila umetna inteligenca, in celo lažnimi komentarji.

Pravzaprav je na strani le ena delujoča hiperpovezava. V lažnem članku je predstavljen izmišljen prepir med Andrejem Šircljem, bivšim poslancem SDS in ministrom za finance, Eriko Žnidaršič, voditeljico oddaje Tarča, in Rosvito Pesek, voditeljico oddaje Odmevi. Prerekajo se o slovenskem gospodarstvu in najboljših načinih investiranja. Vsi govorci pa se strinjajo, da je investicijska platforma Carniola Nextris najboljša platforma za investiranje. Tudi drugi lažni članki pridejo do iste ugotovitve. A tu je »rešitev« za bralca: v člankih je povezava na stran Carniole Nextris.

Če žrtev klikne na povezavo, se odpre nova stran, na kateri mora odgovoriti na nekaj vprašanj in potem vnesti svoje ime, priimek, telefonsko številko in naslov e-pošte. Potem jo klik na Potrdi pošlje na že tretjo novo stran, spletno platformo Nummixo, kjer naj bi se trgovalo z delnicami, denarnimi valutami in kriptovalutami. Na spletni strani je zapisano, da se lahko na platformo naloži denar s skoraj katerokoli kreditno ali debetno kartico. Vendar pa se uporabnik ne more sam odločiti, s koliko denarja bo razpolagal, ampak mora izbrati vnaprej določeno količino. Paketi se začnejo pri 3000 evrov in se vzpenjajo do vrtoglavega milijona evrov, ki posamezniku zagotovi VIP-obravnavo. Če si posameznik želi kupiti paket, ga pokliče računovodja, ki mu posameznik potem zaupa svoje bančne podatke – in se za vedno poslovi od svojega trdo prisluženega denarja.

Razen bizarne metode kupovanja paketov in visokih cen paketov prav nič ne izda, da je Nummixo v resnici prevarantska stran. Spletna stran je kakovostno narejena, privlačnega videza, je pa tudi popolnoma nova. Stran naj bi imela naslov na 25 Old Broad Street, London. V tej stavbi pa ni nobenega znaka, da bi tam imelo podjetje Nummixo pisarno. IP-naslov spletne strani vodi do serverja v Romuniji. Nosilec spletne strani Nummixo pa je BLNetworks, za katerega Gajić sklepa tole: »Ponudnika BLNetworks konkretno sicer ne poznamo, vendar bi lahko šlo, glede na podatke, za ponudnika ’bulletproof hostinga’: gre za vrsto gostovanja, ki namerno ignorira prijave zlorab in omogoča delovanje nezakonitih ali škodljivih spletnih strani. To pa s pridom izkoriščajo kibernetski kriminalci za gostovanje zlonamernih vsebin ali prevarantskih strani.«

Kdorkoli je stran ustvaril, pa ima veliko širše cilje kot ukaniti nekaj Slovencev in Slovenk za par tisoč evrov. Podobne lažne članke, kot so bili predstavljeni tu, so zasejali po vsej Evropi. Napisani so v nizozemščini, angleščini, srbščini, hrvaščini, nemščini in še kakšnem jeziku. Na straneh, kjer so objavljeni ti članki, so sicer še drugi članki. Kljub številnim dnevnim objavam pa je avtor navadno le eden.

To so strani, ustvarjene z umetno inteligenco. Članki na vseh straneh si delijo skoraj popolnoma enako obliko s podnaslovi in besedilom, ki so neposreden prevod iz drugih člankov. Obstaja celo YouTubov kanal z dvema recenzijama platforme, eden je v srbščini oziroma hrvaščini, drug pa v nemščini. Oba sta enako dolga, in sicer minuto in 40 sekund.

Ob sumu, da je oglas prevarantski, Meta oglasa ne izbriše, ampak naročniku objave preprosto zaračuna višjo ceno za oglaševanje.

Kako je sploh mogoče, da je dovoljeno oglaševanje spletnih prevar na družbenih omrežjih? Gajić opozarja, da se Meta (krovno podjetje, ki ima v lasti Facebook, Instagram in Whatsapp) zaveda številnih prevar, ki se oglašujejo na njihovih platformah. Agencija Reuters je razkrila Metine interne dokumente iz leta 2024, v katerih je vidno, da podjetje ocenjuje, da je vsak dan na Facebooku, Instagramu in drugod približno 15 milijard prevarantskih oglasov. A Meta je od takih oglasov leta 2024 zaslužila približno sedem milijard evrov, kar je pomenilo več kot 10 odstotkov letnih prihodkov. Meta zelo redko prepove podjetjem oglaševanje na svojih omrežjih. Ob sumu, da je oglas prevarantski, Meta oglasa ne izbriše, ampak naročniku objave preprosto zaračuna višjo ceno za oglaševanje, so ugotovili novinarji Reutersa.

Kot je opozoril Miloš Gajić, je umetna inteligenca povzročila porast spletnih prevar. Hkrati pa so te prevare na videz vedno bolj verodostojne. In velik problem je, da družbena omrežja prevar ne umikajo s svojih platform, saj z njimi ustvarijo velik del prihodka. Najhuje pa je to, da bo te prevare vedno težje prepoznati, še posebej ob hitrosti, s katero se izboljšuje umetna inteligenca. 5