Umetna inteligenca in kibernetski napadi

Severnokorejska hekerska skupina je razvila orodja umetne inteligence, ki bi lahko pomagala avtomatizirati kibernetske napade, je danes opozorilo južnokorejsko podjetje za kibernetsko varnost Genians. Skupina, povezana z režimom v Pjongjangu, naj bi med drugim uporabljala z umetno inteligenco ustvarjene dokumente za kampanje lažnega predstavljanja.

Po podatkih podjetja Genians je skupina Kimsuky, ki naj bi bila povezana s severnokorejskimi obveščevalnimi službami, razvila orodja, ki temeljijo na obsežnih jezikovnih modelih, in zasnovala programsko opremo, ki bi lahko pomagala avtomatizirati kibernetske napade, analizirati ukradene podatke in ustvariti prepričljive kampanje lažnega predstavljanja oz. spletnega ribarjenja (angleško phishing).

Podjetje je tudi našlo dokaze, da je Kimsuky oblikoval lokalni jezikovni model in okolje za uporabo generativne umetne inteligence v celotnem procesu napada, skupaj s tehnologijo iskanja dokumentov, znano kot generiranje razširjenega iskanja (RAG).

Orodja omogočajo operaterjem obdelavo dokumentov brez pošiljanja občutljivih informacij zunanjim storitvam umetne inteligence, so pojasnili pri Geniansu. Podjetje je našlo tudi programsko opremo za pretvorbo govora v besedilo in orodje za kodiranje s pomočjo umetne inteligence, poroča španska tiskovna agencija EFE.

Genians ugotavlja tudi, da Kimsuky ne uporablja več generativne umetne inteligence le za ustvarjanje vab za lažno predstavljanje, temveč razvija zmogljivosti za integracijo obstoječih modelov umetne inteligence v razvoj zlonamerne programske opreme, analizo podatkov in avtomatizacijo napadov.

Kot še navaja južnokorejsko podjetje, so našli lažne finančne dokumente in dokumente o kriptovalutah, ki so bili očitno ustvarjeni s pomočjo umetne inteligence. Gradiva so zasnovana tako, da spominjajo na pristna investicijska poročila in druge poslovne dokumente.

Severna Koreja že leta uporablja z državo povezane kibernetske enote za vohunjenje, finančno krajo in ustvarjanje prihodkov, so opozorili ameriški in južnokorejski organi ter strokovnjaki za kibernetsko varnost. Ameriško finančno ministrstvo je leta 2023 uvedlo sankcije proti Kimsukyju in ga označilo za skupino za kibernetsko vohunjenje pod nadzorom severnokorejske vlade, ki zbira obveščevalne podatke za doseganje strateških ciljev Pjongjanga.