»Haluciniranje je trenutno ena ključnih težav pri umetni inteligenci«

KOMENTAR DNEVA

"Haluciniranje je trenutno ena ključnih težav pri delovanju klepetalnikov, kot je ChatGPT. Ti modeli so oblikovani tako, da želijo vedno dati uporabniku odgovor, tudi če za to nimajo dovolj jasnih podatkov. Vzrok za ta pojav leži v tem, da ti sistemi ne razumejo informacij v klasičnem smislu, ampak predvsem analizirajo statistične vzorce besedila, s katerimi so bili naučeni. Če določene informacije nimajo dovolj jasno zastopane ali pa če je vprašanje preveč specifično, lahko model zelo samozavestno ponudi napačno razlago."

"Ena od rešitev, ki jo raziskovalci trenutno preizkušajo, je integracija klepetalnikov z zanesljivimi zunanjimi bazami podatkov ali preverljivimi viri informacij. Tako najnaprednejši plačljivi model ChatGPT o3-pro recimo dalj časa brska po spletu, da najde vire in potem na podlagi teh ponudi odgovor. Menim, da bo reševanje te težave bistveno za nadaljnji razvoj in širšo uporabo umetne inteligence, saj brez zaupanja javnosti v točnost in verodostojnost informacij ne moremo pričakovati, da bo tehnologija resnično koristila družbi."

(Jure Leskovec, profesor na Univerzi Stanford in solastnik uspešnega tehnološkega podjetja Kumo, o t. i. haluciniranju. Klepatalniki, ki jih poganja umetna inteligenca, namreč želijo na vsak način ponuditi odgovor na vprašanje, tudi če ne dobijo vseh podatkov, zato lahko navajajo tudi popolnoma napačne informacije; v intervjuju za MMC RTV Slovenija)