V središču / Hočeš nočeš

Tudi guglanje ni več to, kar je bilo. Spletni velikan nam je predlani vsilil funkcijo AI Overviews, ki ob vsakem iskanem geslu, hočeš nočeš, napiše povzetek, ustvarjen z umetno inteligenco. Strojno ustvarjeni izvlečki, ki so pogosto tako površni kot obnove domačega branja na strani dijaški.net, vselej zasedejo vrh rezultatov iskanja ter uporabnike množično odvračajo od klikanja na povezave do izvornih virov informacij.

Večina uporabnikov se zadovolji s strojnim povzetkom, čeprav ta pogosto črpa iz vprašljivih virov, ki jih nemalokrat tudi napačno interpretira. Po podatkih nedavne raziskave SparkToro se več kot 80 odstotkov vseh iskanj na Googlu konča brez klikov na povezave, s čimer je iskalnik popolnoma spremenil primarno funkcijo: ni več zgolj kurator vsebin in povezav do virov, temveč je sam postal vir. Spletni mediji se zato srečujejo z eksponentnim padcem prometa: nedavna analiza raziskovalne organizacije Pew Research Centra kaže, da uporabniki na povezave do novinarskih prispevkov pod povzetki kliknejo le enkrat na sto iskanj. Strmo upada tudi obisk Wikipedije, enega od zadnjih še stoječih stebrov tega, kar naj bi medmrežje bilo – odprt, skupen in svoboden prostor znanja. Google pri pisanju povzetkov informacije pogosto črpa prav z Wikipedije, s čimer promet preusmerja stran od nje. Kot je pred nedavnim opozorilo vodstvo fundacije Wikimedia, se z zmanjšanjem obiska »zmanjšuje tudi število prostovoljcev, ki prispevajo k pisanju in nadgradnji člankov, ter tudi število donacij, ki Wikipedijo financirajo«. To privede do nerodne situacije, saj posledično upada kakovost virov, na podlagi katerih nastajajo strojni povzetki.

Googlovi povzetki so točni zgolj v 90 odstotkov primerov, kar pomeni, da vsako minuto izpljunejo več sto tisoč laži, vsako uro pa sproducirajo več deset milijonov dezinformacij.

Googlov AI Overviews je torej kot kača, ki grize svoj rep: več povzetkov pomeni manj klikov, manj klikov pomeni šibkejše vire, šibkejši viri pa pomenijo slabše povzetke – in krog je sklenjen.

Mnogi sicer v umetni inteligenci ne prepoznavajo zanesljivega vira informacij, zato je v zadnjih letih naglo naraslo število uporabnikov spleta, ki Googlov brskalnik uporabljajo predvsem za iskanje zapisov na Redita, velikanski bazi tematskih forumov in spletnih skupnosti, kjer anonimni neznanci razglabljajo o vsem živem. Geslu iskanja enostavno dodajo pripono »Reddit«, saj lahko le tako računajo, da bodo neki nasvet, mnenje, priporočilo ali odgovor na vprašanje dobili od nekoga z dejanskimi izkušnjami, ne pa od stroja, ki površne povzetke piše s statističnim predvidevanjem besed. Kako se je na ta trend odzval Google? Odlomke razprav z Reddita je začel intenzivno integrirati v povzetke, ki jih predstavlja kot »izkušnje iz prve roke«. Uporabnika tako odvrne od spletnih razprav in mnenj soljudi, saj ga zadovolji s prikladno bližnjico, ki te vire že vnaprej prefiltrira,

povzame in razvrsti po relevantnosti. V praksi to pomeni, da se tudi tisti del interneta, ki je temeljil na odprti izmenjavi znanja in izkušenj, vse bolj omeji v surovino za algoritmično povzemanje.

Težave pri množičnem slepem zaupanju v Googlove povzetke so večplastne. Glavni problem je vsekakor dejstvo, da je generativna umetna inteligenca (še vedno in verjetno za vselej) nagnjena k haluciniranju – navajanju izmišljotin, ki jih prodaja kot dejstva. Googlov jezikovni model Gemini, ki poganja funkcijo AI Overviews, je pri pisanju povzetkov izredno suveren, njegova samozavest pa znatno presega njegovo zmogljivost. Posledično laže, kot pes teče: vsako uro izpljune več milijonov izmišljotin. Nedavna analiza časnika New York Times je ugotovila, da so Googlovi povzetki pravilni in zanesljivi v 90 odstotkih primerov, kar se na prvi pogled zdi precej impresivno, a ker Google na leto obdela kar pet bilijonov (torej pet milijonov milijonov!) iskanj, to v praksi pomeni, da AI Overviews vsako minuto izvrže več sto tisoč laži, vsako uro pa sproducira več deset milijonov dezinformacij. Zgovorno analogijo je v tvitu ponudil Gary Marcus, profesor psihologije na Univerzi v New Yorku in eden od najbolj pronicljivih skeptikov oziroma kritikov generativne umetne inteligence: »Predstavljajte si, da bi vam vaš avtomobil vsak deseti dan vožnje brez opozorila ušel izpod nadzora. To je stanje komercialne generativne umetne inteligence, ki jo uporabljamo za spletno iskanje.« Celo Sundar Pichai, prvi mož Googla, je v intervjuju za CBS priznal, da je haluciniranje potencialno nerešljiva težava jezikovnih modelov, zato se zdi skorajda absurdno, da jim slepo zaupamo in se nanje zanašamo kot na zanesljive vire.

Googlovi halucinatorni povzetki grejo lahko v nenavadne skrajnosti: nekaterim uporabnikom so svetovali, naj pri pripravi pice v paradižnikovo omako pomešajo lepilo, saj se bo tako sir bolje prijel na testo, drugim so navedli izmišljeno priporočilo geologov, naj za bolj zdravo in uravnoteženo življenje vsak dan pojedo vsaj eno porcijo kamenčkov ali gramoza, saj gre za pomemben vir vitaminov in mineralov. »En kamen na dan odžene zdravnika stran.« Googlova umetna inteligenca je to informacijo dobila iz satiričnega članka na platformi The Onion, saj ni prepoznala, da gre za parodijo. BBC-jev novinar Thomas Germain je prejšnji mesec s šaljivim eksperimentom dokazal, kako enostavno je zmanipulirati Googlovo umetno inteligenco. Z eno samo objavo je povzročil, da ga je Google začel navajati kot svetovnega prvaka v hitrostnem goltanju hrenovk.

Več kot 80 odstotkov vseh iskanj na Googlu se konča brez klikov na povezave, zato iskalnik ni več zgolj kurator vsebin in povezav do virov, temveč je sam postal vir.

pica z lepilom, dnevni odmerek kamenja in izmišljen hitrostni jedec hotdogov so dokaj nedolžne, očitno šaljive dezinformacije – zadeva se zaplete, ko začne Googlova umetna inteligenca ponujati tvegane nasvete s potencialno usodnimi posledicami. Raziskava britanskega časnika Guardian je ugotovila, da Googlovi povzetki pogosto vsebujejo napačne in zavajajoče zdravstvene informacije. Pacientom z rakom trebušne slinavke je denimo svetoval, naj se izogibajo hrani z veliko maščobami, kar je v navzkrižju s priporočili strokovnjakov, saj je pri prenašanju kemoterapije pomemben zadosten vnos kalorij. V drugem skrb zbujajočem primeru je Googlov povzetek podal napačne informacije o boleznih jeter, v tretjem se je uštel pri naštevanju simptomov vrst raka na ženskih spolovilih. Raziskava je opozorila tudi na dejstvo, da so lahko Googlovi povzetki izjemno zavajajoči pri vprašanjih o duševnem zdravju, kar lahko uporabnike odvrne od iskanja profesionalne pomoči. Umetna inteligenca lahko v teh primerih dejansko okrepi izkrivljene vzorce mišljenja, saj jezikovni modeli temeljijo na verjetnostnih vzorcih besedila, ne na razumevanju kliničnih odtenkov duševnih motenj.

Ko Googlova umetna inteligenca halucinira, je nagnjena tudi k obrekovanju. Münchensko knjižno in časopisno založbo Verlagshaus24 je na primer po krivem povezala s spletnimi prevarami in sumljivimi poslovnimi praksami. Primer je pristal na regionalnem bavarskem sodišču, ki je odločilo, da je Google neposredno odgovoren za dezinformacije, ki jih proizvajajo povzetki, ustvarjeni z umetno inteligenco. Sodba je ustvarila pomemben precedens, saj je sodišče Googlove povzetke prepoznalo kot avtorsko vsebino in ne zgolj kot nevtralni prikaz spletnih virov. Google se torej ne more več sklicevati na to, da zgolj posreduje informacije drugih, temveč je odgovoren za napačne ali

zavajajoče trditve svojih sistemov. Pri tem je ključno spoznanje, da Googlova umetna inteligenca ne le povzema, temveč ustvarja »neodvisne, nove in vsebinske trditve, ki se v izvornih rezultatih sploh ne pojavijo«, je zapisano v sodbi.

A morda še bolj kot obrekovanje, navajanje nevarnih medicinskih nasvetov in absurdnih receptov za pico zmoti dejstvo, da nam Google agresivno vsiljuje umetno inteligenco. Uporaba jezikovnih modelov je sicer prostovoljna – nihče nas na primer ne sili k uporabi ChatGPT-ja –, funkcije AI Overviews pa pri guglanju sploh ne moremo izklopiti. Lahko se seveda zatečemo h kakšnemu drugemu, bolj organskemu iskalniku, a ker se je Google že kmalu po nastanku medmrežja vzpostavil kot sinonim za brskanje po spletu, dobršen del uporabnikov niti ne išče alternativ. Kot je v pogovoru za Mladino, ki ga boste kmalu našli v obveznem počitniškem čtivu – posebni poletni številki Mladine s petnajstimi novimi intervjuji, povedal pisatelj in literarni urednik Aljoša Harlamov, »čez dve ali tri leta ne boš mogel več kupiti telefona brez umetne inteligence, pa verjetno niti toasterja ne. To tehnologijo nam preprosto morajo nekako vsiliti, saj se drugače ob grozljivi porabi energije ne more izplačati.«