ChatGPT poneumlja

Tega, da so sistemi generativne umetne inteligence in veliki jezikovni modeli, kakršen je ChatGPT, izjemno prikladna orodja, ne moremo zanikati. Uporabnike lahko odrešijo različnih suhoparnih opravil, izboljšajo njihovo produktivnost in jim prihranijo nekaj časa, a v tem se skriva tudi past: sprva človek klepetalnemu robotu ChatGPT prepusti kako preprosto opravilo, potem še eno in še eno, dokler nehote ne pride do točke, ko stroj razmišlja namesto njega. Raba umetne inteligence postane udobna navada, ki izhaja iz lenobe in lenobo tudi podpira. Ko na primer ChatGPT postane podaljšek uporabnikovega uma, se uporabnik hitro prelevi v pasivnega sprejemnika odgovorov in njegove kognitivne sposobnosti, od spomina prek kritičnega mišljenja do reševanja problemov, začnejo postopoma krneti. Številne dvomljivce zato skrbi, da bi lahko pretirano zanašanje na tovrstna orodja sčasoma vodilo v uporabnikovo kognitivno nazadovanje, saj pasivizira in avtomatizira miselne procese. Te skrbi so nedavno še dodatno okrepili izsledki raziskave ameriških raziskovalcev, ki namigujejo, da ChatGPT zveste uporabnike množično poneumlja.

Moštvo raziskovalcev z bostonskih univerz MIT in MassArt ter s kolidža Wellesley je prejšnji teden objavilo skrb zbujajoče izsledke raziskave Vaši možgani in ChatGPT: Kopičenje kognitivnega dolga pri pisanju esejev z rabo umetne inteligence. Osredotočili so se na področje, ki ga je ChatGPT med prvimi zares radikalno zaznamoval: pisanje šolskih esejev. Ti so takoj po tem, ko je ChatGPT šele dodobra stopil na trg, začeli množično nastajati z rabo tega orodja, pri čemer umetna inteligenca pogosto ni opravljala zgolj vloge pomočnika, temveč predvsem vlogo stroja za težko izsledljivo, visokotehnološko plagiatorstvo – orodja za esejistiko po postopku »kopiraj in prilepi«. Kot je takrat v razvpitem »nekrologu« Šolski esej je mrtev, objavljenem v časniku The Atlantic, ugotavljal kanadski pisatelj in esejist Stephen Marche, je »esej že več generacij osrednji steber humanistične pedagogike. Z njim mlade učimo, kako raziskovati, razmišljati in pisati. ChatGPT je to tradicijo pretresel do temeljev.«

Avtorji raziskave o »kopičenju kognitivnega dolga« so želeli ugotoviti, kakšen je dolgoročni vpliv umetne inteligence na miselne sposobnosti tistih, ki jo uporabljajo kot oporo pri pisanju. Tri skupine študentov, starih od 18 do 39 let, so dobile isto nalogo: napisati množico esejev SAT (Scholastic Assessment Test, kar je v Združenih državah Amerike standardizirani preizkus pri sprejemanju študentov na univerze – za lažjo predstavo ga lahko primerjamo z našim maturitetnim esejem). Prva skupina je esej pisala ob pomoči ChatGPT, druga je smela brskati po spletu z Googlovim brskalnikom, člani tretje skupine pa so se lahko zanesli zgolj nase – na svoj spomin, znanje in ustvarjalnost. Raziskava je trajala več mesecev, sposobnost kritičnega mišljenja pa je menda pri uporabnikih ChatGPT z vsako fazo eksperimenta čedalje bolj nazadovala. Pri pisanju so postajali vse bolj pasivni: z vsakim novim esejem so vedno bolj delovali po postopku »kopiraj in prilepi«, razmišljanje so bolj in bolj prepuščali stroju, v intervjujih se niso mogli spomniti vsebine esejev, ki so jih napisali malo prej, odločno slabša besedila pa so napisali tudi v sklepnem delu poskusa, ko se niso več smeli zanašati na pomoč umetne inteligence.

Udeleženci poskusa, ki so se pri pisanju zanašali na ChatGPT, so dosledno dosegali slabše rezultate na nevrološki, jezikovni in vedenjski ravni.

Raziskovalci ugotovitev niso črpali zgolj iz primerjalne analize esejev, ki so nastali med raziskavo, temveč so s sodelujočimi opravljali tudi poglobljene intervjuje. Obenem so merili možgansko aktivnost udeležencev, in sicer s »čeladami« za elektroencefalografijo (EEG), torej z napravami za merjenje možganske električne aktivnosti z elektrodami na površini glave. Izsledki raziskave so okrepili vsesplošno skrb, da bi lahko pasivno in avtomatizirano pisanje potencialno vodilo v kognitivno nazadovanje celotnih generacij učečih se, ki so bili v času šolanja zgolj pasivni prejemniki informacij, namesto da bi razvijali veščine aktivnega reševanja problemov. Tistim udeležencem, ki so se zanašali na ChatGPT, se je pri pisanju v možganih ustvarjalo znatno manj povezav kot tistim, ki so razmišljali s svojo glavo: kakor so zapisali raziskovalci, so »dosledno dosegali slabše rezultate na nevrološki, jezikovni in vedenjski ravni«, podatki, pridobljeni z meritvijo EEG, pa so pri njih kazali najmanjšo možgansko aktivnost med udeleženci raziskave iz vseh treh skupin.

Pri poskusu je sodelovalo zgolj 54 udeležencev, kar seveda ni reprezentativen vzorec, prav tako izsledkov raziskave niso recenzirali strokovnjaki, zato za zdaj še ni povsem legitimna. Nosilka projekta dr. Nataliya Kos’myna to zagovarja s trditvijo, da z objavo preprosto ni mogla odlašati. Strokovna recenzija traja vsaj pol leta, njej pa se je zdelo nujno, da izsledke čim prej predstavi javnosti, saj jo skrbi, da kot družba zaradi čedalje večjega zanašanja na velike jezikovne modele nehote žrtvujemo dolgoročni razvoj možganov, predvsem možganov odraščajoče mladeži. »Če bomo čakali predolgo, bodo ChatGPT začeli uvajati že v vrtce,« pravi. Raziskovalka poudarja, da je raba jezikovnih modelov še posebej tvegana pri mladih, ki po njih posegajo v času šolanja. »Najbolj ogroženi so možgani v razvoju,« je povedala za revijo Time. In dodala: »Ozaveščanje o tem, da se mora naš um razvijati tudi na bolj analogne načine, je izredno pomembno.« Če mlad človek že zgodaj začne umetni inteligenci rutinsko prepuščati različne miselne procese, zahtevne ali preproste, obstaja nevarnost, da nekaterih kognitivnih veščin preprosto nikoli v celoti ne razvije. Kot bi mladostniku pri učenju hoje stalno podajali roko – hitreje pride do cilja, a se nikoli zares ne nauči hoditi sam.

Kos’myna je dosegla namen: izsledki raziskave so se te dni po vseh mogočih kotičkih medmrežja razširili kot požar, pri čemer je precej ironično, da so jih številni novinarji povzemali z rabo umetne inteligence – v študijo so podtaknjene domiselne pasti, ki so to razkrinkale. A mnenja o tej raziskavi so izrazito nasprotujoča si: številni zagovorniki umetne inteligence dvomijo o ustreznosti izsledkov, pa ne le zato, ker je bil vzorec udeležencev tako majhen, in tudi ne zato, ker izsledki še niso bili recenzirani. Pronicljivi kolumnist Tyler Cowen je za Free Press denimo zapisal, da so sklepi raziskave enostranski in zavajajoči, saj se je osredotočila zgolj na negativne vidike rabe umetne inteligence, pri tem pa je povsem spregledala morebitne koristi. »Če umetna inteligenca ljudem prihrani uro ali dve težavnega miselnega dela med delovnikom, je to za večino verjetno blagoslov, ne pa prekletstvo,« pravi Cowen. V nadaljevanju pa: »Pravo vprašanje, s katerim se raziskava ni ukvarjala, je, ali so udeleženci s prihranjenim časom naredili kaj bolj smiselnega. Seveda obstaja legitimna skrb, da bodo nekateri posamezniki prihranjeni čas raje zapravili, kot pa vložili v učenje, toda to je tveganje, kakršno spremlja vse tehnologije, ki prihranijo čas, tudi denimo kalkulatorje. Namesto da bi tovrstne tehnologije zavirali ali demonizirali, bi si morali prizadevati za izboljšanje izobraževalnih postopkov.«

Pasivno in avtomatizirano pisanje bi lahko vodilo v kognitivno nazadovanje celotnih generacij učečih se, ki so bili v času šolanja zgolj pasivni prejemniki informacij.

Skratka, dvomljivci, nezaupljivi do izsledkov raziskave, med katere spada Cowen, sicer priznavajo, da lahko umetna inteligenca zmanjša takojšnjo kognitivno obremenitev, a poudarjajo, da to ni nujno poneumljanje. Tudi meritve naprav EEG bi morali jemati z zadržkom, saj te naprave ne merijo kakovosti mišljenja. A delo raziskovalcev z MIT, ki je dvignilo toliko prahu, pravzaprav ni osamljen primer tovrstne raziskave. Čeprav gre še za precej neraziskano področje – konec koncev je ChatGPT med nami le dobri dve leti in pol – ima raziskava Vaši možgani in ChatGPT kar nekaj sestrskih raziskav, katerih ugotovitve so podobne. Moštvo vedenjskih psihologov s Harvarda je denimo maja objavilo izsledke raziskave, ki kažejo, da raba generativne umetne inteligence na delovnem mestu znatno povečuje učinkovitost, a sočasno zmanjšuje notranjo motivacijo zaposlenih. Hkrati je pod prsti Microsoftovih raziskovalcev nastala študija Vpliv generativne umetne inteligence na kritično mišljenje, v kateri avtorji ugotavljajo, da »mehanizacija rutinskih nalog človeka prikrajša za krepitev kognitivnih sposobnosti. Ko se nato pojavijo nepredvidene situacije, ki jih mora rešiti samostojno, torej brez pomoči sistemov umetne inteligence, je nanje pogosto nepripravljen.«