Čas branja: 6 minut

Veliki jezikovni modeli Od manjših netočnosti do napačnih informacij

Že nekaj časa je tudi v slovenski različici najbolj priljubljenega spletnega iskalnika Google na voljo iskanje z uporabo umetne inteligence. Podobno uporabniško izkušnjo ponujajo tudi druga orodja umetne inteligence, ki so slovenskim uporabnikom spleta že dobro poznana. Ta orodja vedno pogosteje postajajo alternativa klasičnim medijem, saj uporabnikom omogočajo hiter dostop do informacij in spremljanje aktualnega dogajanja. Raziskava, ki sta jo izvedla European Broadcasting Union in britanski javni servis BBC v sodelovanju z 22 javnimi mediji iz 18 držav, medtem opozarja, da so informacije, ki jih posredujejo sistemi umetne inteligence, še vedno pogosto nezanesljive.

Foto: Freepik

Orodja umetne inteligence (še) niso kredibilen vir informacij

Raziskava kaže, da odgovori, ki jih uporabnikom posredujejo orodja umetne inteligence, še vedno pogosto vsebujejo netočnosti in pomanjkljivosti.

Medtem ko:

- 45 % odgovorov vsebuje vsaj eno pomembno netočnost, ki lahko uporabnika bistveno zavede,

- 81 % odgovorov vsebuje manjše netočnosti, ki sicer praviloma ne vplivajo bistveno na razumevanje informacij,

- 31 % odgovorov pa vire informacij navaja napačno ali nepopolno.

Primer #1: zastarele informacije

Med najpogostejšimi težavami odgovorov orodij umetne inteligence so raziskovalci izpostavili zastarele informacije. Na vprašanje »Kdo je papež?« je ChatGPT v švedščini maja 2025 odgovoril, da je papež Frančišek še vedno voditelj Rimskokatoliške cerkve, čeprav je ta aprila 2025 umrl, nasledil pa ga je papež Leon XIV.

Podobno napako sta naredila tudi Gemini in Copilot v nizozemskem jeziku. Oba sta sicer navedla datum smrti papeža Frančiška, a ga kljub temu še vedno označila kot aktualnega papeža.

Tudi pri političnih temah so orodja pogosto podajala zastarele informacije. ChatGPT je v nemščini Olafa Scholza označil za nemškega kanclerja, Jensa Stoltenberga pa za generalnega sekretarja zveze NATO, čeprav v času raziskave nobeden od njiju ni več opravljal teh funkcij.

Podobno je Copilot v portugalščini na vprašanje o zmagovalcu parlamentarnih volitev na Portugalskem podal rezultate volitev iz leta 2024 namesto aktualnih volitev, ki so potekale maja 2025 – le mesec pred postavljenim vprašanjem.

Foto: Freepik

Primer #2: napačne in zavajajoče informacije

Orodja umetne inteligence pogosto podajajo tudi napačne ali zavajajoče informacije. Perplexity je v odgovoru v češčini navedel, da je nadomestno materinstvo na Češkem zakonsko prepovedano, čeprav področje v resnici ni posebej urejeno – ni niti izrecno prepovedano niti dovoljeno.

Gemini pa je v angleščini napačno predstavil spremembo zakonodaje glede vejpov za enkratno uporabo. Zapisal je, da bi bil nakup vejpov nezakonit, čeprav se je zakon nanašal na prepoved njihove prodaje in dobave.

Najslabše se je odrezal Gemini

Med analiziranimi orodji umetne inteligence se je najslabše odrezal Gemini, pri katerem so raziskovalci pomembne težave zaznali v kar 76 % odgovorov. To je skoraj dvakrat več kot pri preostalih treh orodjih. Najpogostejša težava je bila nenatančno ali povsem odsotno navajanje virov, pogosto pa je to orodje tudi napačno ali izkrivljeno povzemalo novice iz javno dostopnih virov.

Vsevedna umetna inteligenca

Foto: Freepik

Orodja umetne inteligence tudi zelo redko zavrnejo odgovor ali priznajo, da ne poznajo odgovora. To se je v raziskavi zgodilo le v 17 od 3.113 primerov. V preostalih primerih so kljub pomanjkanju zanesljivih informacij orodja podala napačne, zavajajoče ali nepreverjene odgovore.

Vpliv umetne inteligence na prihodnost javnih medijev

Avtorji raziskave ugotavljajo, da so težave orodij umetne inteligence pri posredovanju novic večinoma sistemske narave. V primerjavi z BBC-jevo raziskavo iz februarja 2025 so zaznali le manjše izboljšave pri posameznih merilih, medtem ko ostaja raven napak še vedno zaskrbljujoče visoka. Zato orodja umetne inteligence še ne morejo veljati za zanesljiv vir novic.

Posebej problematične so:

- pomanjkljiva natančnost,

- neustrezno umeščanje informacij v kontekst ter

- izkrivljanje vsebin, ki jih pripravljajo mediji.

Gre za ključna merila uredniškega dela, ki so bistvena za ohranjanje kakovosti novinarskih vsebin. Orodja umetne inteligence namreč pogosto spreminjajo ali napačno povzemajo novice javnih in drugih medijev, s čimer lahko spodkopavajo zaupanje občinstva ter slabijo verodostojnost in integriteto medijskega prostora.

Raziskovalci opozarjajo, da se umetna inteligenca hitro razvija, zato je verjetno, da so se jezikovni modeli v času od raziskave že delno izboljšali. Kljub temu ostaja odprto vprašanje, kdaj bodo sistemi dosegli raven zanesljivosti, ki bo primerna za informiranje o novicah – in kako bodo te spremembe vplivale na vlogo javnih medijev v prihodnje.

»Dejstva noter : dejstva ven«

Foto: EBU

Gre za kampanjo, s katero EBU poziva tehnološka podjetja, ki razvijajo orodja umetne inteligence, naj preprečijo izkrivljanje informacij, povzetih iz javno dostopnih novinarskih virov.

V okviru kampanje so oblikovali pet načel odgovorne rabe umetne inteligence:

1. uporaba novinarskih vsebin le z dovoljenjem avtorjev oziroma založnikov,

2. pošteno priznanje vira in ustrezno nadomestilo za uporabo vsebin, kadar te ustvarjajo koristi za tretje osebe,

3. jasno navajanje virov, na katerih temeljijo odgovori umetne inteligence,

4. vključevanje raznolikih, verodostojnih in uravnoteženih medijskih virov,

5. tesnejše sodelovanje med tehnološkimi podjetji in mediji pri oblikovanju standardov natančnosti, preglednosti in odgovornosti.

Cilj kampanje je ohraniti zaupanje v profesionalno novinarstvo tudi v dobi umetne inteligence ter zagotoviti, da sistemi umetne inteligence odgovore oblikujejo na podlagi preverjenih in kredibilnih informacijskih virov.

Osrednje sporočilo kampanje ostaja jasno: umetna inteligenca ne more nadomestiti novinarstva. Razprava o tem, ali bodo novinarske vsebine postale zgolj vhodni podatek za klepetalne robote, pa se s tem pravzaprav šele dobro začenja.