Čas branja: 5 minut

Spletna tveganja Model generativne umetne inteligence v želji po dobičku in dosegu zanemaril dobrobit uporabnikov

V nekaj dneh se je Grok iz zanimive tehnološke novosti prelevil v resno opozorilo. Orodje generativne umetne inteligence podjetja xAI, tesno povezano z družabnim omrežjem X, se je znašlo pod drobnogledom javnosti, potem ko so uporabniki razkrili, da omogoča ustvarjanje izrazito seksualiziranih podob, vključno z vsebinami, ki vključujejo zlorabe otrok in njihovo slačenje. Takšne vsebine ne odpirajo zgolj etičnih, temveč tudi resna vprašanja zakonitosti in varnosti. Ključni problem Groka ni zgolj obstoj spornih vsebin, temveč način njihovega nastanka, ki kaže na sistemske pomanjkljivosti v zasnovi in nadzoru orodja. Poslovne odločitve ponudnika pri razvoju in uvedbi Groka tako posegajo na področje večine sistemskih tveganj, kot jih opredeljuje Akt o digitalnih storitvah, in znova odpirajo razpravo o odgovornosti ponudnikov generativne umetne inteligence.

^{Foto: Freepik, ustvarjeno z UI}

Kaj je Grok in kako deluje?

Grok ne deluje kot družabno omrežje, na katerem uporabniki objavljajo lastne vsebine, temveč kot sistem umetne inteligence, ki vsebine ustvarja sam, podobno kot drugi generativni UI klepetalniki. Medtem ko Facebook, TikTok in sorodne platforme izvajajo nadzor nad uporabniškimi objavami ter jih po potrebi odstranjujejo, pri generativni umetni inteligenci vsebino izdela algoritem. Uporabnik poda zgolj kratek poziv, končni rezultat pa ustvari sistem, ki ga je zasnoval, razvil in uvedel ponudnik orodja.

Prav v tem se skriva bistvena razlika – in tudi jedro problema. Odgovornost pri generativni umetni inteligenci ni zgolj vprašanje naknadnega moderiranja vsebin, temveč predvsem vprašanje zasnove, nastavitev in delovanja samega sistema. Če ta že v izhodišču omogoča nastajanje nezakonitih ali škodljivih vsebin, odgovornosti ni mogoče preprosto prevaliti na uporabnika, temveč primarno ostaja pri ponudniku tehnologije.

Kazenska odgovornost uporabnika

Ob tem pa se odpira tudi še dodatna razsežnost odgovornosti. Ker se modeli umetne inteligence učijo z obsežnim zajemanjem podatkov s spleta, je legitimno tudi vprašanje odgovornosti vsakega posameznika pri ustvarjanju, shranjevanju in razširjanju nezakonitih vsebin.

Kako je do tega prišlo?

Vse kaže, da so bile pri Groku varovalke za preprečevanje generiranja seksualiziranih vsebin šibke, nedosledne oziroma jih ni bilo. K temu je prispeval tudi tako imenovani način »spicy«, v katerem sistem deluje z bistveno manj strogimi omejitvami in pri katerem so spolno obarvane vsebine izrecno poudarjene.

Posebej problematični so se izkazali primeri, ki vključujejo upodobitve mladoletnih oseb oziroma ustvarjanje podob na podlagi resničnih fotografij ljudi brez njihove vednosti ali soglasja. Primer Grok zato pomeni pomemben premik v razumevanju spletnih tveganj, pa tudi kazenske odgovornosti posameznika.

Sistemsko tveganje zahteva hiter regulatorni odziv

V Evropski uniji primer Grok v zadnjem obdobju odpira pomembna vprašanja o uresničevanju zavez iz Akta o digitalnih storitvah. Evropska komisija je spletni platformi X že naložila obveznost hrambe dokumentacije, povezane z delovanjem Groka, do konca leta 2026, z namenom ocene, ali takšni sistemi predstavljajo sistemsko tveganje za varnost uporabnikov.

V Združenem kraljestvu je regulator Ofcom že začel preiskavo, ali delovanje Groka ustreza zahtevam Zakona o spletni varnosti (Online Safety Act), ki platformam nalaga dolžnost preprečevanja škodljivih vsebin, zlasti tistih, ki lahko prizadenejo otroke. Hkrati je bila sprožena tudi razprava o tem, ali obstoječi zakonodajni okvirji zadostujejo za regulacijo generativnih modelov.

Negativni vplivi na temeljne pravice uporabnikov

Ukrepanje ponudnika orodja Grok

Po kritikah, da Grok omogoča ustvarjanje spolno eksplicitnih globokih ponaredkov, je ponudnik omejil funkcijo urejanja slikovnega materiala le na plačljive uporabnike. Dostop do te funkcije je tako zdaj možen samo prek naročnine, pri čemer so imena in podatki o plačilu zabeleženi. Gre za začasni ukrep, ki kratkoročno zmanjšuje tveganja, a ne rešuje temeljnih pomanjkljivosti sistema.

Vsekakor so za uporabnike posledice delovanja takšnih orodij lahko zelo resne, saj se povečujejo možnosti zlorabe identitete in podobe posameznika. Klasični mehanizmi prijav, umikov vsebin in pravnih postopkov pogosto žal ne dohajajo hitrosti razvoja tehnologije tudi pri generativnih sistemih za ustvarjanje novih vsebin. To še posebej velja v primerih, kjer gre za posege v dostojanstvo, zasebnost ali varnost otrok.

Kaj lahko do učinkovitih sistemskih ukrepov storimo sami?

^{Foto: Freepik}

Ključna je kritična distanca do podob in vsebin, ki jih srečujemo na spletu. Dejstvo, da je neka slika videti realistična, še ne pomeni, da je resnična. Če smo še pred letom dni svetovali, kako prepoznati vsebine, ustvarjene z UI, je danes ločevanje med resničnimi in umetno ustvarjenimi podobami praktično nemogoče. Generativna orodja so preprosto predobra tudi za izostreno človeško oko. Zato je pri vsebinah, ki delujejo senzacionalistično, seksualizirano ali čustveno manipulativno, smiselno preveriti njihov izvor in se vprašati, ali gre morda za umetno ustvarjeno podobo.

Pomembno je tudi, da se zavedamo lastne digitalne sledi. Fotografije, ki jih javno delimo na družabnih omrežjih, lahko postanejo vhodni podatek za generativne sisteme. To ne pomeni, da moramo prenehati uporabljati splet, a je smiselno premisliti, katere podobe delimo, komu so dostopne in v kakšnem kontekstu. Ko so naši podatki javno dostopni, jih programska orodja postrgajo s spletnih strani, s čimer izgubimo nadzor nad njimi.

V primeru zaznanih zlorab ima vsak uporabnik možnost ukrepanja. Sporne vsebine je treba kljub dolgotrajnim postopkom prijaviti spletni platformi, kjer se pojavijo, in po potrebi tudi pristojnim institucijam, še posebej kadar gre za poseg v zasebnost, dostojanstvo ali varnost otrok.

Pomemben del zaščite je tudi razumevanje delovanja spletnih platform in algoritmov. Generativni sistemi niso nevtralni – ustvarjajo tisto, za kar so bili trenirani in kar jim omogočajo njihovi razvijalci. Bolj kot razumemo, kako in zakaj takšne tehnologije delujejo, manjša je verjetnost, da bomo njihove vsebine sprejemali nekritično.

Nazadnje pa je pomembno opozoriti na tveganja, ko jih zaznamo. Primer Grok kaže, da se spremembe pogosto zgodijo šele, ko so tveganja jasno izpostavljena javnosti. Aktivni, informirani in kritični uporabniki smo zato pomemben del širšega sistema varoval, ki ga pri generativni umetni inteligenci še vedno gradimo.