Čas branja: 8 minut

Ob koncu preteklega leta je bilo na podlagi Akta o digitalnih storitvah (DSA) objavljeno prvo letno poročilo o sistemskih tveganjih, povezanih z uporabo velikih spletnih platform. Poročilo izpostavlja več ključnih tveganj, med njimi širjenje nezakonitih vsebin, negativne in škodljive vplive na javni diskurz ter posege v temeljne človekove pravice. Posebej zaskrbljujoči so tudi vplivi na zdravje, varnost in dobrobit uporabnikov, zlasti otrok in mladostnikov. V prispevku pojasnjujemo, na kaj morate biti uporabniki pozorni pri uporabi priljubljenih spletnih platform, kot so Facebook, Instagram, TikTok, YouTube, Snapchat, X in Zalando, ki jih vsakodnevno uporablja na milijone ljudi po vsem svetu.

^{Foto: Freepik}

Prvo letno poročilo o sistemskih tveganjih

Evropski odbor za digitalne storitve je v sodelovanju z Evropsko komisijo na podlagi 35. člena DSA objavil prvo letno poročilo o spremljanju sistemskih tveganj na spletu. Namen poročila je ponuditi celovit pregled stanja na evropskem digitalnem trgu ter osvetliti tveganja, ki najbolj vplivajo na pravice, varnost in dobrobit uporabnikov.

 

Predvsem pa razkriva obsežno in kompleksno sliko digitalnih tveganj, ki segajo od širjenja nezakonitih vsebin do vpliva algoritmov na družbo, zdravje in demokratične procese. Čeprav številna izpostavljena tveganja niso nova, poročilo prvič vzpostavlja skupni evropski okvir, ki omogoča njihovo boljše razumevanje, primerjavo in sistematično spremljanje.

Poročilo temelji na:

- poročilih platform o oceni sistemskih tveganj in revizijskih ugotovitvah,

- poročilih platform o moderiranju vsebin,

- podatkih iz evropske baze o razlogih platform za odstranitev vsebin,

- prispevkih raziskovalcev, organizacij civilne družbe ter nacionalnih koordinatorjev za digitalne storitve (KDS).

 

Najbolj izrazita sistemska tveganja

Uporabniki spletnih platform ste se v praksi zelo verjetno že srečali s posameznimi primeri vsebin, ki bi jih lahko uvrstili med posamezne kategorije sistemskih tveganj, kot jih opredeljuje DSA:

- nezakonitimi vsebinami,

- negativnimi vplivi na uresničevanje temeljnih pravic,

- škodljivimi vplivi na javni diskurz ter

- tveganji za zdravje, varnost in dobrobit uporabnikov, zlasti otrok in mladostnikov.

Čeprav se navedena tveganja na različnih vrstah digitalnih storitev pojavljajo na različne načine, se po vsej EU ponavljajo s primerljivo intenzivnostjo. To kaže, da ne gre za osamljene primere, temveč za strukturne izzive sodobnih digitalnih ekosistemov, ki zahtevajo sistemske in dolgoročne rešitve.

 

Izmuzljivost nezakonitih vsebin

Platforme poročajo o velikih izzivih pri zajezitvi prodaje nevarnih ali ponarejenih izdelkov, kar je še posebej problematično na spletnih tržnicah. Pogoste so tudi zlorabe v obliki oglaševanja ali omogočanja nezakonitih storitev, kot so kriminalne dejavnosti, trgovina z drogami, nezakonite finančne sheme ali izmenjava orodij za kibernetske napade.

Organizacije civilne družbe posebej opozarjajo na razširjenost gradiva spolnih zlorab otrok ter vsebin, povezanih s terorizmom in nasilnim ekstremizmom.

 

Uporabniki na različne načine poskušajo obiti mehanizme moderiranja – od uporabe kodiranega jezika in simbolov, ki jih algoritmi težko prepoznajo, do manipulacij slik, uporabe emodžijev ter preusmerjanja komunikacije v zasebne kanale.

 

Negativni vplivi na temeljne pravice uporabnikov

 

Platforme pogosto težko vzdržujejo ravnotežje med varovanjem uporabnikov in zaščito svobode izražanja. Po eni strani se soočajo s prekomernim moderiranjem, ko avtomatizirani sistemi prehitro odstranijo zakonite objave ali omejijo račune, kar lahko omeji javno razpravo. Po drugi strani pa nevladne organizacije in akademski sektor opozarjajo na premalo moderiranja zlasti tam, kjer sovražni govor, nadlegovanje ali dezinformacije ostanejo dovolj dolgo, da povzročijo škodo.

Algoritmična pristranskost – priporočilni sistemi, ki priporočajo vsebine, oglase ali rezultate iskanj, lahko poslabšajo položaj manjšinskih skupin bodisi tako, da jih prikazujejo manj pogosto, bodisi tako, da jim prikazujejo diskriminatorne ali manipulativne vsebine. Primeri vključujejo oglase, usmerjene le na določene demografske skupine, ali vsebine, ki krepijo stereotipe.

Škodljivi vplivi na javni diskurz, volilne procese in varnost

Platforme priznavajo, da njihovi algoritmi lahko pospešujejo širjenje dezinformacij, propagande, sovraštva ali kampanj tujih akterjev, ki poskušajo vplivati na javno mnenje. Umetna inteligenca pri tem lahko ustvarja lažne slike, videoposnetke ali napačne odgovore na pogosta volilna vprašanja, kar predstavlja izziv, ki ga je težko nadzorovati.

 

Družbena dinamika prav tako pomembno vpliva na širjenje napačnih informacij – povsem običajno uporabniško vedenje lahko v kriznih situacijah, kot so naravne nesreče, družbeni nemiri ali teroristični napadi, povzroči hitro širjenje napačnih informacij, ki se razširijo hitreje kot preverjena dejstva. Tovrstne vsebine lahko sprožijo paniko, povečajo napetosti med skupnostmi ali zmanjšajo zaupanje v institucije.

 

Tveganja za zdravje, varnost in dobrobit uporabnikov

Platforme in organizacije civilne družbe opozarjajo na množično širjenje:

- škodljivih zdravstvenih informacij,

- vsebin, ki spodbujajo samopoškodbe, motnje hranjenja ali nevarne izzive ter

- nezakonite ali nevarne prodaje zdravstvenih izdelkov.

 

Otroci so v zasebnih ali polzasebnih kanalih še posebej ranljivi in lahko naletijo na:

- grooming (navezovanje stikov za spolne namene z uporabo tehnologije),

- izsiljevanje za spletne vsebine,

- nasilje,

- manipulacijo ter

- druge nevarne stike.

Vse več primerov spolnih zlorab in izsiljevanja vključuje uporabo orodij umetne inteligence, ki lahko manipulirajo vsebino slik ali ustvarijo škodljive ponaredke.

Največja tveganja po posameznih platformah

Platforma	Kategorija največjih tveganj	Konkretni izzivi, identificirani v poročilu in raziskavah
Meta (Facebook)	nezakonite vsebine demokratični procesi temeljne pravice	razširjena uporaba taktik izmikanja (kodiran jezik, rezervni profili) velike razlike v moderaciji med državami oziroma EU jeziki politična in družbena manipulacija težave pri uveljavljanju pravil v realnem času (volitve) nezadostni dokazi o učinku sprememb v priporočilnih sistemih
Instagram	dobrobit otrok manipulativne zasnove temeljne pravice	algoritemske zanke za spodbujanje škodljivih vsebin (videz, motnje hranjenja) zasvojitveni mehanizmi izpostavljenost mladoletnikov neprimernim vsebinam neučinkoviti sistemi starostnega preverjanja
TikTok	dobrobit otrok dezinformacije duševno zdravje	izredno močni zasvojitveni algoritmi hitro širjenje problematičnih trendov vsebine, ki škodujejo duševnemu zdravju mladih pomanjkljiva transparentnost algoritmov slab nadzor nad oglaševalci in komercialnimi prevarami
YouTube	algoritmična priporočila radikalizacija dezinformacije	priporočilni sistem včasih promovira polarizirajoče in ekstremne vsebine težave pri zaznavi kodiranih političnih vsebin otroci zlahka zdrsnejo v spirale motečih vsebin pomanjkljiva pojasnila delovanja priporočilnega sistema
Google Search	dezinformacije diskriminacija nekakovostni rezultati	napake v vrednotenju občutljivih vsebin (zdravje, volitve) pristranske informacije v nekaterih jezikovnih okoljih težave pri zaznavi manipulativnih komercialnih strani
Google Play Store	nezakonite aplikacije prevare varnost	ponarejene aplikacije in lažne investicijske platforme nevarne aplikacije z agresivnimi zahtevami za dovoljenja slabo preverjanje razvijalcev  prikriti sledilni sistemi v aplikacijah
Amazon	nevarni izdelki ponaredki oglaševalska transparentnost	prodaja neustreznih ali nevarnih izdelkov lažne ocene in manipulacija z ocenami ponarejene blagovne znamke težave pri preverjanju prodajalcev
Apple App Store	zasebnost preglednost konkurenca	nezadostno preverjanje aplikacij glede zavajajočih praks težave pri transparentnosti algoritmov v trgovini problematične aplikacije za otroke
Microsoft (Bing, LinkedIn)	diskriminacija kakovost rezultatov politične manipulacije	pristranskost pri prikazovanju zaposlitev in oglasov nižja kakovost rezultatov v nekaterih jezikih neučinkovita zaznava lažnih profilov (LinkedIn) izzivi pri moderaciji političnih vsebin
Pinterest	duševno zdravje samopoškodovanje motnje hranjenja	vsebine povezane s samopoškodovanjem in motnjami hranjenja se še vedno pojavljajo algoritmično poudarjanje »problematičnih« telesnih podob
Snapchat	varovanje otrok grooming zasebnost	slaba detekcija grooming vzorcev zasebni pogovor otežuje nadzor nad nezakonitimi vsebinami najpogostejši incidenti pri mladoletnikih (EU)
X/Twitter	dezinformacije nezakonite vsebine osnovni nadzor	oslabljeni sistemi moderacije porast koordiniranih manipulacijskih kampanj odstranjevanje ključnih varnostnih funkcij neenotna uveljavitev lastnih pravil
Zalando	nezakonite trditve o izdelkih preverjanje prodajalcev	preverjanje porekla izdelkov ni vedno zadostno težave pri dokazovanju kakovosti in varnosti nekaterih izdelkov pomanjkanje podatkov o učinkovitosti preverjanja prodajalcev
Wikipedia	vsebinske manipulacije distribucija napačnih informacij	tarča koordiniranih poskusov urejanja (npr. politične teme) posebni izzivi povezani z verodostojnostjo v nekaterih jezikih omejene možnosti centralizirane zaznave manipulacij

 

Kako regulacija odgovarja na ugotovljena tveganja in kaj lahko storimo sami?

DSA vzpostavlja sistematičen okvir, ki platforme zavezuje k odgovornemu ravnanju. Kombinacija ocene tveganj, obveznih ukrepov, postopkov za obveščanje uporabnikov, transparentnosti moderiranja in pravice do pritožbe predstavlja poskus vzpostavitve nadzora nad vplivom platform na družbo.

Nacionalni koordinatorji digitalnih storitev delujejo kot kontaktna točka za pritožbe, nadzorujejo postopke platform ter predstavljajo povezavo med uporabniki, EK in platformami.

Kljub vedno bolj odločnim prizadevanjem za varnejše spletno okolje pa se uporabniki ne smemo zanašati zgolj na učinke regulacije. Zaradi brezmejnosti digitalnega prostora in razširjenosti orodij za obveščanje, komunikacijo ter vsakodnevne opravke je pomembno, da odgovornost za varno uporabo medijskih in digitalnih storitev prevzamemo tudi sami. Za začetek lahko to storimo s spremljanjem portala MiPi, kjer najdemo tudi številne izobraževalne in svetovalne vsebine o pojavih in tveganjih, obravnavanih v tokratnem prispevku.