Čeprav umetno inteligenco še vedno pogosto razumemo kot računalniške programe in procese, ki delujejo v ozadju, pa se vedno bolj spogledujemo tudi z njenimi bolj vidnimi oblikami – umetno ustvarjenimi osebami, ki imajo svojo podobo, kariero in zanimanja. Na družabnih omrežjih jih občudujejo predvsem mladi, sicer pa se z njimi vedno pogosteje srečujemo tudi drugod na spletu ali pa nam priskočijo na pomoč pri delu. Ker je zaradi hitrega tehnološkega napredka na spletu vse težje ločiti resnično osebo od umetno ustvarjene, si poglejmo, kaj je dobro vedeti o sintetičnih medijih.
Sintetični mediji pomenijo umetno ustvarjeno vsebino, manipulacijo in prilagoditev digitalnih vsebin skozi algoritme umetne inteligence. Tovrstne vsebine in stvaritve zaradi tehnološkega napredka postajajo pri posnemanju človeške podobe in vedenja vse bolj prefinjene.
Foto: Stockcake (ustvarjeno z umetno inteligenco)
Ker orodja za izdelavo umetnih podob postajajo vedno dostopnejša, se jih lahko poslužuje čedalje več podjetij in posameznikov. To vsekakor predstavlja naslednji korak v razvoju generativne umetne inteligence, ki se je začel konec leta 2022. Medtem ko so njena zgodnja orodja, kot je ChatGPT, namenjena predvsem generiranju besedila, je danes v porastu zanimanje za generiranje slik in videoposnetkov.
Avatarji, globoki ponaredki in virtualni vplivneži
Avatar je vizualna ali digitalna predstavitev osebe v obliki slike, ikone, animacije ali 3D modela. Za razliko od običajnega avatarja, ki je pogosto statična slika ali grafika, ima lahko avatar umetne inteligence (UI avatar) realistične obrazne izraze, animacije in celo ustvarja video vsebine umetne inteligence.
Globok ponaredek (ang. deepfake) je digitalna vsebina, običajno video ali zvočni posnetek, ki je bila umetno ustvarjena ali spremenjena s pomočjo umetne inteligence tako, da izgleda in zveni resnično, a dejansko ni pristna.
Ena prvih virtualnih vplivnic, ustvarjenih z umetno inteligenco, ki je pridobila veliko sledilcev, je AI avatar Miquela, brazilsko-ameriška pevka in manekenka. Ustvarjalci vizualno podobo tako ustvarjenih podob dopolnjujejo z glasom, osebnimi lastnostmi, specifičnim načinom izražanja, čustvovanjem in najljubšimi konjički. Večnamenskim avatarjem na seznam njihovih »talentov« dodajajo karierna in strokovna znanja.
Novičarske organizacije, ki želijo biti v ospredju tehnološkega napredka, so začele s predvajanjem novic, v katerih poročila in druge medijske vsebine vodijo umetno ustvarjeni avatarji. Tudi države pri vpeljevanju takšnih inovacij ne zaostajajo. Ukrajinsko ministrstvo za zunanje zadeve je predstavilo avatar Victorio Shi, ki sicer sloni na podobi znane ukrajinske pevke in medijske osebnosti Rosalie Nombre.
Temne plati UI avatarjev
Ustvarjalci avatarjev se kljub neštetim možnostim izgleda in vedenj, ki jih pri generiranju ponuja umetna inteligenca, povečini držijo lepotnih idealov in drugih, v družbi zaželenih standardov. Tako smo najpogosteje priča mlajšim, postavnim in simpatičnim ženskim avatarjem z mirno in prijazno »osebnostjo«.
Sicer pa so nam že pred nastankom takšnih avatarjev pri uporabi telefona nudile pomoč digitalne asistentke Siri, Alexa in Cortana. Kljub razširitvi možnosti uporabe tudi drugih glasovnih modelov privzeta nastavitev tehnoloških velikanov ob našem pozivu asistentke za pomoč ostaja nežen in dobro moduliran ženski glas. Dejstvo je, da izbira tehnoloških podjetij pri določanju karakteristik njihovih avatarjev temelji na rezultatih marketinških raziskav zasledujoč potencial avatarja za zaslužek.
Idealizirani avatarji so za uporabnike družabnih omrežij privlačni, a imajo lahko zaradi želje po doseganju enakih lepotnih standardov tudi negativen vpliv na njihovo samopodobo ter zbujajo zavist. Zlasti Instagram je v zadnjih letih pod drobnogledom zaradi spodbujanja in popularizacije nedosegljivih oziroma neresničnih podob svojih vplivnežev. Uporabniki pa kljub morebitnim negativnim posledicam za duševno zdravje posegajo po uporabi filtrov za izboljšavo lastnih slik, med drugim narašča tudi število opravljenih posegov lepotne kirurgije.
UI človeku odvzema primat
V javnosti je pogosto slišati, da UI ljudem krade delovna mesta, saj v nasprotju s posamezniki, npr. TV voditelji, ki so potrebovali ure in ure za izpopolnjevanje svojih veščin, avatarju s programiranjem določi način govora, geste, mimiko in druge veščine. Poleg tega je avatar vedno pripravljen na delo. Tako so denimo na Kitajskem že leta 2018 na televizijskem programu zagotovili voditeljico, ki gledalce obvešča o aktualnih dogodkih 24 ur na dan, vsak dan v letu. Medtem ko tovrstne novosti v t. i. zahodni svet vseeno prodirajo počasi. Kot ugotavlja Reutersovo poročilo za 2024, mnenje večine držav glede možnosti, da bi avatarji vodili poročila, ostaja zadržano.
Uporaba avatarjev nenazadnje odpira tudi pravna vprašanja o lastništvu podatkov. Orodja za ustvarjanje videoposnetkov, ki temeljijo na umetni inteligenci, delodajalcu na primer omogočajo, da še naprej ustvarja avdiovizualne vsebine na podlagi lastnosti zaposlenega, tudi ko ta zapusti podjetje.
Kaj sledi?
Čeprav število lažnih vsebin narašča in tako ustvarjene spletne vsebine zasledujejo tudi škodljive namene, kot je vmešavanje v volitve in ogrožanje kibernetske varnosti, sintetični mediji vseeno prinašajo veliko koristi tako za posameznike kot za delodajalce. Tako vsaj obljubljajo različna zagonska podjetja, ki ponujajo uporabo orodij za pospeševanje komunikacije znotraj podjetij, ustvarjanje videoposnetkov za usposabljanje zaposlenih, priročnikov za določena delovna mesta ali naloge in celo marketinške videoposnetke, namenjene strankam.
Glavni izvršni direktor podjetja Zoom predvideva, da bi lahko uporabniki Zooma v roku petih oziroma šestih let na sestanke pošiljali svoje avatarje, ki bi se udeležili sestankov v njihovi odsotnosti. Podobno lahko UI človeku prihrani čas, tako da prebira njegovo elektronsko pošto in pripravi odgovor za pošiljanje.
En izmed ukrepov, kako prepoznati z UI ustvarjene vsebine, je zagotovo tudi vodni žig oziroma koda, ki bi jo prepoznala naša naprava. Velika tehnološka podjetja so se na Münchenski varnostni konferenci že zavezala, da bodo prepoznavala in označevala manipulativne vsebine. Poleg tega je Evropski parlament sprejel pomemben regulatorni akt, ki ureja področje uporabe umetne inteligence. Nova pravila tako prepovedujejo aplikacije, ki predstavljajo očitno tveganje za temeljne pravice, ter uvajajo stroge zahteve za nekatere sisteme umetne inteligence, med drugim tudi označevanje vsebin, ustvarjenih z UI.
Previdnost in izostreno oko gresta z roko v roki
Foto: Stockcake (ustvarjeno z umetno inteligenco)
Orodja, ki omogočajo ustvarjanje podob, imajo še vedno različne omejitve. Zaenkrat še niso tako dovršena, da bi bilo nemogoče odkriti napake na fotografijah. Največ težav imajo z generiranjem človeških rok, kar se kaže na primer v netipičnem številu prstov ali pa so ti deformirani oziroma drugače popačeni. Podobne nedoslednosti lahko odkrijemo tudi pri zobeh, ušesih, očalih ter na objektih v ozadju, na primer pri uličnih svetilkah, sencah in odsevih. Tovrstne fotografije lahko delujejo tudi preveč brezhibno oziroma čisto. Ljudje imajo nenaravno gladko kožo ali pa recimo nenaravno bele zobe. Fotografije lahko imajo sijoč, bleščeč videz, ki ga je težko doseči celo pri fotografiji, posneti v profesionalnem studiu.
Pomembno je torej, da smo pri spremljanju slik in uporabi orodij umetne inteligence previdni, največ za svojo varnost pa lahko naredimo, če preverimo vir slike oziroma informacije, uporabljamo varno programsko opremo ter se poučimo o tveganjih umetne inteligence.
Več o umetni inteligenci tudi na portalu MiPi:
► Prva uredba o umetni inteligenci oziroma EU AI Act
► Kako umetna inteligenca ustvarja slike in zakaj je to lahko nevarno?
► Kako umetna inteligenca spreminja naš način potovanja?
► Ko umetna inteligenca iz fotografije vašega otroka ustvari novo bitje
► Pogovorimo se o umetni inteligenci v izobraževanju odraslih