Povzetek projekta: Generativne nasprotovalne nevronske mreže (GAN) so razred modelov AI, ki lahko ustvarijo medijske vsebine – avdio in video – ki spominjajo na resničnost. Čeprav obstajajo različna obetavna področja uporabe GAN tehnologije – npr. avdio-grafična produkcija, interakcije med človekom in računalnikom, satira, umetniško/ustvarjalno izražanje – je njihova zavajajoča uporabe zaskrbljujoča. Glavna skrb je povezana s tako imenovanimi »globokimi ponaredki«, lažnimi slikami ali videoposnetki, ki izredno natančno simulirajo resnične dogodke. Če jih ustrezno naučimo, lahko GAN tehnologija poskrbi, da se obraz premika in ‘govori’ na hiperrealističen način. Tehnologija tako predstavlja visoko družbeno in politično grožnjo, saj bi se modeli lahko uporabljali – in so se že uporabljali – za širjenje lažnih novic in dezinformacij. Ključni izziv za demokratično upravljanje in ureditev je torej izboljšati odgovornost, preglednost in zanesljivost modelov. Kljub temu pa tehnologija predstavljaje tudi priložnost za krepitev demokratične ozaveščenosti ter širjenje aktivnega in vključujočega državljanstva.
SOLARIS se na te izzive odziva na dva načina. Po eni strani analiziramo politična tveganja, povezana s temi tehnologijami, da bi preprečili negativne posledice za demokracijo v EU. SOLARIS tako strmi vzpostavitvi inovacij za odkrivanje in ublažitev tveganj globokih ponaredkov tudi na področju regulacije. Po drugi strani pa analiziramo tudi priložnosti, ki jih ponuja tehnologija za ponovno oživitev demokratičnega udejstvovanja državljanov. Z vključevanjem državljanske znanosti bomo soustvarjali nove vsebine, ki temeljijo na vrednotah, da bi okrepili demokratično sodelovanje. SOLARIS vključuje tri primere uporabe: prvi je namenjen razumevanju psiholoških vidikov zaznane zanesljivosti GAN. Drugi simulira deljenje nevarnih vsebin GAN-jev na družbenih medijih, da bi odkrili tveganja in oblikovali strategije za ublažitev. Tretji soustvarja vsebine GAN, ki temeljijo na vrednostih, za povečanje ozaveščenosti o ključnih globalnih demokratičnih temah (npr.: podnebne spremembe, razsežnost spola, migracije ljudi), da bi na koncu okrepili aktivno in vključujoče digitalno državljanstvo.
Aktivnosti UM: UM vodi pilota usmerjenega na razumevanje psiholoških vidikov zanazvanaj vsebine tvorjenje s pomočjo GAN in delovni paket namenje izvajanju vse pilotv projekta.
