c S
Dnevne novosti

UNESCO: Zlouporaba umjetne inteligencije za laži o holokaustu

08.08.2024 07:10 ZAGREB, 7. kolovoza 2024. (Hina) - UNESCO je u svom nedavnom izvještaju upozorio na izazove u slučajevima kada se umjetna inteligencija zloupotrebljava za promicanje antisemitizma i laži o holokaustu, uz preporuke za suzbijanje dezinformacija s ciljem očuvanja povijesne istine u digitalno doba.

Kako prenosi Muzejski dokumentacijski centar (MDC), u izvještaju "AI and the Holocaust: rewriting history? The impact of artificial intelligence on understanding the Holocaust", napravljenom u partnerstvu sa Svjetskim židovskim kongresom, navodi se kako sve više mladih kod umjetne inteligencije traži brze odgovore na pitanja o holokaustu. Prema UN-ovoj studiji iz 2022. čak 80 posto mladih ljudi koristi te alate i usluge više puta dnevno za obrazovanje, zabavu i svakodnevne aktivnosti. U Hrvatskoj, prema online anketi UNICEF-a Hrvatska i Mreže mladih Hrvatske, 78 posto mladih od 16 do 25 godina koristi ju za učenje, pripremu ispita ili domaće zadaće, najčešće ChatGPT.

Zlonamjernici mogu iskoristiti poznavanje nedostataka u razvoju umjetne inteligencije za širenje lažnih informacija o povijesti holokausta, teorija zavjere te poticanje govora mržnje. Primjerice, kada se 2020. na Googleu pretraživao pojam "židovska dječja kolica“ dobio bi slike prijenosnih pećnica jer bi ga sustav kao odgovor na upit za nepostojeći proizvod usmjeravao na mrežne stranice s uvredljivim antisemitističkim sadržajem, zbog najbližeg podudaranja riječi pored slika s riječima iz pretrage. Umjetna inteligencija može nedostatak informacija popuniti generiranim sadržajem koji nije potkrijepljen činjenicama, pa se znalo desiti i da izmisli događaje, ličnosti i čitave fenomene poput "holokausta utapanjem“, što je halucinacija proistekla od ChatGPT-ja. Ponekad tražilice imaju tendenciju fokusiranja na samo neke od aspekata holokausta što dovodi do pretjeranog pojednostavljivanja te izrazito kompleksne teme.

Razgovor s Hitlerom i deepfake Emme Watson koja čita Mein Kampf

Posebno je zabrinjavajuća mogućnost falsifikacije povijesnih dokaza i stvaranja dubokih krivotvorina (deepfakes) s ciljem zavaravanja korisnika, rehabilitacije i veličanja nacističke ideologije te normalizacije antisemitizma. Tako aplikacija Historical Figures omogućuje razgovor s Adolfom Hitlerom ili Josephom Goebbelsom uz promicanje lažne tvrdnje da neki pojedinci, poput Goebbelsa, nisu bili namjerno uključeni u holokaust i da su pokušali spriječiti nasilje nad Židovima. Na internetskoj stranici 4chan, na kojoj korisnici mogu anonimno objavljivati, pojavila se deepfake audiosnimka glumice Emme Watson kako čita "Mein Kampf". "Sama svijest o tome da se sadržaj može generirati ili manipulirati pomoću UI-je dovodi do erozije povjerenja u autentične povijesne dokaze i iskustva preživjelih u holokaustu", istaknuto je.

Izvještaj donosi i preporuke tvorcima politika, obrazovnom sektoru, razvojnim programerima, istraživačima i baštinskim institucijama za suzbijanje širenja dezinformacija o holokaustu i promicanje etičkog razvoja i odgovornog korištenja UI-je, u skladu s Preporukom o etici umjetne inteligencije koju su 2021. usvojile 193 članice UNESCO-a. Iz MDC-a napominju kako muzeji i ostale baštinske institucije mogu surađivati s programerima UI-je pomažući im da razumiju osjetljivost, povijesni kontekst i rizike korištenja njihovih baza podataka. Također, digitalizacija muzejskih zbirki i povijesnih dokumenata vezanih uz holokaust povećava bazu (točnih) podataka za učenje sustava UI-je, apostrofira se i razvoj smjernica o tome koje informacije koristiti za dohvaćanje i generiranje rezultata te kako se nositi s pravnim pitanjima, autorskim pravima i privatnošću žrtava.

Umjetna inteligencija ipak i koristi za istraživanje holokausta i olakšavanjanje pristupa povijesnom materijalu, pa se ona koristila i u Međunarodnom centru za proučavanje nacističkog progona (Arolsen Archives) kao pomoć pri indeksiranju arhivskih dokumenata koji su bili posebno složeni i dugotrajni za obradu. Može služiti i za nove načine učenja i interakcije s prošlošću, kao u projektu "Tell me, Inge" koji kroz proširenu stvarnost omogućava virtualni razgovor s Inge Auerbacher koja je preživjela holokaust.