Poruka pape Lava XIV.
za LX. Svjetski dan sredstava društvenih komunikacija
[17. svibnja 2026.]
Zaštititi glasove i lica ljudi
Draga braćo i sestre!
Lice i glas su jedinstvene, prepoznatljive značajke svake osobe. Oni otkrivaju njezin jedinstven identitet i konstitutivni su elementi svakoga susreta. Stari su Grci u antici to jako dobro znali. Stoga su, kako bi definirali ljudsku osobu, koristili izraz „lice“ (prósōpon), koji etimološki označava ono što je pred očima, mjesto prisutnosti i odnosa. Latinski izraz „persona“ (od per-sonare), s druge strane, obuhvaća zvuk, i to ne bilo koji zvuk, nego jedinstven glas određene osobe.
Lice i glas su sveti. Dao nam ih je Bog, koji nas je stvorio na svoju sliku i priliku, pozivajući nas na život riječju kojom nam se On sâm obratio, riječju koja je prvo odjeknula kroz stoljeća u glasovima proroka, a zatim, u punini vremena, postala tijelom. Tu riječ - tu komunikaciju kojom Bog približava samoga sebe - mogli smo izravno čuti i vidjeti (usp. 1 Iv 1,1-3), zato što se dala spoznati u glasu i licu Isusa, Sina Božjega.
Od samog trenutka stvaranja, Bog je želio čovjeka za svog sugovornika i, kao što kaže sveti Grgur Nisenski [1], utisnuo je na njegovo lice odraz Božje ljubavi, kako bi mogao u punini iskusiti vlastitu ljudskost po ljubavi. Čuvati ljudska lica i glasove, dakle, znači čuvati taj biljeg, taj neizbrisiv odraz Božje ljubavi. Nismo kakva vrsta sastavljena od unaprijed određenih biokemijskih algoritama. Svatko od nas ima nezamjenjiv i jedinstven poziv, koji proizlazi iz života i otkriva se upravo u komunikaciji s drugima.
Ako ne budemo ispunjavali tu dužnost čuvanja, digitalna tehnologija prijeti da stubokom promijeni neke od temeljnih stupova ljudske civilizacije koje katkad uzimamo zdravo za gotovo. Simulirajući ljudske glasove i lica, mudrost i znanje, svijest i odgovornost, empatiju i prijateljstvo, sustavi poznati kao umjetna inteligencija (UI) ne samo da zalaze u informacijske ekosustave, već i prodiru u najdublju razinu komunikacije - razinu međuljudskih odnosa.
Taj izazov, dakle, nije tehnološki, nego antropološki. Čuvati lica i glasove u konačnici znači čuvati sebe sáme. Hrabro, odlučno i razborito prihvatiti prilike koje pružaju digitalna tehnologija i umjetna inteligencija ne znači skrivati od sebe samih kritične točke, sjene i opasnosti.
Ne odricati se sposobnosti razmišljanja
Već odavno postoje brojni dokazi da algoritmi osmišljeni za najveće povećanje djelovanja na društvenim mrežama - što je unosno za platforme - nagrađuju brze emocije, a kažnjavaju ljudske reakcije koje iziskuju više vremena, kao što je napor razumijevanja i promišljanja. Zatvarajući skupine ljudi u mjehuriće brzog slaganja s drugima i brzog ogorčenja, ti algoritmi smanjuju našu sposobnost slušanja i kritičkog razmišljanja te povećavaju društvenu polarizaciju.
Tome se pridodaje naivno i nekritičko oslanjanje na umjetnu inteligenciju kao sveznajućeg „prijatelja“, izvor svih informacija, arhiv svih sjećanja, „proročište“ koje dijeli sve vrste savjeta. Sve to može dodatno pogoršati našu sposobnost analitičkog i kreativnog razmišljanja, razumijevanja značenjâ i razlikovanja sintakse od semantike.
Premda UI može pružiti podršku i pomoć u upravljanju komunikacijskim zadatcima, izbjegavanje napora oko samostalnog razmišljanja, zadovoljavajući se umjetnim statističkim kompilacijama, dugoročno gledano nosi opasnost opadanja naših kognitivnih, emocionalnih i komunikacijskih sposobnosti.
Posljednjih godina sustavi umjetne inteligencije sve više preuzimaju kontrolu i nad proizvodnjom tekstova, glazbe i filmova. Stoga je velik dio ljudske kreativne industrije u opasnosti da bude eliminiran i zamijenjen oznakom Powered by AI (pokreće ga/ju umjetna inteligencija), pretvarajući ljude na puke potrošače nepromišljenih ideja i anonimnih proizvoda lišenih autorstva i ljubavi, dok se remek-djela ljudskoga duha na polju glazbe, umjetnosti i književnosti svodi na puk poligon za obučavanje strojeva.
No, ne smije nam biti toliko na srcu što stroj uspijeva ili će uspjeti postići, već što mi možemo i hoćemo učiniti, rastući u čovječnosti i znanju, mudrim korištenjem tako moćnih alata koji su nam na raspolaganju. Čovjek je od pamtivijeka u iskušenju da prisvaja plodove znanja bez ulaganja vlastita truda, bez istraživanja i bez osobne odgovornosti. Ali odricanje od stvaralačkog procesa i prepuštanje vlastitih umnih sposobnosti i vlastite mašte strojevima, znači zakopati talente koje smo primili kako bismo rasli kao osobe u odnosu s Bogom i drugima. To znači skrivati svoje lice i utišati svoje glasove.
Biti ili pretvarati se: simulacija odnosâ i stvarnosti
Dok pregledavamo svoje protoke informacija (feeds), postaje tako sve teže razaznati komuniciramo li s drugim ljudima ili s botovima, odnosno virtualnim influencerima (virtual influencers). Netransparentne intervencije tih automatiziranih agenata utječu na javne rasprave i odluke ljudi. Na poseban način chatbotovi temeljeni na velikim jezičnim modelima (Large language model - LLM) pokazuju se iznenađujuće učinkovitima u prikrivenom uvjeravanju stalnim optimiziranjem personalizirane interakcije. Dijaloška, prilagodljiva i mimetička struktura tih jezičnih modela može oponašati ljudske osjećanje i tako simulirati odnos. Ta antropomorfizacija, koja može biti čak i zabavna, ujedno je i varljiva, posebice za najranjivije pojedince, zato što chatbotovi koji su pretjerano „nježni i osjećajni“, osim što su uvijek prisutni i dostupni, mogu postati skriveni arhitekti naših emotivnih stanja i tako se uvući i zauzeti intimna područja osoba.
Tehnologija koja iskorištava našu potrebu za odnosom ne samo da može imati bolne posljedice za sudbinu pojedinaca, već može isto biti štetna za društveno, kulturno i političko tkivo društava. To se događa kada odnose s drugima zamijenimo odnosima s UI sustavima koji su obučeni da katalogiziraju naše misli, a zatim konstruiraju svijet zrcala oko nas, u kojem je sve stvoreno „na našu sliku i priliku“. Time smo prikraćeni za mogućnost susreta s drugim, koji je uvijek drukčiji od nas i s kojim se možemo i moramo naučiti susresti. Bez prihvaćanja drugosti ne može biti niti odnosa, niti prijateljstva.
Još jedan veliki izazov koji predstavljaju ti novi sustavi jest pristranost (engleski bias), koja dovodi do stjecanja i prenošenja iskrivljene percepcije stvarnosti. UI modele oblikuju svjetonazori njihovih tvoraca i mogu tako nametati načine razmišljanja, replicirajući stereotipe i predrasude prisutne u podatcima iz kojih crpe. Nedostatak transparentnosti u razvoju algoritama, u kombinaciji s neodgovarajućom društvenom reprezentativnošću podataka, ostavlja nas zarobljenima u mrežama koje manipuliraju našim mislima te održavaju i produbljuju postojeće društvene nejednakosti i nepravde.
Velik je ulog u igri. Moć simulacije je tako velika da bi nas UI mogla prevariti stvaranjem paralelnih „stvarnosti“, prisvajajući naša lica i glasove. Uronjeni smo u višedimenzionalnost u kojoj je sve teže razlikovati stvarnost od fikcije.
Netočnosti to samo dodatno pogoršavaju. Sustavi koji kakvu statističku vjerojatnost predstavljaju kao znanje, zapravo nam u najboljem slučaju nude približno istinite informacije, koje su katkad doista prave „halucinacije“. Nedostatak provjere izvora, u kombinaciji s krizom terenskog novinarstva, koje zahtijeva stalno prikupljanje i provjeru informacija na mjestima gdje se događaji odvijaju, može stvoriti još plodnije tlo za dezinformacije i dovesti do rastućeg osjećaja nepovjerenja, dezorijentiranosti i nesigurnosti.
Moguć savez
Iza te goleme, nevidljive sile koja utječe na sve nas, stoji samo nekoliko poduzeća, čiji su osnivači nedavno proglašeni tvorcima, „osobe godine 2025.“, odnosno tvorci umjetne inteligencije. To izaziva ozbiljnu zabrinutost zbog oligopolističke kontrole nad algoritamskim sustavima i umjetnom inteligencijom, koji mogu suptilno usmjeravati ponašanje, pa čak i ponovno ispisivati povijest čovjeka - uključujući povijest Crkve - a da često toga nismo niti svjesni.
Izazov koji nas čeka nije zaustaviti digitalne inovacije, nego ih voditi, svjesni njihove ambivalentne prirode. Svatko od nas mora podići svoj glas u obranu pojedinaca, kako bi se ti alati mogli istinski integrirati kao saveznici.
Taj savez je moguć, ali on se mora temeljiti na trima stupovima, a to su odgovornost, suradnja i obrazovanje.
Prije svega, odgovornost. Ovisno o ulogama, ona može poprimiti različite izraze, kao što su iskrenost, transparentnost, hrabrost, sposobnost vizije, obveze dijeljenja znanja te pravo na informaciju. Ali općenito, nitko ne može izbjeći vlastitu odgovornost za budućnost koju gradimo.
Za čelne ljude online platformi, to znači osigurati da njihove poslovne strategije nisu vođene isključivo najvećim povećanjem profita, već i dalekosežnom vizijom u kojoj se vodi računa o općem dobru, isto kao što je svakomu pojedincu dobrobit vlastite djece na prvome mjestu.
Kreatori i programeri UI modelâ moraju biti transparentni i društveno odgovorni u pogledu načela dizajna i sustava moderiranja, koji su temelj njihovih algoritama i modela, kako bi se potaknuo informiran pristanak korisnikâ.
Istu odgovornost traži se od nacionalnih zakonodavaca i nadnacionalnih regulatornih tijela, čija je zadaća budno paziti na poštivanje ljudskog dostojanstva. Odgovarajuća regulacija može zaštititi ljude od emocionalne vezanosti za chatbotove i obuzdati širenje lažnoga, manipulativnoga ili obmanjujućega sadržaja, čuvajući integritet informacija od varljive simulacije.
Medijska i komunikacijska poduzeća, sa svoje strane, ne smiju dopustiti da algoritmi, osmišljeni da pod svaku cijenu dobiju bitku za nekoliko dodatnih sekundi pozornosti i pažnje, prevladaju nad svojom odanošću profesionalnim vrijednostima, koje su usmjerene na traženje istine. Povjerenje javnosti stječe se točnošću i transparentnošću, a ne težnjom za svakim mogućim oblikom interakcije. Sadržaji koje stvara ili njima upravlja UI, moraju biti jasno označeni i razdvojeni od sadržaja koje su stvorili ljudi. Autorska prava i suvereno vlasništvo novinarâ i drugih tvoraca sadržaja nad njihovim uradcima moraju biti zaštićeni. Informiranost jest javno dobro. Konstruktivna i smislena javna služba ne temelji se na nejasnoći, nego na transparentnosti izvora, uključivanju pojedinaca i visokom standardu kvalitete.
Svi smo pozvani na suradnju. Nijedno područje ne može se sámo uhvatiti u koštac s izazovom vođenja digitalnih inovacija i upravljanja (governance) umjetnom inteligencijom. Prijeko je potrebno, stoga, uvesti zaštitne mjere. Sve zainteresirane strane - od tehnološke industrije do zakonodavaca, od kreativnih poduzeća do akademske zajednice, od umjetnika preko novinara do odgojitelja - svi moraju biti uključeni u izgradnju i provedbu informiranoga i odgovornoga digitalnoga građanstva.
To je ono što obrazovanje ima za cilj postići: povećati naše osobne sposobnosti kritičkoga razmišljanja, procijeniti pouzdanost izvorâ i potencijalne interese koji se kriju iza odabira informacija koje do nas dopiru, razumjeti psihološke mehanizme koji ih pokreću te omogućiti našim obiteljima, zajednicama i udrugama da razviju praktične kriterije za zdraviju i odgovorniju kulturu komunikacije.
Upravo zbog toga razloga, pokazuje se sve hitnijim uvesti u obrazovne sustave na svim razinama opismenjavanje za medije, informiranje i umjetnu inteligenciju, što neke civilne institucije već promiču. Kao katolici, možemo i moramo dati svoj prinos tome da osobe - poglavito mladi - steknu sposobnost kritičkoga mišljenja i odrastaju u slobodi duha. Tu medijsku pismenost trebalo bi se, k tomu, integrirati i u šire inicijative cjeloživotnog obrazovanja, kojima će se doprijeti do starijih osoba i marginaliziranih članova društva, koji se često osjećaju isključenima i nemoćnima u pogledu brzih tehnoloških promjena.
Medijska, informacijska pismenost i pismenost u pogledu UI-a pomoći će svima da izbjegnu prilagođavanje antropomorfizirajućem zastranjenju UI sustava, omogućiti im da te sustave promatraju kao alate, uvijek koriste izvanjsku provjeru izvora koje pružaju UI sustavi, a koji mogu biti netočni ili lažni, te naučiti ih kako zaštiti svoju privatnost i svoje podatke, te kako steći znanja o sigurnosnim parametrima i mehanizmima podnošenja pritužbi. Važno je educirati sebe i druge o tome kako svjesno koristiti UI, te u tom kontekstu zaštititi vlastitu sliku (fotografije i audiozapise), svoje lice i glas, kako bi se spriječilo njihovo korištenje za stvaranje štetnih sadržaja i ponašanja kao što su digitalne prevare, kibernetičko nasilje (cyberbullying) te digitalne krivotvorine visoke tehnologije koja otežava razlikovanje stvarnosti od fikcije (deepfake), koji krše privatnost i intimnost osoba bez njihova pristanka. Kao što je industrijska revolucija zahtijevala osnovnu pismenost kako bi ljudi mogli nositi se s novinama koje je ona donijela, tako i digitalna revolucija zahtijeva digitalnu pismenost (zajedno s humanističkim i kulturnim obrazovanjem) da bismo razumjeli kako algoritmi oblikuju našu percepciju stvarnosti, kako funkcioniraju pristranosti (biases) umjetne inteligencije, koji su to mehanizmi koji određuju pojavljivanje određenog sadržaja u našim protocima informacija (feeds), te koje su pretpostavke i ekonomski modeli UI ekonomije, i kako se oni mogu promijeniti.
Trebamo osigurati da lice i glas ponovno izražavaju osobu. Moramo čuvati dar komunikacije kao čovjekovu najdublju istinu, prema kojoj valja usmjeriti također svaku tehnološku inovaciju.
Nudeći ova razmišljanja, zahvaljujem svima koji rade na ovdje navedenim ciljevima i odsrca blagoslivljam sve koji rade za opće dobro služeći se sredstvima komunikacije.
Iz Vatikana, 24. siječnja 2026., spomen svetog Franje Saleškoga
PAPA LAV XIV.
______________________
[1] „Činjenica da je stvoren na sliku Božju znači da je čovjeku, od trenutka njegova stvaranja, utisnut kraljevski biljeg […]. Bog je ljubav i izvor ljubavi: božanski Stvoritelj je tu značajku stavio i na naše lice, kako bi po ljubavi - tom odrazu Božje ljubavi - čovjek prepoznao i očitovao dostojanstvo svoje naravi i sličnost sa svojim Stvoriteljem“ (usp. sv. Grgur Nisenski [Grgur iz Nise], Stvaranje čovjeka: PG 44,137)
