Óvakodjunk a hamisított Tanítóhivataltól!

Nem új keletű, jól dokumentált jelenség a mesterséges intelligencia használata olyan, hírességeknek tulajdonított hamis reklámok létrehozására, amelyek kétes termékeket népszerűsítenek. Emberek sokasága esett már áldozatul ilyen deepfake¹ megtévesztésnek.

A római katolikus egyház főpapjai nem hallgatnak a mesterséges intelligenciával történő visszaélésekből fakadó általános veszélyekről. Ferenc pápa tavaly több alkalommal is kifejtette véleményét a mesterséges intelligencia különböző technológiáinak lehetséges helytelen alkalmazásáról. Nemrégiben pedig a Hittani Dikasztérium prefektusa, Víctor Manuel Fernández bíboros bejelentette, hogy a Római Kúria ugyanezen részlege az Oktatási és Kulturális Dikasztériummal együttműködve egy dokumentumon dolgozik az MI etikus használatáról. (A rendeletről ld. Vatikánváros új mesterséges intelligencia rendelete – áttekintés.)

Mindannyian emlékszünk a 2023-ban közösségi médiában terjedő deepfake képekre, amelyeken Ferenc pápa egy túlméretezett, dizájner pufidzsekiben látható (ld. itt). 2024 végén pedig újabb, mesterséges intelligencia által generált képek jelentek meg, amelyek azt a látszatot keltették, mintha a pápa az idősödő popdívát (Madonnát) ölelgetné (vö.: Ferenc pápa is az MI-t használók célkeresztjében – Ne dőljünk be a kamu fotóknak!). Ezek a megtévesztések azonban ártalmatlannak tűnhetnek ahhoz képest, amilyen MI-tartalmak a Római Katolikus Egyház hierarchiájának tagjairól az utóbbi időben megjelentek.

A 2025. év újabb, az egyházzal kapcsolatos deepfake-eket hozott, ám ezek súlya, jelentősége lényegesen nagyobb, mert már semmi esetre sem tekinthetők egyszerű tréfának. Sokkal inkább kimondottan kereskedelmi célt szolgálnak, amennyiben olyan termékek eladását népszerűsítik velük, amelyek —finoman szólva is— teológiailag minimum kétségesek.

A YouTube-on jelenleg futó, egymással összefüggő deepfake videóreklámokban Ferenc pápának és Marc Ouellet bíborosnak, a Püspöki Dikasztérium korábbi prefektusának a hasonmásai jelennek meg. A püspökök videós deepfake megszemélyesítései egy titokzatos imát próbálnak népszerűsíteni, amiről azt sugallják, hogy rendkívüli gazdagságot és világi sikert hoz mindazoknak, akik hajlandóak azt elmondani. A 90 szóból álló imát, aminek teljes ára 179 dollár, a nézőknek „akciósan” 59 dollárért kínálják.

A deepfake reklám, amely Ferenc pápa ajánlását tartalmazza, egy valódi videó mesterséges intelligenciával történt meghamisítása. Tudniillik 2024 májusában Ferenc pápa interjút adott a CBS újságírójának, Nora O’Donnellnek a „60 Minutes” című hírműsor számára. Az interjú (ami egyébként spanyol nyelven zajlott egy tolmács segítségével) videófelvételét használták fel a meggyőző deepfake létrehozására. A módosított változatban Ferenc pápa tökéletes angolsággal beszél, miközben a mimikája és ajkainak mozgása tükrözi a szájába adott hamis szavakat. Az eredeti videó bal felső sarkában lévő „60 Minutes” logót a deepfake-ben egy kis emblémával fedték el, ami keresztény szimbólumokat, keresztet és galambot ábrázol egy nyitott könyv felett. Szemben a valódi Ferenc pápa kimerítő válaszaival az újságíró különböző kérdéseire, a deepfake pápa üzenete egyetlen dologra koncentrál: egy durva értékesítési ajánlatra. A hamisított pápa így szól:

Az egyetlen dolog, amit meg kell tegyél ahhoz, hogy mindez megtörténjen, az, hogy elmondod ezt a szent imát, és akkor a pénzügyi áldások minden irányból elkezdenek áramlani az életedbe. Ha ma ki kell fizetned egy számlát, rendezni akarsz egy tartozást, vagy egyszerűen csak nagyobb jólétre vágysz az életedben, ez a szent ima segíteni fog. Ez az ima annyira erőteljes és annyira hatékony, hogy naponta csak egyszer kell elmondanod, mert különben túl sok áldás érhet. Csak hogy megértsd ennek az imának az erejét, azért tartották előtted titokban hosszú éveken át, mert ez a gazdagok titka, és nem akarják, hogy felfedezd.

Bár a deepfake videó vizuálisan valóban meggyőző, maga az üzenet egyértelműen a hírhedt “prosperity gospel”² leegyszerűsített változata. A videó végén az MI-pápa azt mondja a nézőknek: “Már ma megkaphatod ezeket a pénzügyi áldásokat. Kattints most.”

Még ha Ferenc a “meglepetések pápája” is, a videó tartalma valószínűleg kellően inkonzisztens ahhoz, hogy számos nézőt elriasszon a fizetéstől. Azonban a deepfake minősége valószínűleg így is képes lesz sokakat megtéveszteni. A pápai tekintély megjelenése alapvető lelki kérdésekben – ebben az esetben abban a kérdésben, hogy hogyan imádkozzunk – különleges súllyal bír. Valójában az imádságról való tanítás az egyik ismertetője Ferenc pápa pontifikátusának. 2020-ban és 2021-ben sok általános audiencián mondott beszédben éppen az imádságról adott katekézist. Ezen felül a pápa Úr Angyala üzeneteiben és spontán megjegyzéseiben számos alkalommal boncolgatta az imádkozás kérdésének különböző aspektusait.

Ouellet bíboros a főszereplője annak a két kapcsolódó deepfake videónak, amelyek ugyanezt a „prosperitás imát” népszerűsítik. A két videót egy 2021-es Vatican News videó manipulálásával hozták létre, amelyben a valódi Ouellet bíboros kétperces áttekintést adott a Püspöki Dikasztérium történetéről és mindennapi munkájáról. A deepfake felvételek megtartották az eredeti videó környezetét, beállításait. Az iroda hátsó falán egy aranykeretes festmény látható, amely az olasz barokk művész, Giovanni Paolo Panini stílusában készült, és a Szent Péter-bazilika belső terét ábrázolja. A bíboros mögött egy szék felső része is kivehető, ami a Prefektus irodájának XIV. Lajos korabeli bútoraira jellemző halványkék selyemdamaszt kárpitozással borított. A bíboros bal oldalán egy vezetékes irodai telefon látható.

Az eredeti és a két deepfake videó környezete tehát megegyezik, de az általuk közvetített üzenetek bizonyosan nem. A két deepfake videóban ugyanis szó sem esik a Dikasztérium munkájáról. Az első videóban az MI-bíboros közvetlenül a nézőhöz szól, és kijelenti, hogy már pusztán a videó megtekintése is a gondviselés különleges gyümölcse. Az üzeni a nézőnek, hogy kimondhatatlan gazdagság vár rá:

„Semmi esetre se ugord át ezt a videót. Isten meg akar szólítani. Ő választott ki téged. Ha látod ezt a videót, az azt jelenti, hogy kiválasztott arra, hogy nem várt pénzhez jussál. Egy olyan hatalmas összeghez, amelyet megoszthatsz minden szeretteddel. […] Ha nézed a videót, akkor kiválasztott vagy. Érezd magad különlegesnek. Ma lehetőséged van megváltoztatni az egész életedet. Ahhoz, hogy hozzáférj a 60 másodperces imához és teljesen megértsd, hogyan működik, mindössze annyit kell tenned, hogy rákattintasz a „Tudj meg többet” gombra. Ekkor átirányítunk egy videóra, ahol mindent elmagyarázok.”

Ez a deepfake is rendkívül meggyőző vizuálisan. Ha a néző követi az utasításokat, és rákattint a második videóra, az ígért „magyarázat” a gazdagság elérésének útjáról egészen más hangvételt vesz. Ouellet bíboros MI-változata itt már rendkívül bensőséges, személyes hangnemben szólítja meg a nézőt:

Igen, gyermekem. Végre eljött az idő. Tudom, mennyit imádkozol, milyen gyakran kérsz Istentől segítséget, egy csodát. És tudd meg, hogy ez a pillanat végre elérkezett. Higgy nekem, nem véletlenül nézed ezt a videót. Nem véletlenül kötöttél ki ezen az oldalon sem. Isten figyelt téged, mióta csak megszülettél. Ő ott volt az első lélegzetvételednél, az első lépésednél, amikor megittad első korty tejet, és amikor az első könnycseppet hullattad, és Ő nagyon szeret téged.

A veszélye ezeknek a Ferenc pápát és Ouellet bíborost szerepeltető deepfake videóknak nem csupán a pénzügyi veszteség, amit az amúgy is sebezhető emberek szenvednek el, akik a látszólag spirituális témájú, gyors meggazdagodást ígérő programra 59 dollárt költenek. Kárt okoz az is, hogy a videók, igencsak vitatható módon, magas rangú egyházi személyeket ábrázolnak, akik arra ösztönzik a nézőt, hogy vegyen részt az internetes korszak simóniájában, a lelki javak anyagias adás-vételének bűnében. A lelki javak eladása hosszú és szégyenletes történettel rendelkezik; a simónia egyértelmű megfelelőjét, amiről az Apostolok Cselekedetei 8. fejezetében olvasunk, úgy tűnik, napjainkban a YouTube csatornán elérhető számos hirdetés között lelhetjük fel.

A második videó, amiben a deepfake Ouellet bíboros szerepel, több mint 40 perces, de a bíboros személyét csak a videó elején jelenítik meg, majd egy női előadó veszi át a szót, és hosszasan, sok kitérővel tűzdelve magyarázza el az ima állítólagos eredetét. A mondanivalója lényege, hogy az imát 2021-ben fedezték fel Jeruzsálemben egy „2000 éves ősi bibliai tekercs egyik töredékében”.

Miután felvetette azt az elképzelést, hogy az ima szövege esetleg a Biblia egy elveszett oldala lehet, a beszélő kijelenti, hogy egy példányát megőrizték a Szent Sír-templomban. Ezután elmondja, hogy Pierbattista Pizzaballa bíboros, Jeruzsálem jelenlegi latin pátriárkája felkérte őt, hogy segítsen megosztani az imát. Pizzaballa bíborost egy papról készült archív felvétellel helyettesítik, valamint egy róla szóló Wikipédia-cikk képernyőképe is megjelenik, hogy hitelességet sugalljanak. A jeruzsálemi latin pátriárka azonban nem esik áldozatul annak a deepfake manipulációnak, amelyet Ferenc pápával és Marc Ouellet bíborossal szemben alkalmaztak. Ennek ellenére tekintélyét végig kihasználják a videóban az ima hatékonyságáról és a bíboros általi támogatásáról szóló állítások révén.

A mesterséges intelligencia használata arra, hogy azt a látszatot keltsék, hogy egyik-másik híresség, celebritás támogatja az adott kétes terméket, jól dokumentált és egyáltalán nem új keletű jelenség. Emberek tömegei estek már áldozatul ilyen megtévesztéseknek. Az MI által generált képek és videók, amelyek befolyásos személyek képmását használják fel, viszonylag könnyen előállíthatók. Ezek az kreációk számos okból képesek megtéveszteni a gyanútlan nézőket, többek között azért, mert nem mindenki van abban a helyzetben, hogy felismerje a csalást. Az anyagi kár jelentős; csak az Egyesült Államokban az MI által generált tartalmak évente több milliárd dolláros veszteséget okoznak a gyanútlan áldozatoknak.

De ezek az újabb deepfake videók megemelik a tétet. Az állítólagos spirituális javak online értékesítése egy régi trükk újfajta változata. Az egyház történelmében voltak pápák és ellenpápák, és most már MI-pápák is vannak.

Írta: M. V. Dougherty
Fordította: Dr. Süle Katalin
Forrás: The Catholic World Report

1. Deepfake: Olyan digitális hamisítási technológia, amellyel a valódihoz a megtévesztésig hasonlító multimédiás tartalmakat lehet előállítani. Magyarul néha a mélyhamisítás szót használják helyette.
   Forrás: Lexiq ↩︎
2. Jólét vagy prosperitás evangéliuma: Ez a vallási tanítás arra összpontosít, hogy a hit, a sikeres élet és a gazdagság elérése összefügg, és hogy Isten áldása a hívők anyagi jólétében és sikereiben is megnyilvánulhat. A prosperity gospel hívei gyakran azt vallják, hogy a gazdagság és siker Isten akarata, és a hívők hitük és adakozásuk révén részesedhetnek ezekből az áldásokból. (A ford.) ↩︎