Vicces? Talán. Aggasztó? Határozottan igen.
Aki húsvét előtt fellépett a Twitterre, vicces fotót láthatott a szupermodern pufidzsekis Ferenc pápáról.
Vagy talán mégsem. Nem vicces, nem valódi, nem egyedi eset.
Ferenc pápa a deepfake áldozatául esett, amit a Merriam-Webster szótár úgy definiál, hogy
„olyan kép- vagy hangfelvétel, amelyet meggyőzően módosítottak és manipuláltak, hogy hamisan állítson be valakit úgy, hogy tesz vagy mond valamit, amit valójában nem tett, és nem mondott.”
Valaki viccesen a mesterséges intelligenciát (AI) használta ahhoz, hogy rocksztárként ábrázolja a pápát. Rövid ideig a világ legnagyobb részén azt hitték, hogy a kép valódi fotó.
Most viszont, hogy tudjuk, hogy hamisítvány, ellen kell állnunk annak a kísértésnek, hogy egy vállrándítással elintézzük úgy, hogy ez csak egy ártatlan tréfa; és akként kell tekintenünk a dologra, ami: egy csalás beláthatatlan következményekkel, egy aggasztó trend mellékterméke, amelynek során a mesterséges intelligencia (AI) hatalma exponenciálisan növekszik.
A mesterséges intelligencia egyik ága, a gépi tanulás egyre több és több információt halmoz fel az internetről. Algoritmusok és statisztikai modellek összegzik és elemzik ezeket az adatokat, hogy egyre bonyolultabb mintákat állítsanak elő, amelyekből a számítógépes rendszerek bizonyos következtetéseket vonnak le. Ez a folyamat emberi programozók nélkül zajlik, akik a rendszert világos utasításokkal látnák el; a rendszer lényegében megtanulja, hogy hogyan tanuljon magától.
És az eredmény? A mesterséges intelligencia eszközök párbeszédes választ tudnak adni a kérdésekre, előre- és hátramutató beszélgetéseket tudnak folytatni emberekkel, tanulmányokat tudnak írni, fényképeket és műalkotásokat tudnak készíteni, valamint sok más olyan funkciót is képesek ellátni, amelyek eredményei virtuálisan megkülönböztethetetlenek attól, amit az ember tud előállítani.
Ennek a „megtanulni tanulni”-folyamatnak számos mélyreható vonatkozása van. Az egyik aggasztó terület maga az adatminőség, amely a gépi tanulási folyamat alapjául szolgál. Nincs átfogó szabályozás, nincs felügyelet vagy számonkérés az internetre kitett információk pontosságával és erkölcsi vonatkozásaival kapcsolatban, ez pedig bonyolulttá teszi a technológia számára, hogy különbséget tegyen igazság és hazugság között.
Amint Melissa Heikkilä írja 2022. decemberi cikkében a MIT Technology Review-ban:
„Hatalmas nyelvi modelleket tanítottak be olyan adatkészleteken, amelyek az internetről összekotort szövegekre épültek, beleértve minden toxikus, ostoba, hamis és rosszindulatú irományt, amit az emberek online összeirkáltak. A kész mesterséges intelligencia modellek tényként áramoltatják vissza ezeket a valótlanságokat, végtermékük pedig mindenütt megtalálható az online világban.”
A hamis információ, akár véletlen, akár szándékos, sérüléshez vagy halálhoz vezethet, félrevezetheti az embereket, sőt, állandósíthatja a nemi, faji és más típusú előítéleteket. Ferenc pápa pufferdzsekis képe például azt a rejtett, tudatalatti üzenetet is közvetíti, hogy ő, általa pedig az egész katolikus egyház elfogadja és átveszi a fogyasztói kultúrát, a hírnév hajhászását és egyéb világias értékeket, amelyek szemben állnak a keresztény tanításokkal, és mindezt éppen egy az Egyház számára nagy jelentőségű ünnep, a húsvét alkalmával.
Még ha az emberek az eszükkel tudják is, hogy a fotó hamisítvány volt, nem tudják elfelejteni a látványt.
A másik aggasztó terület a plágium, valamint a szerzői jog és a szellemi tulajdon megsértése. A tanárok például bizonytalanok abban, hogy miként tartsák irányításuk alatt azt a jelenséget, hogy a diákok egyre gyakrabban ChatGPT chatbot segítségével írják meg a dolgozataikat. A 2023. márciusi Best Colleges-felmérés szerint a vizsgálatban részt vett amerikai hallgatók egyötöde mesterséges intelligencia eszközöket, például ChatGPT-t használ a beadandó dolgozat elkészítéséhez. Ez a típusú csalás megakadályozza a kritikai gondolkodás, az érvelés, a tervezés és a kommunikációs készségek fejlődését.
Egy névtelen személy arra használt egy mesterséges intelligencia eszközt, hogy dalhamisítványt állítson elő a Drake és a The Weekend zenészei hangjának felhasználásával; a zene gyorsan terjedt, és még nemrégiben is letöltötték különböző platformokról.
Aggodalom él a mesterséges intelligenciával kapcsolatban amiatt is, hogy helyettesítheti az emberi munkaerőt. A Business Insider című lapban megjelent cikk egy munkavállalót idéz, aki azt nyilatkozta, hogy munkájának 80%-át a ChatGPT segítségével végzi el, ez pedig képessé teszi őt arra, hogy egyidejűleg egy második állást is betöltsön munkaadója tudtán kívül.
Ez és sok más etikai aggály arra ösztönzött egy, az iparban dolgozó tisztviselőkből, tudósokból és egyéb személyekből álló, több mint ezer fős csoportot, hogy március 22-én nyílt levelet írjanak, amelyben „arra kérik a mesterséges intelligencia laboratóriumokat, hogy azonnal állítsák le legalább hat hónapra a GPT-4-esnél erősebb mesterséges intelligencia rendszerek tanítását.”
„Tényleg kell fejlesztenünk olyan nem emberi agyakat, amelyek végül munkaerő szempontjából felülmúlnak bennünket, túljárnak az eszünkön, szükségtelenné tesznek és helyettesítenek minket? Kockáztassuk meg, hogy elveszítjük a kontrollt a civilizációnk felett?”
– kérdezi a nyílt levél, amely mindenki által osztott biztonsági protokollcsomag bevezetését sürgeti az emelt szintű AI tervezés és fejlesztés számára, amelyet független külsős szakemberek ellenőriznek és felügyelnek.
Az ilyen gyors és ellenőrizetlen mesterséges intelligencia fejlesztés olyan eredményekhez vezet, amelyek sértik a katolikus egyház és a bibliai tanítások lényegét, beleértve az emberi személy méltóságát, a munka méltóságát és a bennünket szabaddá tévő igazság védelmezését. A megtévesztés egyre mélyebb, egyre nehezebb észlelni, és egyre jobban beleivódik mindennapi életünkbe, amit nem szabad tétlenül néznünk.
Írta: Cathy Majtenyi, PR-kutató az egyik ontariói egyetemen
Fordította: Forgács Hajnalka
Forrás: Catholic Register