„Algor-etika”: új etika a mesterséges intelligencia (MI) felelősségteljes és etikus megközelítésére
Ferenc pápa tanítása, miközben elismeri a mai digitális galaxis óriási fejlődését és a benne rejlő pozitív lehetőségeket, határozottan felhívja a figyelmet az etikai elvek szükségszerű betartására, mind a kutatásban, mind az alkalmazott technológiák alkalmazásában – számolt be a Pápai Életvédő Akadémia és a pápa kezdeményezéséről 2020. február 28-án a Vatican News „Ferenc pápa a mesterséges intelligenciáról: Etikai felelősséggel kell eljárni” címmel megjelent tudósítása.
Ferenc pápa beszéde (amelyet a pápa gyengélkedése miatt végül is Vincenzo Paglia érsek, a Pápai Életvédő Akadémia elnöke olvasott fel) azt javasolja, hogy a mesterséges intelligencia világában meg kell teremteni a megfelelő sajátos felelősséget, és ezt ő „algor-etikának” nevezi. Az algor-etika minden egyes ember és az ember, mint személy átfogó szolgálatában áll, anélkül, hogy bárkit is kizárna. A pápa egy olyan hidat vizionál az algor-etikában, mely a digitális technológiákat összekapcsolja az etikai alapelvekkel – zárul a Vatican News híradása.
De mi is ez a Római felhívás és az algor-etika?
A „Rome Call for AI Ethics” (Felhívás a mesterséges intelligencia etikájáért) egy olyan dokumentum, – a Római Felhívás hivatalos weboldalának bevezetője szerint – amelyet a Pápai Életvédő Akadémia, a Microsoft, az IBM, a FAO és az olasz Innovációs Minisztérium írtak alá 2020. február 28-án Rómában a mesterséges intelligencia etikus megközelítése előmozdítása érdekében. A dokumentum nemzetközi szervezetek, kormányok, intézmények és a magánszféra közös felelősségtudatának előmozdítása révén olyan jövő megteremtésén fáradozik, amelyben a digitális innováció és a technológiai fejlődés fenntartja és biztosítja minden egyes emberi személy központi szerepét. Egy új algor-etika kidolgozására rámutatva az aláírók elkötelezték magukat amellett, hogy csak olyan mesterséges intelligencia kifejlesztését szorgalmazzák, amely minden egyes emberi személyt és az emberiség egészét szolgálja; tiszteletben tartja az emberi méltóságot, hogy így minden egyes személy részesülhessen a technológia fejlődésében; és amelynek éppen ezért nem lehet kizárólagos célja a profit növelése, ahogy az emberi munkaerő fokozatos kiváltása sem.

A Római felhívás a mesterséges intelligencia etikájáért 3 hatásterületet és 6 alapelvet foglal magában – írja a The Rome Call.org, a Római Felhívás hivatalos oldala bevezetőjében.
(Mindazonáltal már önmagában a cím is elgondolkodtató szójátékot rejt, tudniillik, hogy az angol ’call’ a ’hívás’ (’elhívás’; ’meghívás’) jelentéstartalommal is bír, és ekként mintha utalna arra az Istentől származó mindenkor érvényes (meg)hívásra is, hogy a pápa által ’digitális galaxis óriási fejlődésének’ aposztrofált folyamatot Isten Országának épülésére és Isten nagyobb dicsőségére használjuk fel, ehhez Isten és a pápa szándéka szerint csatlakozzunk.)
Feltételezhetően a Covid-világjárvány miatt csak 2023. január 10-én kerülhetett sor a Felhívás további bővülésére, (amint azt a Rome Call oldal is hírül adja) amennyiben a három nagy ábrahámi vallás (a judaizmus, a kereszténység és az iszlám) képviselői aláírták a Római Felhívást és közös nyilatkozatban fordultak a világhoz a mesterséges intelligencia etikus fejlesztése melletti elköteleződés érdekében.
A Vatikán RenAIssance Alapítványának közreműködésével létrejött, „A mesterséges intelligencia etikája: ábrahámi elkötelezettség a Római Felhívás mellett” című rendezvényen az Egyesült Arab Emírségek „Abu Dhabi Fóruma a Békéért” az iszlám, illetve az Izraeli Főrabbinátus Vallásközi Kapcsolatok Bizottságának a zsidó vallás képviselőiként csatlakoztak a dokumentumhoz, majd az aláírást követően őket és korábbi aláírókat is fogadta Ferenc pápa.

Az esemény nyitányaként ezekkel a szavakkal köszöntötte a delegációkat Vincenzo Paglia érsek, a Pápai Életvédő Akadémia és a RenAIssance Alapítvány elnöke:
“Zsidó és muzulmán testvéreinkkel együtt gyűltünk össze egy nagy jelentőségű eseményen, hogy felszólítsuk a világot, hogy a testvériség és a béke nevében gondolkodjon és cselekedjen – a technológia területén is. A Római Felhívás aláírása a zsidó és a muszlim vallási vezetők által, valamint a közös törekvés, hogy az algor-etika irányítsa a mesterséges intelligencia fejlesztését, pontosan arra az egyre sürgetőbb szükségletre válaszol, hogy a béke, a kölcsönös tisztelet, a párbeszéd és a közösség útjait építsük”.
Paolo Benanti atya a Pápai Gergely Egyetem Technológiai Etika címzetes professzora és a RenAIssance Alapítvány tudományos igazgatója beszédében kijelentette:
“Az embereket és jogaikat tiszteletben tartó algor-etika kidolgozáshoz tisztázni kell értékeink tartalmát. Az algoritmusok numerikus értékekkel dolgoznak. Ezzel szemben az etika az erkölcsi értékeket veszi célba. Olyan nyelvet kell megalkotni, amely képes az erkölcsi értékeket a gép nyelvére lefordítani. Az ember-gép viszonyban a valódi szakértő és az értékek hordozója mindenkor az ember. Az emberi méltóság és az emberi jogok ráirányítják a figyelmet, hogy az embert kell védeni ebben a viszonylatban is.”
A delegációt ezt követően fogadta a pápa és következő szavakat intézte hozzájuk (részlet):
„Hálás vagyok a Pápai Élet Akadémiának és a RenAIssance Alapítványnak, hogy a Római Felhíváson keresztül elkötelezetten támogatják egy közös etika kidolgozását, amely válasz lehet a mesterséges intelligencia terén előttünk álló kihívásokra. A 2020. évi aláírás után a mai eseményen a zsidó és az iszlám vallás delegációi is részt vesznek, akik a mesterséges intelligenciát a Fratelli Tutti enciklika szavai által inspirált perspektívából vizsgálják. Azzal, hogy egyetértettünk egy olyan kultúra előmozdításában, amely ezt a technológiát mindenki közös javának és közös otthonunk gondozásának szolgálatába állítja, sokaknak példát mutatunk. A világméretű testvériség ugyanis az előfeltétele annak, hogy a technológiai fejlődés az egész világon az igazságosság és a béke szolgálatába álljon.
Mindannyian tisztában vagyunk azzal, hogy a mesterséges intelligencia egyre inkább jelen van az élet minden területén, mind a személyes, mind a társadalmi életben. Hatással van arra, ahogyan a világot és önmagunkat értelmezzük. Az innováció ezen a területen azt eredményezi, hogy ezek az eszközök egyre inkább döntő szerepet játszanak az emberi tevékenységben, sőt, az emberi döntéshozatalban is kényszerítő erejük van. Arra bátorítom tehát Önöket, hogy folytassák ebbéli törekvésüket. Örömmel értesültem róla, hogy a többi nagy világvallást és minden jóakaratú embert is be kívánnak vonni ebbe a folyamatba, hogy az “algor-etika” – az algoritmusok használatára vonatkozó etikai megfontolások – egyre inkább teret nyerjen nemcsak a nyilvános vitában, hanem a technikai megoldások kidolgozásában is. Mert valóban, minden ember számára biztosítani kell az emberi és támogató fejlődés lehetőségét, anélkül, hogy abból bárkit is kizárnánk. Ébernek kell tehát lennünk, és azon kell dolgoznunk, hogy ezen eszközök kirekesztő használata nehogy gyökeret eresszen a legsebezhetőbb és legkirekesztettebbek kárára. Mindig tartsuk szem előtt, hogy az, ahogyan az utolsó és legkisebb testvéreinkkel bánunk, arról az értékről árulkodik, amelyet az emberi életnek tulajdonítunk. Vegyük a menedékkérők példáját: nem elfogadható, hogy valakinek az életéről és jövőjéről szóló döntést egy algoritmusra bízzuk.
A Római Felhívás hasznos eszköze lehet a minden ember közötti, világméretű párbeszédnek, hogy elősegítsük az új technológiák emberközpontú fejlesztését-fejlődését. Ebben a tekintetben szeretném megismételni, hogy “a világról alkotott különböző elképzelések találkozásában az emberi jogok fontos konvergenciapontot jelentenek a közös alapok keresésében. Jelenleg úgy tűnik, hogy szükség van a jogok és kötelességek újfajta mérlegelésére ezen a területen. A digitális korszak átalakulásainak kiterjedése és felgyorsulása valójában olyan előre nem látható problémákat és helyzeteket vetett fel, amelyek kihívást jelentenek az egyéni és kollektív erkölcs számára” (részlet a Pápai Életvédő Akadémia teljes közgyűléséhez intézett beszédből, 2020. február 28.). A Római Felhíváshoz való csatlakozások egyre növekvő száma jelentős lépést jelent a digitális antropológia előmozdítása felé, amelynek három alapvető pillére az etika, az oktatás és a jog”
– mondta a pápa. A pápa teljes beszéde itt olvasható.
A továbbiakban közreadjuk a Római Felhívás szövegét, amelynek támogatói és aláírói között tekintélyes magánszemélyeket és cégeket találunk, és amelyhez továbbra is lehet csatlakozni. A támogatók listája, amely az első aláírás óta jelentősen bővült, megtalálható a The Rome Call (A Római Felhívás) hivatalos oldalán.
Római felhívás a mesterséges intelligencia etikájáért
A „mesterséges intelligencia” (MI) mélyreható változásokhoz vezet az emberek életében, és ez a jövőben is folytatódni fog. Ami a társadalmi együttélés javítását, a személyes jóllét emelését, az emberi képességek gazdagítását, valamint számos feladat hatékonyabb és eredményesebb elvégzésének lehetővé tételét vagy megkönnyítését illeti, az MI óriási lehetőségeket rejt magában. Ezek az eredmények azonban korántsem garantáltak. A jelenleg zajló átalakulások nem csupán kvantitatív jellegűek. Mindenekelőtt kvalitatívak, mivel befolyásolják e feladatok végrehajtásának módját, valamint azt, ahogyan a valóságot és magát az emberi természetet érzékeljük, olyannyira, hogy mentális és interperszonális szokásainkat is befolyásolhatják. Az új technológiát olyan kritériumok szerint kell kutatni és megalkotni, amelyek biztosítják, hogy az valóban az “emberiség egész családját” szolgálja (Preambulum, Emberi Jogok Egyetemes Nyilatkozata – EJENY), tiszteletben tartva minden egyes tagjának és az egész természeti környezetnek eredendő méltóságát, és figyelembe véve a legkiszolgáltatottabbak szükségleteit. A cél nemcsak az, hogy senkit ne rekesszünk ki, hanem az is, hogy kiterjesszük a szabadság azon területeit, amelyeket az algoritmikus kondicionálás veszélyeztethet.
Tekintettel a digitális átalakulás által felvetett kérdések innovatív és összetett jellegére, alapvető fontosságú, hogy az összes érintett érdekelt fél együttműködjék, és az összes olyan szükséglet, amelyre az MI hatással van, megfelelő figyelmet kapjon. Ez a Felhívás egy lépés a közös megértés, a közös nyelv és a közös megoldások keresése érdekében. Erre alapozva felismerhetjük és felvállalhatjuk azokat a felelősségeket, amelyek figyelembe veszik a technológiai innováció teljes folyamatát a tervezéstől a terjesztésen át a felhasználásig, és amelyek valódi elköteleződésre ösztönöznek a gyakorlati helyzetekben.
Hosszú távon azok az értékek és elvek, amelyeket képesek vagyunk a mesterséges intelligenciába oltani, segíteni fognak egy olyan keret létrehozásában, amely szabályozza a digitális etikát, hivatkozási pontként szolgál neki, irányítja cselekedeteinket, és elősegíti a technológia használatát az emberiség és a környezet javára. Minden korábbinál jobban kell garantálnunk egy olyan szemléletet, amelyben a MI fejlesztése nem a technológiára összpontosít, hanem sokkal inkább az emberiség és a környezet, közös és közösen használt otthonunk és annak elválaszthatatlanul összetartozó emberlakói javát szolgálja. Más szóval, egy olyan jövőképre van szükség, amelyben az ember és a természet áll a digitális innováció fejlesztésének középpontjában, és amelyben ezek a technológiák, melyek értelmes szereplőkként viselkednek, ugyanakkor semmiképpen sem emberek, nem fokozatosan felváltják az embert, hanem támogatják. Itt az ideje, hogy elkezdjünk felkészülni egy jobban technológiai karakterű jövőre, ahol a gépeknek egyre nagyobb szerep jut az emberek életében, de ami egyben egy olyan jövő is, amelyben egyértelmű, hogy a technológiai fejlődés erősíti az emberi faj nagyszerűségét, és továbbra is függ az etikai integritásától.
Etikai kérdések
Minden emberi személy szabadnak születik, és egyenlő méltósága és joga van. Az emberek, ésszel és lelkiismerettel bírván, egymással szemben testvéri szellemben kell hogy viseltessenek. (vö. 1. cikk, EJENY). A szabadságnak és a méltóságnak ezt az alapvető feltételét az MI-rendszerek megalkotása és használata során is védeni és garantálni kell. Ezt az egyének jogainak és szabadságának védelmével kell elérni, úgy, hogy az algoritmusok ne alkalmazzanak velük szemben “fajra, színre, nemre, nyelvre, vallásra, politikai vagy más véleményre, nemzeti vagy társadalmi származásra, vagyonra, születésre vagy más körülményre vonatkozó” megkülönböztetést (2. cikk, EJENY). Az MI-rendszereket úgy kell elgondolni, megtervezni és megvalósítani, hogy azok szolgálják és védjék az embereket és azt a környezetet, amelyben az ember él. Ennek az alapvető szemléletnek olyan (társadalmi és személyes) életkörülmények megteremtése iránti elkötelezettségben kell megnyilvánulnia, amelyek lehetővé teszik mind a csoportok, mind az egyének számára az önkifejezést és kiteljesedést mindenütt, ahol ez lehetséges.
Annak érdekében, hogy a technológiai fejlesztés igazodjon az emberi faj valódi fejlődéséhez és a bolygó tiszteletben tartásához, három követelménynek kell megfelelnie. Minden emberre tekintettel kell lennie, senkit sem szabad hátrányosan megkülönböztetnie; az emberiség javát és minden ember javát kell a szívén kell viselnie; végül pedig figyelembe kell vennie ökoszisztémánk összetett valóságát, és az legyen a legfőbb jellemzője, hogy fokozottan fenntartható megközelítéssel gondozza és védi a bolygót (“közös otthonunkat, amelyen mindannyian osztozunk”). Ebbe a jövőben beleértendő a mesterséges intelligencia alkalmazása a fenntartható élelmiszerláncok biztosításában. Emellett minden embernek tudnia kell, mikor lép géppel interakcióba.
A mesterséges intelligencián alapuló technológiát soha nem szabad arra használni, hogy bármilyen módon kizsákmányolja az embereket, különösen a legkiszolgáltatottabbakat. Ehelyett arra kell használni, hogy segítse az embereket képességeik kibontakoztatásában (képessé tétel), valamint hogy megóvja a bolygót.
Oktatás
A világ átalakítása az MI innováció révén azt is jelenti, hogy a fiatalabb nemzedékek számára és velük együtt építjük a jövőt. Ennek a vállalásnak tükröződnie kell az oktatás iránti elkötelezettségben, a humán tudományok, a természettudományok és a technológia különböző szakterületeihez tartozó speciális tantervek kidolgozásában, valamint a fiatalabb generációk oktatásáért való felelősségvállalásban. Ez az elkötelezettség azt jelenti, hogy a fiataloknak nyújtott oktatás minőségének javításán kell dolgoznunk; és ezt olyan módszerekkel kell megvalósítani, amelyek mindenki számára hozzáférhetőek, nem diszkriminálnak, és amelyek esélyegyenlőséget és egyenlő bánásmódot biztosítanak. Az oktatáshoz való egyetemes hozzáférést a szolidaritás és a méltányosság elveinek alkalmazásával kell elérni.
Az egész életen át tartó tanuláshoz való hozzáférést az idősek számára is biztosítani kell, így számukra a digitális és technológiai átállás során meg kell adni a lehetőséget az off-line szolgáltatásokhoz való hozzáférésre. Ezek a technológiák továbbá rendkívül hasznosnak bizonyulhatnak a fogyatékkal élők tanulásának és önállósodásának előmozdításában: az inkluzív oktatás tehát azt is jelenti, hogy a mesterséges intelligenciát minden egyes ember támogatására és integrálására kell használni, segítséget és lehetőségeket kínálva a társadalmi részvételre (pl. távmunka a mozgásukban korlátozottaknak, technológiai támogatás a kognitív zavarokkal küzdőknek stb.).
A mesterséges intelligencia által a társadalomban, a munkában és az oktatásban kiváltott átalakulások hatása elengedhetetlenné teszi az iskolai tantervek átdolgozását annak érdekében, hogy a “senkit sem hagyunk hátra” oktatási jelmondat valósággá váljon. Az oktatási ágazatban reformokra van szükség a magas szintű és objektív normák felállítása érdekében, amelyek javíthatják az egyéni eredményeket. Ezek a normák nem korlátozódhatnak csupán a digitális készségek fejlesztésére, sokkal inkább arra kell fókuszálniuk, hogy minden egyes ember teljes mértékben ki tudja bontakoztatni képességeit, és így képessé váljon közösség javára munkálkodni, még akkor is, ha ebből személyes haszna nem származik.
A holnap társadalmának tervezése és kialakítása során a mesterséges intelligencia használatának olyan cselekvési formákat kell követnie, amelyek szociális irányultságúak, kreatívak, kapcsolatteremtőek, gyümölcsözőek, felelősségteljesek, és képesek kedvező hatást gyakorolni a fiatalabb nemzedékek személyes és társadalmi életére. A mesterséges intelligencia társadalmi és etikai hatásának központi elemmé kell válnia a mesterséges intelligencia oktatásában is.
Ennek az oktatómunkának az legyen a fő célja, hogy tudatosítsa az MI által a társadalmi befogadás és az egyén tiszteletben tartása terén kínált lehetőségeket, és felhívja a figyelmet a lehetséges kritikus kérdésekre.
Jogok
Az emberiséget és a bolygót szolgáló MI fejlesztésének olyan szabályozásokban és elvekben kell tükröződnie, amelyek védik az embert – különösen a gyengéket és a hátrányos helyzetűeket -, valamint a természeti környezetet. Az összes érdekelt fél etikai elkötelezettsége kulcsfontosságú kiindulópont; és ahhoz, hogy ez a jövő valósággá váljon, elengedhetetlenül szükségesek az értékek, elvek és bizonyos esetekben a jogi szabályozások, amelyek támogatják, strukturálják és irányítják ezt a folyamatot.
Az emberiség és a bolygó javát szolgáló, ugyanakkor a nemzetközi béke megteremtését és fenntartását támogató eszközként működő mesterséges intelligencia-rendszerek kifejlesztése és megvalósítása érdekében a MI-fejlesztésnek erőteljes digitális biztonsági intézkedésekkel kell együtt járnia.
Ahhoz, hogy a mesterséges intelligencia az emberiség és a bolygó javát szolgáló eszközként működjön, a közbeszéd középpontjába kell helyezni az emberi jogok digitális korszakbéli védelmének témáját. Eljött az ideje annak, hogy feltegyük a kérdést, vajon az automatizálás és az algoritmikus tevékenység új formái szükségessé teszik-e az erőteljesebb felelősségvállalást. Különösen fontos lesz egyfajta “megmagyarázási kötelezettség” megfontolása: el kell gondolkodnunk azon, hogy ne csak az MI-alapú algoritmikus ágensek döntéshozatali kritériumait tegyük érthetővé, hanem azok célját és célkitűzéseit is. Az eszközöknek képesnek kell lenniük arra, hogy az egyéneknek tájékoztatást nyújtsanak a döntések meghozatalához használt algoritmusok mögött meghúzódó logikáról. Ez növelni fogja az átláthatóságot, a nyomon követhetőséget és a felelősséget (vagy számon kérhetőséget), és egyúttal a számítógéppel támogatott döntéshozatali folyamatot hitelesebbé teszi.
Ösztönözni kell a szabályozás új formáit az átláthatóság és az etikai elvek betartásának előmozdítása érdekében, különösen az olyan fejlett technológiák esetében, amelyeknél nagy a kockázata az emberi jogok megsértésének, mint például az arcfelismerés esetében.
E célok eléréséhez minden algoritmus fejlesztésének első lépéseként egy “algor-etikai” vízióból kell kiindulni, azaz már magát a tervezést is etikai megközelítéssel kell kezelni. A megbízható mesterséges intelligencia rendszerek tervezése és kialakítása magában foglalja a politikai döntéshozók, az ENSZ-rendszerébe kapcsolódó, illetve más kormányközi szervezetek, a kutatók, az akadémiai világ és a nem kormányzati szervezetek képviselői közötti konszenzus keresését azokkal az etikai elvekkel kapcsolatban, amelyeket be kell építeni ezekbe a technológiákba. Ezért a felhívás támogatói kifejezik azon szándékukat, hogy ebben az összefüggésben, nemzeti és nemzetközi szinten közösen dolgozzanak az “algor-etika”, azaz a mesterséges intelligencia etikus használatának előmozdításán, amelyet az alábbi elvek határoznak meg:
- Átláthatóság: a mesterséges intelligencia rendszereknek alapvetően megmagyarázhatónak kell lenniük.
- Befogadás: minden ember szükségleteit figyelembe kell venni, annak érdekében, hogy mindenki részesüljön az MI előnyeiből, és minden személynek a lehető legjobb feltételeket biztosítsa az önkifejezéshez és a fejlődéshez;
- Felelősség: azoknak, akik a mesterséges intelligenciát tervezik és használják, mindenkor felelősségteljesen és átláthatóan kell eljárniuk;
- Részrehajlás-nélküliség: nem szabad elfogultság mentén alkotni vagy cselekedni, ezzel biztosítva a méltányosságot és az emberi méltóságot;
- Megbízhatóság: Az MI-rendszereknek képesnek kell lenniük megbízhatóan működni;
- Biztonság és adatvédelem: A mesterséges intelligencia rendszereknek biztonságosan kell működniük, és tiszteletben kell tartaniuk a felhasználók magánéletét. Ezek az elvek a jó innováció alapvető elemei.
6 etikai alapelv
- Átláthatóság – A mesterséges intelligencia rendszereknek mindenki számára érthetőnek kell lenniük.
- Befogadás – Az MI rendszerek nem diszkriminálhatnak senkit, mert minden ember egyenlő méltósággal rendelkezik.
- Felelősség – Mindig kell lennie olyan személynek, aki felelősséget vállal azért, amit egy adott gép tesz.
- Részrehajlás-nélküliség – A mesterséges intelligencia rendszerek nem követhetnek vagy gerjeszthetnek előítéleteket.
- Megbízhatóság – A mesterséges intelligenciának megbízhatónak kell lennie.
- Biztonság és adatvédelem – Az MI rendszereknek biztonságosnak kell lenniük, és tiszteletben kell tartaniuk a felhasználók magánéletét.