Az Anthropic cég társalapítója a mesterséges intelligencia három etikai kihívására mutatott rá a Magnifica Humanitas bemutatóján
Christopher Olah kiemelte a világ szegényei iránti kötelességet, azt, hogy újra meg kell találni és átgondolni, mit is jelent az emberi lény számára a boldogulás és a kiteljesedés, illetve annak szükségességét, hogy a mesterséges intelligencia modellfejlesztői használják józan ítélőképességüket.
XIV. Leó pápa első enciklikájának, a Magnifica Humanitasnak a bemutatása során az Anthropic társalapítója, Christopher Olah rámutatott a mesterséges intelligencia (MI) fejlődésével járó három fő etikai kihívásra, és mélyreható mérlegelést sürgetett annak jövőjével kapcsolatban. (Az Anthropic a mesterséges intelligencia kutatásával és biztonsági kérdéseivel foglalkozó cég, amely megbízható, értelmezhető és irányítható MI-rendszerek fejlesztésén dolgozik. – A szerk.)
Május 25-én, a vatikáni szinódusi teremben összegyűlt tudományos, diplomáciai és vallási körök képviselői előtt Olah kijelentette, hogy a MI által felvetett kérdések „túlmutatnak a kutatói közösségen”, és nem hagyhatók kizárólag a tudósok vagy a technológiai vállalatok kezében.
„Szükségünk van arra, hogy a világ szélesebb rétegei – a vallási közösségek, a civil társadalom, tudósok, kormányzatok és valójában minden jóakaratú ember – is úgy cselekedjenek, mint Őszentsége most: vegyék komolyan a kérdést, vizsgálják meg alaposan, és tereljék jobb irányba az eseményeket”
– jelentette ki.
Olah azzal kezdte a beszédét, hogy elismerte, még a legfejlettebb mesterséges intelligencia laboratóriumok, beleértve az Anthropicot is, gazdasági, geopolitikai és személyes ösztönzők alapján működnek, amelyek ellentmondásba kerülhetnek a közjóval.
„Nagy a nyomás, hogy a kereskedelmi életképességet megőrizzék, és a kutatás élvonalában maradjanak; nagy a geopolitikai nyomás, és persze megjelenik a régi, közönséges emberi büszkeség és ambíció is”. Ezek a jelenségek óhatatlanul befolyásolják az MI technológia fejlesztőit – jegyezte meg.
Mindezeket figyelembe véve hangsúlyozta annak fontosságát, hogy legyenek olyan külső hangok, amelyek képesek megkérdőjelezni és felügyelni a mesterséges intelligencia fejlesztését.
„Ha azt akarjuk, hogy ez a technológia jól működjön, rendkívül fontos, hogy legyenek mások is, akik kívül állnak a fenti ösztönzőkön – olyanok, akik törődnek azzal, hogy minden jó irányba menjen, akik ragaszkodnak a biztonsághoz, odafigyelnek és hajlandóak kemény dolgokat kimondani” – jegyezte meg.
Ebben az összefüggésben Olah „rendkívül időszerűnek” tartotta a XIV. Leó pápa által szorgalmazott tisztánlátást és megkülönböztetést, és három fő kérdést vázolt fel, ahol az egyház hangjára szükség van.
1. Kötelesség a világ szegényeivel szemben
Az első fő aggály, melyet Olah felvetett, az a mesterséges intelligenciának a munkára és a globális egyenlőtlenségekre gyakorolt hatása volt.
„A mesterséges intelligencia fejlesztése néhány gazdag országban koncentrálódik. Hogyan biztosíthatjuk, hogy a mesterséges intelligencia előnyeiből világszerte részesüljenek?” – kérdezte.
Figyelmeztetett arra a „valós lehetőségre”, hogy a mesterséges intelligencia „nagymértékben kiszoríthatja az emberi munkaerőt”, ami az érintett munkavállalók támogatását „történelmi léptékű erkölcsi kötelességgé” tenné.
Ugyanakkor megjegyezte, hogy létezik egy még összetettebb kihívás is: hiányoznak a gazdasági előnyök igazságos elosztására alkalmas mechanizmusok.
„Nincs erre mechanizmusunk. Ez a probléma megoldatlan, és pontosan az a fajta probléma, amelynél az egyház történelmileg soha nem engedte, hogy a világ semmibe vegye” – mondta.
2. Újra felfedezni és újragondolni, mit is jelent az emberi boldogulás
Az Anthropic társalapítója által felvetett második szempont az volt, hogy a technológiai fejlődést az emberi és családi boldogulás szemszögéből kell megközelíteni.
„Ha az MI-modellek széles körben elterjednek, hogyan fog kinézni az emberek, a családok és a világ fejlődése és kiteljesedése?” – kérdezte.
„Ezek nem olyan kérdések, amelyeket egy laboratórium meg tudna válaszolni” – folytatta.
Olah megjegyezte, hogy sok szülő már most aggódik a technológia gyermekeik gondolkodásmódjára gyakorolt hatása miatt, miközben sokan a munkájuk jövőjét illetően bizonytalanok.
Ebben a tekintetben kiemelte az egyház szerepét, amely évezredek óta gondolkodik az emberi méltóságról és az élet értelméről. Olah hangsúlyozta, hogy az Egyház ilyen jellegű munkájának folytatására „a történelem eme új pillanatában” is nagy szükség van.
3. Szükség van az MI-modellek fejlesztőinek józan ítélőképességére
Olah harmadik aggálya a mesterséges intelligencia rendszereknek a belső természetével kapcsolatos, amiről azt mondta, hogy továbbra is rejtélyes, még azok számára is, akik részt vesznek a fejlesztésben.
„Én tudós vagyok. Egy kutatócsoportot vezetek, amely ezeknek a modelleknek a belső szerkezetét vizsgálja: azt, hogy mi is történik valójában bennük. És őszinte leszek: folyamatosan találkozunk rejtélyes, sőt nyugtalanító dolgokkal” – jelentette ki.
A megfigyelések között olyan belső struktúrákat említett, amelyek „az emberi idegtudományban ismert eredményekre hasonlítanak”, valamint olyan, az önelemzésre és belső állapotokra utaló jeleket, amelyek „működésükben az örömöt, az elégedettséget, a félelmet, a bánatot és a nyugtalanságot idézik”.
„Nem tudom, mit jelent ez, de azt hiszem, indokolt, hogy folyamatosan mérlegeljük a fejlesztéseket” – mutatott rá.
A jelenséget ahhoz hasonlította, mint amikor egy „kitalált karaktert életre keltenek”, és megjegyezte, hogy „egy rendkívüli világba lépünk be, ahol ezek a kitalált karakterek beszélnek hozzánk, dolgoznak, munkájuk van”.
Beszéde zárásaként Olah felszólította a társadalom többi rétegét, hogy kövessék XIV. Leó pápa példáját, és komolyan foglalkozzanak a mesterséges intelligencia jelenségével.
„Olyan erkölcsi hangokra van szükségünk, amelyeket a gazdasági vagy egyéni érdekek nem tudnak megtörni. A mai nap csak a kezdet – egy hosszú együttműködés kezdete azok között, akik ezt fejlesztjük, és azok között, akik látják azt, amit mi belülről nem látunk”
– jegyezte meg.
Fordította: Eiben Ingeborg
Forrás: EWTN News
