Gyónhat-e egy robot? Kiss Ulrich a mesterséges intelligencia etikai vonatkozásairól

Mesterséges intelligencia: veszély vagy esély? Ezzel a címmel rendez október 12-én szimpóziumot a Management by Jesus közösség és az ÉrMe Üzleti Hálózat. Kiss Ulrich jezsuitát, az MbJ vállalkozói szemináriumsorozatának elindítóját Szőnyi Szilárd a téma etikai kérdéseiről és arról faggatta, hogy egy üzletembernek miért érdemes felkészülnie a robotok korára.

– Tegyük fel, egy önjáró autó baleseti helyzetbe kerül, és egy tizedmásodperc alatt kell döntenie: az utcára váratlanul kirohanó óvodáscsoporton gázoljon-e át, vagy a kormányt félrerántva a másik oldalon botorkáló idős nénit üsse el. Ön melyik opciót programozná az autóba?

– Egy programozó kerülni fogja az ilyen típusú kényszerdöntést, mert akkor a törvény előtt ő lesz a felelős. A klasszikus robot, illetve Mesterséges Intelligencia (MI) megkap minden adatot, például a bíróságok korábbi döntéseit, esetleges közvélemény-kutatások eredményét, és ezeket feldolgozva hoz döntést. Persze ebben az esetben is nehéz átlátni, a programozó hogyan kerülheti ki a végső felelősséget. Viszont az emulációnak (EM) nevezett agyutánzat örökli mintájának emlékezetét, korábbi döntéseit, és azok alapján fog döntést hozni, de a gépi tanulás eredményeit is használva. Annyi biztos, hogy a dolga nem könnyebb egy emberénél.

– Ez a felvetés is mutatja, hogy a mesterséges intelligencia nem a távoli jövő kérdése, hanem immár velünk élő valóság. De attól messze vagyunk, hogy a járműnek lelkiismeretfurdalása támadjon, amiért életet oltott ki. Ön szerint egyszer eljutunk ide?

– A gépnek, amely racionálisan végiggondolja, amit beletápláltak, csak akkor lesz a lelkiismeret-furdaláshoz hasonló reakciója, ha ilyet is beletápláltak. De miért is tennék? Hisz pont azért kapja a feladatot, mert pusztán racionális alapon dönt. Az EM-típusú agyutánzat viszont korábban kialakult etikai gyakorlata szerint is dönt, bár, az emberhez hasonlóan, hozzátanul. Ha „lelkiismeret-furdalása” alakul ki, az evolúciós lépés lenne, de nagyon kérdéses, hogy a folyamatot ennyire fel lehet-e gyorsítani.

– Antropológiai és teológiai szempontból homo sapiensnek azt a lényt nevezzük, akit Isten a saját képmására teremtett. Ezt a mesterséges intelligencia soha nem lesz képes elmondani, sőt mivel őt mi hozzuk létre, a saját hasonlatosságunkra, számára mi leszünk az „isten”. Kérdés, hinni fog-e bennünk…

– A kis emberpalántát ember nemzette, és a lelkét az evolúció és a kultúra is alakította. De kérdezem én, volt-e lelke a neandervölgyinek? És ha nem, milyen evolúciós lépés választotta el a homo sapienstől? Nos, sok szakember úgy véli, az MI – de az EM mindenképpen – evolúciós lépés. Ők azt mondják, hogy ha Isten az alkotója minden lénynek, az ősrobbanástól napjainkig, akkor alkotója lesz az EM-nek is, mi legfeljebb társalkotók vagyunk. Ezekre a kérdésekre ma még nincsenek kiforrott válaszaink, de egy biztos: mivel egy EM elvileg megörökli minden emlékemet, azt is szükségszerűen megörökli, amit Istenről gondoltam.

– A szimpóziumon ilyen kérdéseket is fel fog tenni: meg lehet keresztelni egy robotot?

– Ez továbbra is kérdés marad. A későbbi válaszhoz most még csak gyűjtjük az érveket. A fő kérdés az, hogy az EM-nek van-e lelkiismerete. Mondjuk egy klasszikus robotnak nem lehet, az valóban gép. De az emberei agynak, illetve a másolatának van előtörténete. Sőt, az áteredő bűnből is részesedett „emberkorában”. Mármost ez esetben az is kérdés lehet, hogy egy EM gyónhat-e, és ha a bűnbánat feltételeinek megfelel, akkor feloldozhatom-e.

– Ön szerint az egyháznak ki kellene dolgoznia etikai irányelveket a mesterséges intelligencia területének szabályozásához, ahogy például a klónozással kapcsolatban tette?

– Sok MI-szakember úgy vélekedik, hogy bár nem tudunk semmi biztosat, hogy mindez mikor válik mindennapi valósággá, túl nagy kockázat kivárni, mivel a fejlődés felgyorsult, és később nem tudjuk szép nyugodtan megvitatni, mi a helyzet. S mivel mindez nem pusztán jogi vagy társadalmi, még csak nem is kizárólag etikai kérdés, hanem teológiai és lelkipásztori dilemma, jó volna, ha nem maradnánk le a vitában, sőt, elsőként, kezdeményezőn lépnénk fel. A lélek kérdésben mindenképp hallatni kell a szavunkat.

– Az ön számára melyek a robotika legnagyobb etikai kérdései?

– A határ kérdése. Mikortól nő túl a tervező felelősségén, egyfajta szavatosságán – amely önmagában is nagy probléma, gondoljunk csak a gyilkos robotokra – és kezdődik a lény felelőssége és ezzel felelősségre vonása? Ez nemcsak a balesetekre vonatkozik, amikor a robot arra hivatkozhat, hogy az algoritmusa ezt parancsolta, hanem mondjuk a környezetvédelmi előírásokra, melyeket elvileg könnyebb betartatni egy robottal, mint egy emberrel. A gyilkos robotok ellen mindenesetre az MI szakmai közössége felemelte a szavát, és egyértelműen a korlátozást, a tilalmat követelte.

– Utóbb a Facebook több alapítója elismerte, hogy nem mérték fel, a közösségi médiával mit szabadítanak a világra. Lát módot arra, hogy a mesterséges intelligencia terén az ember még idejében önkontrollt gyakoroljon?

– Ez globális probléma. Mint az atomfegyverek vagy a taposóaknák terén, nemzetközi összefogásra van szükség – de láttuk például a vízgazdálkodás esetében, hogy a konferenciás diskurzustól milyen nehéz eljutni a konkrét döntésekig. Ami pedig a roboturalom vízióját illeti, Csányi Vilmos etológus például tagadja, hogy az több volna, mint hiedelem. Igaz, szerzőtársával, Tóth Balázzsal épp ő mutatta ki, hogy ezek a kultúrát és az evolúciót is befolyásoló tényezők.

– Amiről most beszélgetünk, a távoli jövő kérdése. Egy keresztény vállalkozó miért menjen el a szimpóziumra, ott milyen, a saját életét, munkáját segítő válaszokat kaphat?

– Nos, bár most valóban a sci-fi határkérdéseivel foglalkoztunk, a szimpózium igyekszik átfogóan tájékoztatni az üzletembereket, hogyan fordíthatják a feltételezett fejlődést a maguk, azaz vállalkozásaik javára. Arra hívom a vállalkozókat, hogy merjenek álmodni, és játsszanak el a gondolattal: hogyan alakul majd az életünk, ha munkatársaink fele vagy éppenséggel a többsége robot lesz? A konferencián egy kreatív energiákat felszabadító víziót osztunk meg egymással, hogy mindez ne kellemetlen meglepetésként, netán katasztrófaként érje az üzletembereket, hanem megfontoltan készülhessenek fel a fogadására.

– Ha jól értem, a negyedik ipari forradalom küszöbén állunk, ha nem vagyunk már nyakig benne. Ön szerint indokolt az egykori ludditákéhoz hasonló aggodalom, miszerint a robotok elveszik az ember munkáját?

– Annyi biztos: amiként az első ipari forradalom csapást mért a mezőgazdaságra, a közeljövőben búcsút mondhatunk a legtöbb ipari munkahelynek. Ennek következtében a népesség mindössze öt százaléka fog ilyen területen dolgozni – de vajon mi lesz a többiekkel? Megnyugtató válaszaink egyelőre nincsenek. Mármost erre a jelenségre mindenképpen reagálnunk kell, már csak azért is, mert egy vállalkozó nemcsak a családjáért, hanem rajtuk kívül több száz vagy ezer beosztottjáért is felelősséget visel.

A konferenciára ezen a linken lehet jelentkezni.

Frissítve: 2018. október 10.