Persze ettől függetlenül bizonyos erkölcsi kérdések a kezdetektől a levegőben lógnak: például, ha az úttest egyik felén egy csapat gyerek, míg a másikon egy kutya vagy egy idős hölgy tartózkodik, kivel kerülje el az autó az ütközést? Vagy mondjuk mit tegyen a robotpilóta, ha egy kisgyerek kiszalad az úttestre egy családot szállító autó elé? Üsse el a gyereket, vagy sodorja életveszélybe a családot a kormány félrerántásával?

Az ilyen és hasonló kérdések megválaszolására alakult egy pszichológusokból és informatikusokból álló kutatócsoport, akik szintén 2018-ban átfogó véleményvizsgálatot végeztek az Egyesült Államokban élők körében azzal kapcsolatban, szerintük milyen viselkedés várható el egy önvezető autótól.

A féltucat különféle szempontok szerint összeállított online kérdőív egyik legfőbb tanulsága végül az lett, hogy a válaszadók többsége egy idealizált világra vágyik, ahol mindenki önvezető autóval jár, és ahol minimális a közlekedési balesetek áldozatainak száma, ugyanakkor egyúttal azt szeretnék, ha saját autójuk minden áron megvédené a benne ülők testi épségét.

Amikor a kutatók arról kérdezték a résztvevőket, hogy ha egy önvezető autó mégis kizárólag az utasok veszélyeztetésével kerülheti el a két, három vagy tíz gyalogossal történő ütközést, az alanyok többsége határozottan kijelentette, hogy a mesterséges rendszer ilyen esetben az utasokat áldozza fel a tömegszerencsétlenség elkerülése érdekében. Még akkor is elég egyöntetű válaszok születtek, amikor arra kérték őket, hogy úgy válaszoljanak, mintha ők és családtagjaik lennének az utasok.

Az egyik kérdőív kitöltőinek hetvenöt százaléka úgy vélte, ha tíz gyalogos és egy utas között kell választani, a gépkocsi utasának feláldozása a helyes döntés. Vagyis mindebből arra következtethetünk, hogy az emberek többsége (morális szempontból) egyetért azzal, hogy az autóknak vészhelyzet esetén a minél kevesebb áldozatszám elérésre kell törekedniük, akár az utasok feláldozása árán is.

Amikor viszont a kutatók arra voltak kíváncsiak, hogy önvezető autó vásárlásánál inkább a haszonelvű (az áldozatok számát minimalizáló), vagy az önző (az utasok védelmét figyelembe vevő) gépkocsi mellett döntenének-e, a többség utóbbira voksolt.

A haszonelvűség tehát csak addig hangzik jól, amíg mások élete a tét, de amint saját kocsivásárlás következik, az önzőség kerül ki győztesen. - vélekednek a kutatók.

A dilemma további vizsgálatára a kutatók egy közösségi platformot is létrehoztak, ahol egy feladatsor kitöltésével bárki alakíthatja a közvéleményt azzal kapcsolatban, hogyan kellene dönteniük az önvezető autóknak morálisan kétséges helyzetekben.

A Moral Machine oldalára kattintók eldönthetik, hogy végzetes fékhiba esetén inkább két utast vagy öt gyalogost áldoznának-e fel, merthogy az ütközés a szimulált helyzetekben mindig valakinek a halálával végződik. Valamint olyan problémák is felmerülnek, hogyan változhat a döntés aszerint, ha nők, férfiak, gyerekek, idősek, kutyák, a piroson átszaladók vagy éppen bűnözők bukkannak fel az áldozatok között.

A tesztet kitöltő mindemellett azt is kiderítheti, hogy döntései hogyan viszonyulnak mások válaszaihoz, illetve részletesen megindokolhatják döntéseiket, majd azokat szabadon megvitathatják a többiekkel. Sőt, akár saját morális dilemmákat is létrehozhatnak a felületen. Mindent egybevetve a közösségi platform célja, hogy tudományos keretek közt vizsgálja az emberi vélekedést a gépek moralitásáról, mondja Iyad Rahwan, a Moral Machine egyik alapítója.

Bár a Moral Machine bizarr volta ellenére kétségkívül jó játék, több szakértő szerint, alapvetően téves feltevéseken alapul, ezért a fejlesztés szempontjából ebben a formájában vajmi kevés gyakorlati haszna van.

A legnagyobb probléma, hogy mindkét vizsgálat azt feltételezi, hogy az emberi sofőrök ugyanúgy erkölcsi alapon hozzák döntéseiket vészhelyzetekben, mint ahogy azt a gépektől elvárjuk.

Michael Ramsey, a Gartner önvezető járművekkel foglalkozó elemzője szerint pedig hasonló esetben leginkább csak pánikolunk, és képtelenek vagyunk arra gondolni, hogy morális szempontból a tilosban járó nagymama vagy a zöldön átszaladó rabló elütésével döntenénk-e helyesen. Elvégre az emberi autóvezetők vészhelyzetekben többnyire egy dologra törekednek: hogy elkerüljék az ütközést, nem pedig arra, hogy közben kinek esik baja és ki menekül meg. Ramsey véleményét mások is osztják:

„Ez a probléma borzasztóan túlértékelt” – mondja Bryant Walker Smith, az autonóm gépjárművekkel kapcsolatos kérdések jogi képviselője.

Míg Jeffrey Miller, a Dél-Kaliforniai Egyetem kutatója szerint az önvezető autókkal kapcsolatosan korántsem az a legfontosabb morális kérdés, hogy adott helyzetben két csoport közül kit öljön meg a jármű. Ami lényegesebb, hogy milyen helyzetekben szegjen közlekedési szabályokat, ha ezzel növeli a közlekedésbiztonságot.

A szakértő megjegyzi, hogy a fenti morális döntések ténylegesen hozzátartoznak a hús-vér sofőrök mindennapjaihoz, a platform viszont figyelmen kívül hagyja ezeket a problémákat. Nem is beszélve a vázolt helyzetek képtelenségéről, hiszen azt sugallják, hogy a jármű gyors sebessége miatt nem tud megállni, arra mégis képes, hogy egy kismamát megkülönböztessen egy gyerektől vagy egy nagymamától. - mondja Ramsey.

Mivel erre alkalmas technológia jelenleg nincs, az önvezető járművek még jó ideig biztosan nem észlelik a faktorokat, melyek alapján a közvélemény szerint mérlegelniük kellene. Rahwan egyetért a probléma összetettségével, ám szerinte az eddigi vizsgálat eredményei alapján kidolgozható egy olyan gépi döntési mechanizmus, amivel az emberiség remekül együtt élhetne.

A platform továbbá olyan kérdések is választ adhat, minthogy be kell-e avatkoznia a rendvédelmi szerveknek, ha az egyik gyártó olyan autót dob piacra, ami ugyan nagyobb utasbiztonságot nyújt, de magasabb eséllyel üt el gyalogosokat versenytársához képest. Az oldal legérdekesebb extrája pedig alighanem annak felmérése, mit gondolnak az emberek a gépi moralitásról, illetve, hogy gondolataik milyen kulturális és regionális sajátságokat tükröznek. A Moral Machine-nak egyébként mostanra több mint kétmillió látogatója volt, akik több mint tizennégymillió döntést hoztak a tesztek kitöltésénél.

Hogy mindez hogyan hat majd az autonóm gépjárműfejlesztésre, az még a jövő zenéje. Rahwan mindenesetre leszögezi, hogy a Moral Machine tényleg nem valós helyzeteket vesz alapul, és jelentősen leegyszerűsíti a balesetek és elkerülésük során felmerülő problémákat. Ugyanakkor hangsúlyozza, hogy emberként nagyon nehéz hasonló döntéseket hoznunk, így nem egyszerű cska úgy 'algoritmusokba önteni' őket.

„Kétségtelen, hogy a Moral Machine nagy lépést jelent a helyes irányba, hiszen társalgást kezdeményez az autonóm gépjárművek etikájáról.” – teszi hozzá Miller.

A kérdőíves felmérés és a Moral Machine által felvetett erkölcsi dilemmák útvesztőiben könnyű megfeledkezni az összképről, azaz, hogy az önvezető autók drasztikusan csökkenő közlekedési baleseti és halálozási rátát ígérnek. Mivel a balesetek többségét emberi hiba, ittas, figyelmetlen vagy rossz döntést hozó sofőrök, vagy éppen szabálytalan gyalogosok okozzák, az emberi tényező egyik oldalon történő kiiktatásával sokat javulhat az utak biztonságossága.

Ehhez viszont az embereknek előbb meg kell vásárolniuk az autókat, ezzel együtt megbízniuk a vezető mesterséges rendszerekben, de nem hagyhatjuk figyelmen kívül a fejlesztések társadalmi és pszichológiai vonatkozásait sem. - mondja Rahwan. Ez pedig akár azt is jelentheti, hogy a fejlesztőknek átmenetileg hanyagolni kell haszonelvű önvezető járműveket. - vélekedik Joshua Greene, a Harvard pszichológusa.

Az emberileg kifogásolható döntési mechanizmussal rendelkező rendszer népszerűtlensége ugyanis visszavetheti az önvezető technológia, és ezzel együtt a biztonságosabb közlekedés elterjedését. Ebből a szemszögből nézve viszont már nagyon is számít, mit várnak a Moral Machine látogatói az önvezető négykerekűektől.

(Fotó: Pioneeringminds, Moral Machine)