A legtöbb előrejelzés szerint egy-két évtizeden belül az utak tele lesznek önvezető autókkal, emberi kapkodás helyett tehát gépi számítás dönt majd vészhelyzetben életről és halálról, ami igen fogas etikai kérdéseket vet fel. Mi történik például, ha az autós békésen olvasgat, az autó önműködően robog, amikor hirtelen három kisgyerek szalad át a vidéki országúton? Az automata haszonelvű erkölcsi döntéssel nyilván a saját gazdáját áldozná fel.
Ki szeretne olyan autót venni, amely akár meg is ölheti a gazdáját? A kérdés hamar szóba fog kerülni, mert az önvezető autók elterjedésével a kocsikat vezérlő számítógép hoz majd döntéseket életről és halálról. Mi történik például, ha az autós békésen olvasgat, az autó önműködően robog, midőn három kisgyerek szalad át a vidéki országúton? Jobbról fasor, balról fasor, a számítógépnek egy szempillantás alatt kell döntenie – és az embertől eltérően képes is elvégezni e számításokat. Érzelemmentes kalkuláció után miért is ne döntene úgy, hogy nem áldoz fel három reményteli ifjú életet? Az utolsó pillanatban egy fának kormányozza tehát a kocsit.
Egy-két évtizeden belül – ebben megegyezik a legtöbb előrejelzés – az utak tele lesznek önvezető autókkal. Valószínű, hogy a manapság kényszerűen megszokott közúti balesetek számát az autóautomaták jelentősen csökkentik, hiszen a karambolok túlnyomó többségét napjainkban emberi mulasztás, figyelmetlenség, fáradtság, ittasság okozza. Ez a számítógépekkel aligha fordul elő, főképp ha a mai laptopokhoz vagy okostelefonokhoz képest sokkal megbízhatóbbra tervezik őket (ami elég valószínű is: száguldó autónál nem megoldás, hogy lefagy, majd újraindítják).
A lehető legkevesebb halálos áldozat
De lesznek másfajta balesetek. A témába vágó első kérdéseket három szakterület – a menedzsmentkutatás, a pszichológia és a médiatudomány – képviselői, a francia Jean-Francois Bonnefon, illetve az amerikai Azim Shariff és Iyad Rahwan a kísérleti etika fegyvertárát bevetve tették fel. Háromféle jelenet több változatát tárták olyanok elé, akik az interneten segítenek tudományos feladatok megoldásában, a Kempelen Farkas sakkozógépéről elnevezett Mechanical Turk hálózat tagjaiként. Mindhárom esetben gyalogos vagy gyalogosok kerülnek az autó elé, megállni már nincs idő, kitérni csak úgy lehet, ha az autó oldalt akadálynak ütközik – feláldozva így a benn ülőket – vagy úgy, ha félrekormányozva is gyalogost üt el. A logika azt diktálja, hogy a lehető legkevesebb halálos áldozattal járó megoldást kellene választani.
A válaszokból kirajzolódó kép szerint az emberek valóban elfogadhatónak tartják az olyan programozást, amellyel az automata autókat effajta haszonelvű erkölcsi döntésekre készítik elő. Nem kevesen még azt is megértenék, hogy az autó feláldozná saját gazdáját és utasait, ha ezzel még több más ember életét megmenthetné. Ám a válaszokból az is kiderült: mai fejjel nem tartják valószínűnek, hogy az autókat valóban így programoznák. Nem nehéz elképzelni, miért: mindenki pártolná, hogy mások autója a lehető legtöbb ember életét óvja meg, de ők maguk nem ülnének olyan kocsiba, amely magasabb érdekek miatt megölhetné őket.
Halálos vészhelyzetek Bonnefon és társai kísérletéből. Haszonelvű megoldások
Fotó: Stiller Ákos
A még kényesebb dilemmákkal a három kutató még nem is szembesítette az érdeklődőket. De néhány hónapja publikált tanulmányukban további kutatásra ajánlanak néhány kérdést, amely már valószínűségeket és felelősségeket piszkálna. Jogos-e számításba venni, hogy autóban nagyobb a túlélés esélye, mint motorbiciklin, ezért vész esetén inkább a falnak, mint a motorosnak hajtson-e az autó? Másképpen döntsön-e az autó olyan esetekben, amikor gyerekek ülnek benne? Hiszen ők nem tehetnek arról, hogy oda kerültek, ráadásul ők néznek a legtöbb hasznos életév elé. Tápláljon-e többféle viselkedést a gyártó az autóba, és áthárítható-e ezzel a felelősség a vezetőre, aki maga választott? A válaszokat hamarosan meg kell találni.
Erkölcsi algoritmus
A haszonelvű algoritmusok megalkotásának mindenesetre akad történelmi előzménye is. Már a XVIII. században képleteket dolgozott ki Jeremy Bentham angol társadalomtudós az emberi fájdalom és jóllét mérésére. Számszerűsíteni próbálta, hogy az összes érintett (vagyis nem az egyes emberek) szempontjából mely cselekvésnek van a legnagyobb haszna. Ezt hívják utilitarizmusnak, haszonelvűségnek. Igaz, az emberek mindmáig nem ilyen alapon döntenek. Hol önzőek, hol jólelkűek – attól pedig a túlnyomó többség visszariad, hogy köze legyen más ember halálához.
Mutatja ezt az önvezető autó dilemmáihoz legközelebb álló, az 1970-es évek óta sokat emlegetett (Judith Jarvis Thomson amerikai filozófus nevéhez fűződő) etikai gondolatkísérlet is az elszabadult villamosról. A kocsit idejében megállítani nem lehet, de át lehet állítani egy váltót, hogy ne öt embert gázoljon halálra, hanem csak egyet. Még erre a – haszonelvűségi alapon teljesen észszerű – beavatkozásra sem lenne képes mindenki, és még kevesebben mentenék meg az öt ember életét egy további kitalált lehetőséggel élve úgy, hogy egy hídról önkezükkel egy kövér embert taszítanak akadályként a villamos elé.
Az önvezető autó számítógépének biztosan nem lesznek efféle morális fenntartásai. Annak alapján dönt, hogy programozói milyen szempontokat táplálnak bele – egyelőre megjósolni sem lehet, miféle számítások alapján. Igaz, az emberéletek ára már ma is kalkulálható. Bár nem a széles nyilvánosság előtt, de ilyen mérlegelések állnak az egészségügyben annak hátterében, hogy más kezelések rovására meghosszabbítsák-e pár hónappal a halálos betegek életét, vagy hogy milyen védőoltásokra mennyit érdemes költeni. És persze az emberéletek áráról a biztosítótársaságok matematikusainak is (HVG, 2014. augusztus 30.) vannak használható képleteik.
Összetört a Google önvezető autója
Fotó: Joshua Smith
Egyelőre ilyen számítások nélkül ugyan, de az autóautomatákkal foglalkozó gyártók közül a Volvo volt az első, amely (tavaly októberben) közzétette, hogy magára vállalja a teljes felelősséget, ha járműve balesetet okoz majd. Ideje volt megnyugtatni az embereket: a svéd cég azt tervezi, hogy autonóm kocsijaiból mintegy száz már 2018-ban rója az utakat Göteborgban.
Valószínű, hogy a számítógépesített közlekedésben jóval kevesebb lesz a baleset és a halálos áldozat, mint amikor emberek kezében van a volán. De még ha a számítógépeket nagyon körültekintően programozzák is, hibák előfordulhatnak. Ebből csak apró ízelítő, hogy a legismertebb kísérletsorozatban a Google kocsija a múlt héten szinte emberinek minősíthető hibát követett el: lassan egy busz elé hajtott, abban a hiszemben, hogy engedik besorolni. Kisebb kár keletkezett. Egyelőre nem tudható, mekkora botrányokat okoz majd egy-egy komputer okozta súlyos szerencsétlenség abban a közvéleményben, amely amúgy manapság eléggé belefásult az emberek okozta mindennapos karambolokba.
