Az önvezető autók ugrásszerűen megnövekedett népszerűségének egyik fő oka feltehetőleg az az előny, amelyekre a XXI. század emberének oly nagy igénye lett: kevesebb haszontalan, stresszes vezetéssel eltöltött idő. Emellett nem kell döntenünk, hogy iszunk vagy vezetünk, illetve ha fáradtan kell autóba ülnünk, nem gond, ha elbóbiskolunk a volán mögött. A kényelem mellett az önvezető autók használatától azt is várjuk, hogy drasztikusan csökkenjen a közlekedési balesetek és halálesetek száma azáltal, hogy kivesszük a rendszerből az emberi hiba lehetőségét. Azonban a gép sem tévedhetetlen, és a közúti baleset műfaja sem most, sem – ha egyáltalán eljön ez az idő – az önvezető autók korában nem lesz fekete-fehér: egy-egy baleset morális vetülete sokkal összetettebb, mint elsőre gondolnánk. Mennyit ér öt ember élete egy ember életével szemben? És egy ember élete egy kutyáéval szemben? Az önvezető autók megjelenése a döntési helyzetek egy egészen új dimenzióját nyitja meg előttünk: kinek az élete ér többet, etikus-e egyáltalán az életek rangsorolása, és mennyiben tekinthetünk cselekvőként az önvezető autókra?

Talán nem is gondolták volna a Knight Rider alkotói a sorozat 1982-es debütálása idején, hogy mennyire fontos témába tenyereltek bele, és hogy közel 30 év elteltével számos olyan autó vehet részt a közlekedésben, mint Michael Knight KITT-je. KITT egy olyan önvezető autó, amelyet mikroprocesszorok irányítanak, és amelyek teljesen kiküszöbölik a legkisebb hiba vagy összeütközés lehetőségét, hacsak a pilóta nem utasítja másképpen. A maga módján gondolkodik – ezzel szemben fejezte ki nem tetszését Michael Knight már a sorozat első évadjának első részében: egy autó ne vezessen őhelyette! KITT minden körülmény között az emberi életet védi – no de kiét?

Gondoljunk egy egyszerű kérdésre: hogyan közelítsen meg egy önvezető autó egy gyalogátkelőhelyet? A Massachusettsi Műszaki Egyetem (MIT, Massachusetts Institute of Technology) kutatói mondhatni erre a kérdésre alapozva indították el a Moral Machine névre keresztelt projektet, ami egy olyan online kísérleti platform, ahol a válaszadónak adott szituációkban kell döntenie arról, hogy ha az önvezető autónak mindenképpen el kell ütnie valakit/valakiket, akkor kit/kiket válasszon, hagyjon életben. A válaszadó előtt minden esetben két választási lehetőség áll: például választhat idős és fiatal, ember és állat, törvénytisztelő állampolgár és bűnöző, nők és férfiak, több élet és egy élet között – s így kapcsolódunk a klasszikus villamos-problémához. Ezt Philippa Foot, brit filozófus 1967-ben találta ki: egy elszabadult villamos száguld egy olyan vágányon, amelyen öt ember van lekötözve. A villamos mindenképpen halálra gázolja az öt embert, ha ugyanarra halad tovább, viszont egy váltó segítségével elterelhetjük egy másik sínre, ahol azonban egy szintén lekötözött ember fekszik. Használjuk-e a váltót a kevesebb számú (öt helyett egy) áldozatra  hivatkozva, egyúttal vállalva a beavatkozást a szerelvény eredeti útvonalába? Tegyük fel, hogy az autó váratlanul műszaki hibát észlel, de képtelen megállni. Ha tovább halad, elüt öt, zebrán átkelő gyalogost, de elkanyarodhat, s így egy bámészkodót gázol halálra, ezzel megóvva az öt gyalogost. Mit tegyen a kocsi, és ki döntsön róla?

Cornelia Vismann Kultúrtechnikák és szuverenitás című írásában az alábbi gondolat kap centrális szerepet: „Világos, hogy a kultúrtechnikai megfigyelés során a szuverén szubjektum elveszti hatalmát, és helyette a dolgok válnak cselekvőképessé.” Vismann szerint „[...] az engedelmes tárgyak és szolgálatkész eszközök passzív létmódját a médiumok és dolgok egyaránt maguk mögött hagyják, vagy egyenesen felszabadulnak alóla.” Megfontolandó az általa kifejtett gondolatmenet, ugyanakkor úgy érzem, ez egyúttal annak a veszélyét is hordozza, hogy az embernek gyakorlatilag semmi felett ne legyen hatalma. Ami korunk technológiái mellett rémisztő gondolat. Az tagadhatatlan, hogy függünk a tárgyainktól és eszközeinktől, de éppen ezért kellene elkerülni a teljes alárendeltségi viszonyt. Vismann és a kortárs médiaelmélet, az ooo (Object Oriented Ontology), vagy a Latour-féle cselekvőhálózat-elmélet a dolgok „emancipációján” fáradozik, felismerve azok potencialitását – ám félő, hogy eközben elfelejtkezik az emberi cselekvés lehetőségeiről és annak moralitásáról. Hiszen még mindig én vagyok az, aki beindítja az autót, aki bekapcsolja a telefont, stb. 

Nincs ez másképp az önvezető autóknál sem: sosem lesznek mindentudók, és nem fogják helyettünk meghozni a döntéseket. Nem hinném, hogy a gépeket fel lehet ruházni erkölcsiséggel, hiszen eleve a morális ítélkezés gyakorlata nem illeszkedik a mesterséges intelligencia bármely formájához. Adott egy cselekedet, amely alapján hibáztatunk, illetve büntetünk, vagy dicsérünk: hogyan fog működni ez egy önvezető autónál? Hogyan leszünk képesek megbüntetni egy gépet? Attól, hogy egy adott eszközben fut valamilyen program – amit egy ember programozott bele –, attól még nem lesz cselekvőképes, ahogy például Vismann hangsúlyozza.

És ha már döntési helyzetekről és azok következményeiről beszélünk, megkerülhetetlen a kérdés: de akkor kié lesz a felelősség? Egyelőre ebben sincs konszenzus a tudósok között, de néhányan azt az irányt javasolják, hogy a felelősség az adott rendszer tervezőit, programozóit terhelje – ezzel azonban az úgynevezett csúszós lejtő területén találjuk magunkat. Azaz a problémát csak elodázzuk. Gondoljunk azokra a repülőgépkatasztrófákra, amelyek az elmúlt fél évben történtek a Boeing 737 Max típusú gépekkel: a gépek robotpilótái egy szenzor meghibásodása miatt esés veszélyét érzékelve elkezdték lefele nyomni a gépek orrát – itt ki a felelős? A szenzor tervezője? A légitársaság, mert a pilóták nem kaptak megfelelő tájékoztatást arról, hogy hogyan vehetik vissza az irányítást a robotpilótától? Egyik esetben sem egyértelmű a válasz. 

Továbbá ne felejtsük el, az önvezető autók térhódításával potenciálisan mi is lehetünk az az egy bámészkodó, akit elüt, hogy megmentse az öt gyalogos életét a zebrán… Valószínűleg tökéletesen biztonságos technológia sosem lesz, és jelenleg még mérce sincs arra vonatkozóan, hogy azt mondhassuk, ez már elég biztonságos.

Technológiai csoda ide vagy oda, hiába hízik az előnyök listája (nem kell órákat vezetéssel eltöltenünk, nem kell eldönteni, hogy iszunk vagy vezetünk, és így tovább), egy fontos dologról mindenképpen le kell mondanunk, ami a mai autóreklámok egyik legnagyobb aduásza: a vezetés élményéről. Márpedig magabiztosabbak, éberebbek, figyelmesebbek vagyunk, ha úgy érezzük, a döntés a mi kezünkben van, és tőlünk függ, hogyan alakulnak a dolgok

– még ha ez nem is mindig van így. A kontrollvesztettség érzése kellemetlen, bizonytalanságot ébreszt bennünk, a biztonságérzet megszűnéséhez vezet, frusztrálttá, szorongóvá válhatunk ilyen szituációkban. Ezért gondolom, hogy amikor egyre inkább ráhagyatkozunk a körülöttünk lévő eszközökre, talán még érthetőbbé  válik Michael Knight kifakadása: egy autó ne vezessen helyettem! Vagy készüljünk fel a bizonytalanságra…

Irodalom

Cornelia Vismann, Kultúrtechnikák és szuverenitás, Tiszatáj 71/2. szám, 60-67. 2017
Philippa Foot, The Problem of Abortion and the Doctrine of the Double Effect, In: Virtues and Vices, Oxford: Basil Blackwell, 1978