Avtonomna vozila odpirajo tudi etična vprašanja, eno najbolj znanih je problem pobeglega vagon. Gre za miselni eksperiment, pri katerem smo soočeni z dvema situacijama, ki sta si podobni in imata podobne potencialne posledice, pri čemer je osnovno vprašanje, ali bi žrtvovali enega človeka, da bi jih rešili več.
Problem pobeglega vagona ima mnogo različnih oblik in ga lahko apliciramo širše od avtonomnih
83 Povzeto po Uber's self-driving operator charged over fatal crash, 16. 11. 2020, dostopno na
https://www.bbc.com/news/technology-54175359, ter po Uber 'not criminally liable' for self-driving death, 6. 3.
2019, dostopno na: https://www.bbc.com/news/technology-47468391.
84 Zakon o uporabi avtonomnih vozil (nemško: Gesetz zum autonomen Fahren) dopolnjuje Zakon o cestnem prometu.
85 Povzeto po M. Burianski, C. M. Theissen, Germany Permits Automated Vehicles, 23. 6. 2017, dostopno na:
https://www.whitecase.com/publications/article/germany-permits-automated-vehicles.
86 Ang. Automated and Electric Vehicles Act.
87Povzeto po L. Butcher, T. Edmonds, Automated and Electric Vehicles Act 2018, Research Briefing, 15. 8. 2018 dostopno na: https://commonslibrary.parliament.uk/research-briefings/cbp-8118/.
24 vozil.88 Na primer, situacija A, ko pobegli vagon drvi proti petim delavcem, ki stojijo na tirnicah in bodo umrli, če opazovalec ne obrne stikala, ki bo vagon preusmeril na druge tirnice, kjer stoji le en delavec.
Ali situacija B, ko opazovalec ravno prečka most nad tirnicami, pod katerimi drvi pobegli vagon, ki bo ubil pet delavcev na tirnicah, če opazovalec na tirnice ne potisne posameznika, ki bo umrl, vendar hkrati zaustavil vagon ter rešil pet delavcev pred zagotovo smrtjo. Večina filozofov se strinja, da je moralno dopustno preusmeriti vagon, tako da umre ena oseba namesto da bi jih umrlo pet, medtem ko menijo, da je nedopustno potisniti nekoga na tirnice iz mostu, kljub temu, da je rezultat enak.89 Različnih oblik situacij je več, od izbire med starejšimi občani in otroci, izbira med tistimi, ki kršijo cestno prometna pravila ter tistimi, ki se jih držijo ter med športniki in ljudmi s prekomerno telesno težo in mnogo drugih variacij.
Problem pobeglega vagona se na avtonomna vozila aplicira preko predpostavke, da se vozilo, zaradi napake v sistemu ali kateregakoli drugega razloge ne more ustaviti in se mora odločiti, kje bo povzročilo najmanjše zlo. Na primer, ali bo kot bolj pomembno ovrednotilo varnost potnikov v vozilu ali potencialnih žrtev izven vozila. Raziskave kažejo, da ima ljudje pozitivno mnenje o avtonomnih vozilih, ki kot pomembnejše vrednotijo varnost potencialnih žrtev izven vozila ter si želijo, da bi jih drugi ljudje kupili. Vendar bi sami raje kupili avtonomno vozilo, ki svoje potnike varuje pred vsemi drugimi.90
Leta 2016 je nemško ministrstvo za promet in digitalno infrastrukturo ustanovilo Etično komisijo za avtonomno in povezano vožnjo, ki se je v eni izmed točk prav tako dotaknila problema pobeglega vagona.91 Zapisali so, da so dileme, v katerih je potrebno sprejeti odločitve med enim in drugim človeškim življenjem odvisne od dejanskih razmer, kar vključuje nepredvidljivo vedenje vseh vpletenih.
Sistemov avtonomnih vozil ni mogoče programirati tako, da bi bili etično nedvoumni ali da bi lahko nadomestili voznike, ki lahko sprejemajo moralne odločitve. Voznik namreč ne bi nujno ravnal krivdno, če bi sprejel odločitev, ki bi povzročila smrt ene osebe, zato da bi rešil več drugih oseb. Vendar odločitve
88 Univerza Massachusetts Institute of Technology (MIT) je opravila eksperiment, kjer se na spletni strani lahko ima obiskovalec preizkusi v vlogi avtonomnega vozila, ki se ne more ustaviti ter lahko izbira med možnimi odločitvami kdo bo umrl (npr. med ženskami in moškimi, med ljudmi s prekomerno težo in športniki itd.). Na koncu vprašalnika lahko obiskovalec svoje odgovore primerja z drugimi obiskovalci. Dostopno na:
https://www.moralmachine.net/.
89 Povzeto po H. M. Roff, The folly of trolleys: Ethical challenges and autonomous vehicles, 17. 12. 2018, dostopno na: https://www.brookings.edu/research/the-folly-of-trolleys-ethical-challenges-and-autonomous-vehicles/#:~:text=Often%20when%20anyone%20hears%20about,%3B%20Kamm%201989%3B%20Kamm%20 2007%3B.
90 Povzeto po J. Bonnefon, A. Shariff, I. Rahwan, The social dillema of autonomous vehicles, 12. 10. 2015, posodobljeno 4. 7. 2016, dostopno na: https://arxiv.org/ftp/arxiv/papers/1510/1510.03346.pdf.
91 Povzeto po Poročilu Etične komisije nemškega ministrstva za promet in digitalno infrastrukturo, Automated and connected driving, junij 2017, dostopno na:
https://web.archive.org/web/20170914192519/http://www.bmvi.de/SharedDocs/EN/publications/report-ethics-commission.pdf?__blob=publicationFile.
25 o krivdi voznikov, sprejete za nazaj in upoštevajoč vse okoliščine posameznih primerov ne moremo posplošiti ter jih tako programirati v avtonomna vozila.
Kritiki pri tem še opozarjajo, da miselni preizkus pobeglega vagona ni nujno aplikativen na avtonomna vozila ter da je pogosto zelo črno bel, brez upoštevanja celotnega konteksta, nians in samega delovanja avtonomnih vozil.92
92 Povzeto po H. M. Roff, The folly of trolleys: Ethical challenges and autonomous vehicles, 17. 12. 2018, dostopno na: https://www.brookings.edu/research/the-folly-of-trolleys-ethical-challenges-and-autonomous-vehicles/#:~:text=Often%20when%20anyone%20hears%20about,%3B%20Kamm%201989%3B%20Kamm%20 2007%3B.
26 6 Kaznovanje robotov
Če bi bil vzpostavljen sistem kazenske odgovornosti za dejanja robotov, v katerem bi bili roboti sami odgovorni za svoja dejanja, je potrebno razmisliti tudi o sistemu kazenskih sankcij, ki bi veljal za robote.
Vprašanje je, ali ima kaznovanje robotov smisel in kakšne kazenske sankcije bi lahko robotom sploh izrekli.