Če bi robote lahko kaznovali, bi bilo smiselno določiti takšne sankcije, ki bi upoštevale vidike specialne in generalne prevencije. To bi lahko bile: 1) fizično uničenje robota, kar bi bilo enako kot je smrtna kazen za človeka ali prenehanje pravne osebe, 2) uničenje ali temeljita sprememba njegovih moralnih algoritmov, kar bi bilo podobno kot je obvezno psihiatrično zdravljenje pri ljudeh, 3) začasna preprečitev nadaljnjega delovanja robota, kar bi bilo ekvivalentno zaporni kazni fizične osebe, vendar z razliko od fizičnih oseb, bi za robota dosmrtni zapor pomenil enako kot njegovo fizično uničenje ali 4) naložitev obveznosti plačila denarne kazni, kot je možna kazenska sankcija tako za fizične kot za pravne osebe.
95 Povzeto po M. Ambrož, Preventivne mešane teorije o namenu kaznovanja, Revija za kriminalistiko in kriminologijo, Ljubljana, 2008, str. 239-248, dostopno na:
https://www.policija.si/images/stories/Publikacije/RKK/PDF/2008/03/RKK2008-03_MatjazAmbroz_TeorijeONamenuKaznovanja.pdf.
96Povzeto po J. Stromberg, Neuroscience Explores Why Humans Feel Empathy for Robots, 23. 4. 2013, dostopno na: https://www.smithsonianmag.com/science-nature/neuroscience-explores-why-humans-feel-empathy-for-robots-38883609/.
97 Prav tam.
28 Pri obveznosti plačila denarne kazni pride v poštev predlog Evropskega parlamenta v Resoluciji s priporočili Komisiji o pravilih civilnega prava o robotiki, v katerem predlagajo vzpostavitev denarnega sklada z namenom izplačila potencialnih oškodovancev, ki bi ga lahko z dodatno izpeljavo na kazensko pravo po analogiji vzpostavili tudi za plačila denarne kazni v primeru kaznivih dejanj.98
98Povzeto po Y. Hu, Robot Criminals, University of Michigan Journal of Law Reform, Volume 52, 2019, str. 528 - 531, dostopno na:
https://repository.law.umich.edu/cgi/viewcontent.cgi?article=1806&context=mjlr.
29 7 Zaključek
Potreba po boljši ureditvi pravnega statusa robotov bo nedvomno vedno močnejša, bolj kot bodo roboti postajali avtonomni in nepogrešljivi v naših življenjih. Da bomo lahko robote bolje vključili v naše vsakdanje življenje, brez strahov in večjih pomislekov je zagotovo potrebno pred tem natančno določiti njihov status v pravu ter vnaprej opredeliti, kdo bo nosil kazensko odgovornost za njihova dejanja.
Zaradi teh razlogov je v okviru mnogih organizacij in institucij moč opaziti pobude za ureditev pravnega statusa robotov, ki se gibljejo od obravnavanja robotov kot pravne osebe ali pa podelitev posebne, še neobstoječe nove vrste e-osebnosti. Ena izmed možnosti je tudi obravnavanje robotov kot posebnih pravnih entitet, podobno kot imajo pravni status živali. Tudi med samimi pravnimi subjekti je določen razpon pravic in obveznosti, na primer mladoletniki so fizični subjekti in kot taki pravni subjekti, pa imajo vseeno drugačen obseg pravic od polnoletnih posameznikov.
Zagovorniki ureditve posebnega pravnega statusa robotov menijo, da je trenutni sistem ureditve pravnega statusa robotov zastarel in da bi se naprednejša ureditev skladala s pomembno vlogo robotov v naših življenjih. Nasprotniki podelitve pravne subjektivitete pa menijo, da trenutno pravna ureditev ne dopušča možnosti podelitve pravne subjektivitete robotom ter nadalje menijo, da bi vzpostavitev novega sistema ureditve in podelitev pravne subjektivitete robotom odprla možnosti za zlorabe. Mnogo strokovnjakov se ne ukvarja s tem, ali je oziroma bo robotom možno podeliti poseben pravni status, temveč s tem, ali bi bilo to sploh moralno sprejemljivo in etično, saj je takšnih pomislekov precej.
Dejstvo je, da je pri razpravah o urejanju pravnega statusa robotov v prihodnosti razmislek o morali in etiki temeljnega pomena. Nasprotniki prav tako menijo, da roboti trenutno še niso tako napredni, da bi bilo spreminjanje njihovega pravnega statusa nujnega pomena.
Nekatere države so že naredile določene korake k bolj ustvarjalnemu pristopu urejanja pravne subjektivitete drugih pravnih entitet, npr. Nova Zelandija je reki, narodnemu parki in gori priznala pravico do pravne subjektivitete, Savdska Arabija je pa podelila državljanstvo robotu.
Ureditev pravne subjektivitete robotov se s strani nekaterih institucij, recimo Evropskega parlamenta priporoča bolj z vidika civilne odgovornosti kot kazenske odgovornosti. Prav tako v primeru podelitve pravne subjektivitete drugih pravnim entitetam, ki so omenjene v zgornjem odstavku, to ne pomeni, da so lahko tudi kazensko odgovorne, na primer kljub temu, da je reka na Novi Zelandiji priznana kot pravni subjekt, vseeno ne bo kazensko odgovorna, če se bo kdo v njej utopil. Pri dejanjih robotov so zadeve bolj kompleksne, zato je pomembno razpravljati tudi o teh vprašanjih. Ali bodo roboti lahko stranke v sodnih postopkih? Ali bodo lahko odgovarjali za kršitve človekovih pravic? Robot bi teoretično lahko v sodnem postopku zagovarjal samega sebe, vendar tega trenutno še niso zmožni in do problemov lahko pride že veliko prej, preden bodo dovolj razviti. Robot bi lahko tudi najel svojega
30 zagovornika, vendar nas to privede do drugega vprašanja, ali bodo lahko imeli v lasti premoženje.
Možno bi bilo, da bi pravo predvidelo načine, kako bi lahko zaslužili denar in postali lastniki nepremičnin, podobno, kot to velja za pravne osebe. Nadalje bi lahko od izdelovalcev robotov zahtevali, da na računu hranijo jamstvo za dejanja robotov. Prizadevanja, da bi robote oblikovali in izdelali tako, da ne bi mogli kršiti človekove pravice niso dovolj. Tudi takšni roboti bi prej ali slej naleteli na konflikte pri svojih interakcijah v svetu.99
Glede na to, da so v skladu s trenutno kazenskopravno zakonodajo za kazniva dejanja lahko odgovorne le fizične in pravne osebe, so možnosti kazenske odgovornosti za dejanja robotov omejene predvsem na odgovornost tistega, ki je robota uporabil kot sredstvo za izvršitev njegove kriminalne zamisli. Povezana s tem, je možnost določitve kazenske odgovornosti tudi proizvajalcev, ki so proizvedli robota, ki je povzročil neželene posledice. Kljub temu, da v obeh bolj odmevnih primerih prometnih nesreč avtonomnih vozil, proizvajalec ni bil kazensko odgovoren, če je ravnal v skladu s pravili stroke, bo stopnja razvoja šele v prihodnjih nekaj letih ali desetletjih dosegla tako visoko raven, da bodo vozila predvidevala le majhno udeležbo voznika, s tem pa bo razpon kazenske odgovornosti proizvajalca za delovanje avtonomnega vozila večji.
Po bolj kreativnih teorijah obstajajo tudi potencialne možnosti, da bi robota lahko uporabili kot posrednega storilca ter še bolj futuristična možnost, da bi robot za svoja dejanja odgovarjal sam. Razlogi, zakaj bi bilo smiselno pravno opredeliti odgovornost robotov za svoja dejanja so, da včasih obstajajo okoliščine, v katerih bi roboti morali biti zavezani k višjim ali vsaj enakim moralnim standardom kot ljudje, prav tako se bodo v prihodnosti morda pojavili izzivi ter moralna vprašanja, ki jih do sedaj še nismo mogli predvideti. Za vzpostavitev takšne ureditve je potrebno več predpostavk, kot so, samostojno sprejemanje moralnih odločitev, sposobnost samostojnega ravnanja in spodobnost sporočanja svojih odločitev na razumljiv način. Določen izziv predstavlja predvsem sposobnost človeškega razumevanja poteka sprejema odločitev robotov.
Če predpostavimo, da obstaja možnost, da roboti kazensko odgovarjajo za svoja dejanja, moramo razmisliti tudi o kazenskih sankcijah, če so spoznani za krive. Nabor kazenskih sankcij, ki bi učinkoval na robote sicer obstaja, recimo obveznosti denarne kazni ali fizično uničenje robota, vendar je večje vprašanje, kakšen bi bil smisel kaznovanja. Po teorijah o namenu kaznovanja bi lahko na kaznovanje robotov aplicirali le povračilo v okviru absolutne teorije, pri ostalih se pa postavlja vprašanje o smislu.
99Povzeto po J. J. Bryson, M. E. Diamantis, T. D. Grant, Of, for, and by the people: the legal lacuna of synthetic persons, Artif Intell Law, 8. 9. 2017, str. 285-288.
31 Vprašanja, ki so se odprla v magistrskem delu se bodo počasi začela reševati, skupaj z napredkom robotov in neizbežnim prihodnjim nesrečam ter zlorabam robotov. Da bi lahko učinkovito zagotavljali napredek sodobnih družb je nujno potrebno razmišljati tudi o pravnih vidikih robotov, ki so naši partnerji pri delu in doma.
32 8 Seznam literature
8. 1 Strokovne monografije
- Pavčnik M., Teorija prva: prispevek k razumevanju prava, Lexpera, GV Založba, Ljubljana 2020.
8. 2 Nacionalna zakonodaja
- Kazenski zakonik (Uradni list RS, št. 50/12 – uradno prečiščeno besedilo, 6/16 – popr., 54/15, 38/16, 27/17, 23/20 in 91/20);
- Obligacijski zakonik (Uradni list RS, št. 97/07 – uradno prečiščeno besedilo, 64/16 – odl. US in 20/18 – OROZ631);
- Stvarnopravni zakonik (Uradni list RS, št. 87/02, 91/13 in 23/20);
- Zakon o divjadi in lovstvu (Uradni list RS, št. 16/04, 120/06 – odl. US, 17/08, 46/14 – ZON-C, 31/18, 65/20 in 97/20 – popr.);
- Zakon o gospodarskih družbah (Uradni list RS, št. 65/09 – uradno prečiščeno besedilo, 33/11, 91/11, 32/12, 57/12, 44/13 – odl. US, 82/13, 55/15, 15/17, 22/19 – ZPosS, 158/20 – ZIntPK-C in 18/21);
- Zakon o odgovornosti pravnih oseb za kazniva dejanja (Uradni list RS, št. 98/04 – uradno prečiščeno besedilo, 65/08 in 57/12);
- Zakon o splošni varnosti proizvodov (Uradni list RS, št. 101/03);
- Zakon o zaščiti živali (Uradni list RS, št. 38/13 – uradno prečiščeno besedilo, 21/18 – ZNOrg in 92/20; v nadaljevanju ZZZiv).
8. 3 Zakonodaja EU
- Priporočilo Sveta o umetni inteligenci, URL:
https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449#:~:text=Principles%20for%20responsible%20stewardship%20of%20trustworthy%20AI
%3A%20the%20first%20section,)%20robustness%2C%20security%20and%20safety%3B;
- Resolucija Evropskega parlamenta z dne 16. februarja 2017 s priporočili Komisiji o pravilih
civilnega prava o robotiki (2015/2103(INL)), URL:
https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_SL.html#title1.
8. 4 Članki
- Allen M., Should Switzerland fear Anglo-Saxon trusts?, URL:
https://www.swissinfo.ch/eng/trust-factor_should-switzerland-fear-anglo-saxon-trusts-/36815424 5. 9. 2013;
- Ambrož M., Preventivne mešane teorije o namenu kaznovanja, Revija za kriminalistiko in
kriminologijo, Ljubljana, 2008, URL:
33
https://www.policija.si/images/stories/Publikacije/RKK/PDF/2008/03/RKK2008-03_MatjazAmbroz_TeorijeONamenuKaznovanja.pdf;
- Bayern S., Burri T., Grant T. D., Häusermann D. M., Möslein F., Company Law and Autonomous Systems: ABlueprint for Lawyers, Entrepreneurs, and Regulators, Hastings
Science and Technology Law Journal, 2017, URL:
https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2850514;
- Bellan R., Germany gives greenlight to driverless vehicles on public roads, 25. 5. 2021, URL:
https://techcrunch.com/2021/05/24/germany-gives-greenlight-to-driverless-vehicles-on-public-roads/;
- Berreby D., The pandemic has been good for one kind of worker: robots, 3. 9. 2020, URL:
https://www.nationalgeographic.com/science/2020/09/how-pandemic-is-good-for-robots/;
- Berreby D., The robot revolution has arrived, National Geographic, 18. 8. 2020, URL:
https://www.nationalgeographic.com/magazine/2020/09/the-robot-revolution-has-arrived-feature/;
- Bonnefon J., Shariff A., Rahwan I., The social dillema of autonomous vehicles, 12. 10. 2015, posodobljeno 4. 7. 2016, URL: https://arxiv.org/ftp/arxiv/papers/1510/1510.03346.pdf;
- Bryson J. J., Diamantis M. E., Grant T. D., Of, for, and by the people: the legal lacuna of synthetic persons, Artif Intell Law, 8. 9. 2017;
- Burianski M., Theissen C. M., Germany Permits Automated Vehicles, 23. 6. 2017, URL:
https://www.whitecase.com/publications/article/germany-permits-automated-vehicles;
- Butcher L., Edmonds T., Automated and Electric Vehicles Act 2018, Research Briefing, 15. 8.
2018, URL: https://commonslibrary.parliament.uk/research-briefings/cbp-8118/;
- Chisling A., Bots vs chatbots vs robots vs AI, 6. 11. 2016, URL:
https://blog.rossintelligence.com/post/bots-vs-chatbots-vs-robots-vs-ai;
- Criddle C., »Self-driving« cars to be allowed on UK roads this year, 28. 4. 2021, URL:
https://www.bbc.com/news/technology-56906145;
- Delcker J., Europe divided over robot »personhood«, URL:
https://www.politico.eu/article/europe-divided-over-robot-ai-artificial-intelligence-personhood/, 11. 4. 2018;
- Douma F., Palodichuk S. A., Criminal Liability Issues Created by Autonomous Vehicles, Santa
Clara Law Review, 13. 2. 2012, URL:
https://digitalcommons.law.scu.edu/cgi/viewcontent.cgi?article=2727&context=lawreview&ht tpsredir=1&referer=#:~:text=Accidents%20that%20result%20in%20property,civil%20liabilit y%20against%20the%20manufacturer;
- García Molyneux C., R. Oyarzabal R., What is a Robot under EU Law?, 4. 8. 2017, URL:
https://www.globalpolicywatch.com/2017/08/what-is-a-robot-under-eu-law/;
34 - Hallevy H., The Criminal Liability of Artificial Intelligence Entities - from Science Fiction to Legal Social Control, The University of Akron, Akron Intellectual Property Journal, marec
2016, URL:
https://ideaexchange.uakron.edu/cgi/viewcontent.cgi?article=1037&context=akronintellectual property;
- Hart R. D., Saudi Arabia's robot citizen is eroding human rights, URL:
https://qz.com/1205017/saudi-arabias-robot-citizen-is-eroding-human-rights/;
- J. Hoffman, Autonomous vs. Automatic Robots: Know the Difference, URL:
https://wisdomplexus.com/blogs/autonomous-vs-automatic-robots/;
- Houvast F., R. Timmerman, Zwaan Y., Exploring the Legal Rights & Obligations of Robots, Utrecht University, april 2018;
- Hu Y., Robot Criminals, University of Michigan Journal of Law Reform, Volume 52, 2019, URL: https://repository.law.umich.edu/cgi/viewcontent.cgi?article=1806&context=mjlr;
- Jakšič J., Vprašanje reforme slovenske kazenskopravne ureditve zaradi razvoja umetne inteligence, Revija za kriminalistiko in kriminologijo, Ljubljana 69, 2018, URL:
https://www.policija.si/images/stories/Publikacije/RKK/PDF/2018/03/RKK2018-03_JureJaksic_VprasanjeReforme.pdf;
- Johnson C., Tyson A., People globally offer mixed views of the impact of artificial intelligence, job automation on society, 15. 12. 2020, URL: https://www.pewresearch.org/fact- tank/2020/12/15/people-globally-offer-mixed-views-of-the-impact-of-artificial-intelligence-job-automation-on-society/;
- Kaevats M., Estonia considers a »kratt law« to legalise Artificial Intelligence, 25. 11. 2017, URL: https://medium.com/e-residency-blog/estonia-starts-public-discussion-legalising-ai-166cb8e34596;
- Kravets D., Jan. 25, 1979: Robot Kills Human, 25. 1. 2010, URL:
https://www.wired.com/2010/01/0125robot-kills-worker/;
- Letnar Černič J., Vzpon pametnih strojev, URL: https://www.iusinfo.si/medijsko-sredisce/kolumne/219248, 20. 4. 2018;
- O’Carrol B., What are the 3 types of AI? A guide to narrow, general, and super artificial intelligence, URL: https://codebots.com/artificial-intelligence/the-3-types-of-ai-is-the-third-even-possible;
- Roff H. M., The folly of trolleys: Ethical challenges and autonomous vehicles, 17. 12. 2018, URL: https://www.brookings.edu/research/the-folly-of-trolleys-ethical-challenges-and-
autonomous-vehicles/#:~:text=Often%20when%20anyone%20hears%20about,%3B%20Kamm%201989%
3B%20Kamm%202007%3B;
35 - Schroer A., AI Robots: How 19 Companies Use Artificial Intelligence In Robotics, 10. 3. 2029, posodobljeno 12. 8. 2020, URL: https://builtin.com/artificial-intelligence/robotics-ai-companies;
- Stromberg J., Neuroscience Explores Why Humans Feel Empathy for Robots, 23. 4. 2013, URL:
https://www.smithsonianmag.com/science-nature/neuroscience-explores-why-humans-feel-empathy-for-robots-38883609/;
- Swindells K., How public opinion shapes the success of technology, 22. 1. 2021, posodobljeno 2. 3. 2021, URL: https://techmonitor.ai/ai/public-opinion-ai;
- Thanaraj A., Can robots be prosecuted for a crime?, 14. 11. 2018, URL:
https://www.cumbria.ac.uk/blog/articles/can-robots-be-prosecuted-for-a-crime.php;
- Uzair M., Who Is Liable When a Driverless Car Crashes?, World Electric Vehicle Journal 2021, 12, 62, URL: https://doi.org/10.3390/ wevj12020062;
- Vincent J., Facebook’s head of AI really hates Sophia the robot (and with good reason), URL:
https://www.theverge.com/2018/1/18/16904742/sophia-the-robot-ai-real-fake-yann-lecun-criticism, 18. 1. 2018;
- Vincent J., Pretending to give a robot citizenship helps no one, URL:
https://www.theverge.com/2017/10/30/16552006/robot-rights-citizenship-saudi-arabia-sophia, 30. 10. 2017;
- Walsh A., Saudi Arabia grants citizenship to robot Sophia, URL: https://www.dw.com/en/saudi-arabia-grants-citizenship-to-robot-sophia/a-41150856, 28. 10. 2017.
8. 5 Druga literatura
- Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions on Artificial Intelligence for Europe, Brussels, 25.4.2018 COM(2018) 237 final;
- Enciklopedija Brittanica, URL: https://www.britannica.com/technology/artificial-intelligence;
- Evropska skupina za etiko v znanosti in novih tehnologijah, Izjava o UI, robotiki in avtonomnih sistemih, 9. 3. 2018, URL: https://op.europa.eu/en/publication-detail/-/publication/dfebe62e-4ce9-11e8-be1d-01aa75ed71a1;
- Facebook researchers shut down AI bots that started speaking in a language unintelligible to humans, 1. 8. 2017, URL: https://www.firstpost.com/tech/news-analysis/facebook-researchers-
shut-down-ai-bots-that-started-speaking-in-a-language-unintelligible-to-humans-3876197.html;
- JRC Technical Reports, AI WATCH, Luxembourg: Publications Office of the European Union,
2020, URL:
https://publications.jrc.ec.europa.eu/repository/bitstream/JRC118163/jrc118163_ai_watch._de fining_artificial_intelligence_1.pdf;
36 - Magistrska naloga Maver M., Posredni storilec pri kaznivem dejanju, Pravna fakulteta,
Univerza v Ljubljani, december 2017;
- Merriam Webster, URL: https://www.merriam-webster.com/dictionary/robot;
- Nasveti za večjo varnost v in ob vodi na spletni strani Policije, URL:
https://www.policija.si/svetujemo-ozavescamo/javni-red-in-mir/varnost-v-in-ob-vodi;
- Odprto pismo Evropski komisiji na temo umetne inteligence in robotov, Open Letter to the European Commission, Artificial Intelligence and Robotics, URL: http://www.robotics-openletter.eu/;
- Poročilu Etične komisije nemškega ministrstva za promet in digitalno infrastrukturo, Automated
and connected driving, junij 2017, URL:
https://web.archive.org/web/20170914192519/http://www.bmvi.de/SharedDocs/EN/publicatio ns/report-ethics-commission.pdf?__blob=publicationFile;
- Rise of the robots: Mady Delvaux on why their use should be regulated, URL:
https://www.europarl.europa.eu/news/en/headlines/economy/20170109STO57505/rise-of-the-robots-mady-delvaux-on-why-their-use-should-be-regulated, 15. 2. 2017;
- Robotics Technology, URL: https://builtin.com/robotics;
- Slovarji Inštituta za slovenski jezik Frana Ramovša ZRC SAZU, URL:
https://fran.si/iskanje?View=1&Query=robot&hs=1;
- Taxonomy and Definitions for Terms Related to Driving Automation Systems for On-Road
Motor Vehicles, posodobljeno 30. 4. 2021, URL:
https://www.sae.org/standards/content/j3016_202104/;
- Thomas E. Jones et al., Respondents-Appellants, v. W + M AUTOMATION, INC., et al., Appellants-Respondents, TRI-TEC CONTROLS, INC., et al., Respondents, et al., Defendants., 7. 7. 2021, URL: https://h2o.law.harvard.edu/cases/5775;
- Types of Artificial Intelligence, URL: https://www.javatpoint.com/types-of-artificial-intelligence;
- Uber 'not criminally liable' for self-driving death, 6. 3. 2019, URL:
https://www.bbc.com/news/technology-47468391
- Uber's self-driving operator charged over fatal crash, 16. 11. 2020, URL https://www.bbc.com/news/technology-54175359, ter po Uber 'not criminally liable' for self-driving death;
- What Are the Levels of Automated Driving?, 5. 11. 2020, URL:
https://www.aptiv.com/en/insights/article/what-are-the-levels-of-automated-driving.