Robot je po najbolj osnovni definiciji elektronsko vodena naprava, ki enakomerno opravlja vnaprej programirana in pogosto človekovemu zdravju škodljiva dela.4 Nekatere druge definicije bolj natančno opredelijo naloge robotov, kar kaže na raznolikost nalog, ki jih roboti lahko opravljajo, od zelo enostavnih ponavljajočih se nalog do visoko zahtevnih in zapletenih.
Po bolj kompleksni definiciji je robot stroj, ki spominja na živo bitje, v tem, da se lahko samostojno premika (na primer s hojo ali kotaljenjem na kolesih) in izvaja zapletena dejanja (na primer prijemanje in premikanje predmetov). Ter tudi naprava, ki samodejno izvaja zapletene, pogosto ponavljajoče se naloge (recimo industrijski tekoči trak).5 Vsi roboti imajo neke vrste mehansko konstrukcijo, ki robotu pomaga pri opravljanju nalog, za katere je bil zasnovan in ki je prilagojena okolju. Na primer, kolesa Nasinega roverja Perseverance, ki je bil poslan na Mars so izdelana iz titanovih cevi in vsako kolo ima svoj motor, kar mu pomaga pri trdnem oprijemanju surovega terena Marsa. Robote nadzirajo in napajajo električne komponente. Tudi velika večina drugih robotov za delovanje potrebuje elektriko ali baterijo.
Vsi roboti so tudi vsaj do določene stopnje računalniško programirani. Brez programiranja bi bili roboti le preprosti stroji, prav programi jih omogočajo, da lahko izvajajo svoje naloge pravočasno in na pravi način. Roboti so lahko avtomatizirani ali avtonomni. Razlika med obema vrstama robotov je v obsegu človeškega posega v procese robota, le avtonomni roboti so brez posredovanja človeka.6 Roboti lahko delujejo tudi na podlagi umetne inteligence, takšnih primerov je vedno več.7
Glede na navedeno robote lahko razdelimo na pet vrst:
1) vnaprej programirani (npr. mehanska roka na tekočem traku v proizvodnji avtomobilov);
2) humanoidni roboti, ki so po izgledu podobni ljudem ali posnemajo človeško vedenje in vsebujejo umetno inteligenco (to je recimo robot Sophia, proizvajalca Hanson Robotics ali robot Atlas, proizvajalca Boston Dynamics);
3) avtonomni roboti, ki delujejo samostojno, brez človeškega nadzora in ki prav tako običajno vsebujejo umetno inteligenco (npr. robotski sesalniki);
4) roboti, s katerimi na daljavo upravlja človek (npr. brezpilotna letala ali podmornice) ter
5) roboti, ki povečajo človeške zmožnosti ali jih nadomestijo (npr. eksoskeleti ali robotski protetični udi).8
4 Povzeto po: Slovarji Inštituta za slovenski jezik Frana Ramovša ZRC SAZU, dostopno na:
https://fran.si/iskanje?View=1&Query=robot&hs=1.
5 Povzeto po: Merriam Webster, dostopno na: https://www.merriam-webster.com/dictionary/robot.
6 Povzeto po J. Hoffman, Autonomous vs. Automatic Robots: Know the Difference, Dostopno na:
https://wisdomplexus.com/blogs/autonomous-vs-automatic-robots/.
7 Povzeto po: A. Schroer, AI Robots: How 19 Companies Use Artificial Intelligence In Robotics, 10. 3. 2029, posodobljeno 12. 8. 2020, dostopno na: https://builtin.com/artificial-intelligence/robotics-ai-companies.
8 Povzeto po: Robotics Technology, dostopno na: https://builtin.com/robotics.
4 V okviru Evropske unije še nismo dosegli poenotenja glede definicije robotov, kar je nujno za pravno urejanje robotike. Evropski parlament v Resoluciji s priporočili Komisiji o pravilih civilnega prava o robotiki9 ugotavlja, da so današnji roboti zaradi izjemnega tehnološkega napredka postali vse bolj podobni agentom, ki vzajemno delujejo s svojim okoljem in ga lahko močno spreminjajo. Avtonomnost robotov pomeni, da so sposobni sprejemati in izvajati odločitve, brez zunanjega nadzora ali vpliva.
Stopnja avtonomnosti je odvisna od tega, kakšna stopnja interakcije robota z okoljem je bila predvidena pri njegovem načrtovanju. Bolj kot so roboti avtonomni, tem večje je vprašanje odgovornosti za njihova dejanja ali opustitve, kadar zanje ni mogoče izslediti človeškega faktorja.Dokument ne vsebuje enotne definicije robotov, našteje pa štiri kategorije, pri katerih bi se uporaba obstoječe zakonodaje Evropske unije izkazala za najbolj problematično: avtonomna vozila brez voznika, robotske proteze (in eksoskeleti), kirurški roboti in spremljevalni roboti. Opredeli tudi značilnosti pametnih robotov, ki so, da lahko pridobijo avtonomnost prek senzorjev in/ali z izmenjavo podatkov z okoljem ter trženje in analiza teh podatkov, so sposobni samoučenja na podlagi izkušenj in interakcije, imajo vsaj manjšo fizično podporo, vedenje in dejanja lahko prilagodijo okolju ter neobstoj življenja v biološkem pomenu.10
Roboti, ki so sedaj v uporabi se (še) ne vedejo kot ljudje in večinoma ne zgledajo kot ljudje. V tovarnah po svetu milijoni industrijskih strojev privija, barva in opravlja druge ponavljajoče se naloge na tekočem traku. Vrsta robotov, ki ne spada niti v prvo niti v drugo skupino, saj še zdaleč ne posnema človeka, vendar je pametna, zelo spretna in mobilna, vedno bolj vdira v vsakdanje življenje ljudi. V letu 2020 roboti v trgovinah opravljajo popise inventarja in čistijo tla, v skladiščih premikajo blago in ga pripravljajo za pošiljanje kupcem, režejo solato, nabirajo jabolka ter celo maline, avtističnim otrokom pomagajo pri socializaciji, opravljajo obhode na mejah držav in kot brezpilotna letala napadajo cilje, ki jih ocenijo kot sovražne.11 Tudi v času epidemije COVID-19 smo se predvsem zaradi omejevalnih ukrepov začeli še bolj zanašati na robote in odkrili nove načine njihove uporabe. Sedaj tudi dostavljajo hrano, prenašajo zaloge po bolnišnicah, razkužujejo bolniške sobe in pešce v parkih opozarjajo, da morajo ohranjati medsebojno razdaljo.12
9 Povzeto po: Resolucija Evropskega parlamenta z dne 16. februarja 2017 s priporočili Komisiji o pravilih civilnega prava o robotiki (2015/2103(INL)), dostopno na: https://www.europarl.europa.eu/doceo/document/TA-8-2017-0051_SL.html#title1.
10 Povzeto po: C. García Molyneux, R. Oyarzabal, What is a Robot under EU Law?, 4. 8. 2017, dostopno na:
https://www.globalpolicywatch.com/2017/08/what-is-a-robot-under-eu-law/.
11 Povzeto po: D. Berreby, The robot revolution has arrived, National Geographic, 18. 8. 2020, dostopno na:
https://www.nationalgeographic.com/magazine/2020/09/the-robot-revolution-has-arrived-feature/.
12Povzeto po: D. Berreby, The pandemic has been good for one kind of worker: robots, 3. 9. 2020 dostopno na: https://www.nationalgeographic.com/science/2020/09/how-pandemic-is-good-for-robots/.
5 2.2 Umetna inteligenca
Pomemben element avtonomnih robotov je umetna inteligenca (v nadaljevanju: UI). UI je sposobnost digitalnega računalnika ali računalniško vodenega robota, da opravlja naloge, ki so običajno povezane z inteligentnimi bitji.13 Evropska komisija UI opredeljuje bolj opisno, kot sisteme, ki prikazujejo inteligentno vedenje z analiziranjem okolja in z določeno stopnjo samostojnosti, za dosego določenih ciljev. Sistemi, ki temeljijo na UI, so lahko zasnovani povsem programsko in delujejo v virtualnem svetu (npr. glasovni pomočniki, programi za analize slik, iskalniki, sistemi za prepoznavanje govora in obrazov) ali pa je UI vgrajena v naprave (npr. napredni roboti, avtonomni avtomobili, brezpilotna letala ali internet stvari). UI uporabljamo vsakodnevno, npr. za prevajanje jezikov, ustvarjanje podnapisov v videoposnetkih, brskanje po svetovnem spletu ali za preprečevanje neželene elektronske pošte.
Možnosti uporabe UI so brezmejne. Številne tehnologije UI za izboljšanje njihove učinkovitosti potrebujejo podatke in ko se dobro odrežejo, lahko pomagajo pri izboljšanju in avtomatizaciji odločanja na mnogih področjih.14
Organizacija za gospodarsko sodelovanje in razvoj (v nadaljevanju: OECD) umetno inteligenco opredeljuje15kot strojno zasnovan sistem, ki lahko za cilje, ki jih definirajo ljudje ustvari napovedi, priporočila ali odločitve, ki imajo vpliv v resničnem ali virtualnem okolju. UI sistemi lahko delujejo z različnimi stopnjami avtonomije. Faze življenjskega cikla sistemov UI vključujejo: 1) »načrtovanje, podatki in modeli«; kar je od konteksta odvisno zaporedje, ki zajema načrtovanje, zbiranje in obdelavo podatkov ter izdelavo modelov; 2) »preverjanje in potrjevanje«; 3) »razporeditev«; in 4) »delovanje in spremljanje«. Te faze se med seboj pogosto ponavljajo in niso nujno zaporedne.
Z vidika držav, ki so članice tako Evropske unije kot tudi Organizacije za gospodarsko sodelovanje in razvoj (OECD) bi bilo smiselno, da se definicija umetne inteligence poenoti, za namen tega magistrskega dela pa poenotenje definicije ni nujno. Za splošno poenotenje definicije na svetovni ravni je bil že opravljen določen trud.16
13 Povzeto po Enciklopediji Brittanica, dostopno na: https://www.britannica.com/technology/artificial-intelligence.
14 Povzeto po: Communication from the Commission to the European Parliament, the European Council, the Council, the European Economic and Social Committee and the Committee of the Regions on Artificial Intelligence for Europe, Brussels, 25.4.2018 COM(2018) 237 final.
15 Povzeto po: Priporočilu Sveta o umetni inteligenci, dostopno na:
https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449#:~:text=Principles%20for%20responsible%20stewardship%20of%20trustworthy%20AI%3A%20the%20fi rst%20section,)%20robustness%2C%20security%20and%20safety%3B.
16 Glej JRC Technical Reports, AI WATCH, Luxembourg: Publications Office of the European Union, 2020, dostopno na:
https://publications.jrc.ec.europa.eu/repository/bitstream/JRC118163/jrc118163_ai_watch._defining_artificial_in telligence_1.pdf.
6 V literaturi se pogosto omenja vrste UI glede na funkcionalnost ter glede na zmogljivost. Vrste UI glede na funkcionalnost so: 1) reaktivni stroji, 2) omejen spomin, 3) teorija uma in 4) samo-zavedna.17 Vrste UI glede na zmogljivosti so: ozka UI, splošna UI in super UI. Ozka UI je edina vrsta UI, ki smo jo do sedaj uspešno realizirali. Je zelo inteligentna pri izvajanju določenih nalog, za katere je programirana, ampak kljub videzu inteligence deluje v ozkem naboru omejitev. Ne posnema človeške inteligence, samo simulira človeško vedenje na podlagi ozkega nabora parametrov in v določenem kontekstu.
Primeri takšne vrste UI so prepoznava govora ali obrazov, iskanje po internetu ter pomoč pri vožnji vozil ali avtonomna vožnja vozil. Splošna UI (tudi močna ali globoka UI) posnema človeško inteligenco in/ali vedenje ter ima sposobnost učenja in uporabe svoje inteligence za reševanje katerega koli problema. Misli, razume in deluje lahko na način, ki se ne razlikuje od človeka. Za uspeh te vrste UI bi morali najti način, kako ozavestiti stroje in programirati kognitivne sposobnosti. Super UI je hipotetična UI, ki ne le posnema ali razume človeške inteligence in vedenja, ampak se zaveda same sebe in preseže vse človeške sposobnosti. Takšna vrsta UI bi bila izjemno boljša pri vsem, kaj ljudje počnemo:
matematika, umetnost, medicina in čustveni odnosi. Imela bi večji spomin in hitrejšo sposobnost obdelave in analize podatkov, kar posledično pomeni, da bi bile njene zmožnosti odločanja in reševanja problemov veliko boljše od človeških.18
2.3 Razlika med roboti in umetno inteligenco
Razlika med umetno inteligenco in roboti je v tem, da lahko umetna inteligenca obstaja izključno v obliki programa ali je vgrajena v naprave. Za robote pa mora biti prisotna nekakšna fizična komponenta.
Obstaja več različnih vrst robotov, od katerih jih nekaj vsebuje UI, vendar tudi če vsebujejo UI, je le-ta del celote robota, ki običajno vključuje tudi senzorje, aktuatorje in programe, ki niso UI.
Zaplete se pri programskih robotih, ki so vrsta računalniških programov, ki delujejo samostojno, s ciljem dokončati določene naloge. To na primer vključuje robotsko avtomatizacijo procesov, spletne iskalnike in programe, ki se pojavljajo na spletnih mestih ter komunicirajo z ljudmi19. Programski roboti20 obstajajo le v kibernetskem prostoru, v obliki programov in nimajo fizične komponente, z razliko od robotov, ki so telesni in oprijemljivi.21
17 Povzeto po: Types of Artificial Intelligence, dostopno na: https://www.javatpoint.com/types-of-artificial-intelligence.
18Povzeto po: B. O’Carrol, What are the 3 types of AI? A guide to narrow, general, and super artificial intelligence, dostopno na: https://codebots.com/artificial-intelligence/the-3-types-of-ai-is-the-third-even-possible.
19 Tako imenovani chatbots.
20 Tako imenovani bots.
21 Povzeto po A. Chisling, Bots vs chatbots vs robots vs AI, 6. 11. 2016, dostopno na:
https://blog.rossintelligence.com/post/bots-vs-chatbots-vs-robots-vs-ai.
7 3 Pravna subjektiviteta robotov
V tem poglavju raziščem trenutni pravni status robotov in status, ki bi ga lahko imeli.
3.1 Definicija pravne subjektivitete
Pravni subjekti so nosilci pravnih pravic in pravnih dolžnosti v pravnih razmerjih. Vedenja in ravnanja pravnih subjektov določajo pravna pravila v obliki dovolitev, zapovedi in prepovedi, ta pravila pa pravni subjekti sočasno uporabljajo in ustvarjajo. Pravni red vsake posamezne države odloči, katere lastnosti so takšne, da se lahko na podlagi njih podeli pravna subjektiviteta. Pravni subjekti lahko nastopajo v medsebojnih pravnih razmerjih in njihove dejavnosti lahko potekajo v njihovem imenu ter na njihov račun. Stvar pravne ureditve je, da predvidi, kdo je lahko pravni subjekt in kdo ne more biti, pri čemer je kot taka vedno umetna.
V Sloveniji so pravni subjekti fizične ali pravne osebe. Pri tem so vse fizične osebe pravni subjekti.
Pravni subjekti so poleg fizičnih oseb tudi »določene družbene tvorbe, ki jim veljavni pravni red priznava, da imajo to kakovost«.22 Navedene družbene tvorbe, ki so pravni subjekti so lahko združenja ljudi (npr. društva), stvarni substrati, ki služijo določenemu namenu (skladi), druge enote, ki zajemajo ljudi in stvari substrat (npr. zgradbe), ki omogoča, da ljudje opravljajo določene dejavnosti (npr. država, vzgojno izobraževalni zavodi). 23
3.2 Pravna subjektiviteta pravnih oseb
Pravni subjekti so poleg fizičnih oseb tudi pravne osebe, ki imajo prav tako pravico do sodelovanja v pravnih razmerjih, lahko postanejo lastniki premičnin in nepremičnin, lahko pridobivajo pravice in prevzemajo obveznosti ter lahko tožijo ali so tožene.24 Zaradi zapletenih vprašanj, ki lahko nastanejo pri možnih zlorabah pravnih oseb pa je potrebno skrbno premisliti, katerim družbenim tvorbam se podeli pravno subjektiviteto. Skupne značilnosti pravnih oseb so, da imajo »1) ustrezno osebno in (ali) stvarno podlago (substrat), 2) namen njenega delovanja mora biti pravno dopusten in imeti mora tudi 3) ustrezen organizacijski ustroj, da lahko deluje in udejanja svoj pravni namen«.25
Roboti so trenutno obravnavani kot stvari, torej kot samostojni telesni predmeti, ki jih človek lahko obvladuje.26 Da bi se status robotov skladal z njihovo vedno večjo vlogo v naših življenjih sedaj in v prihodnosti, mnogi že razmišljajo o spremembi njihovega pravnega statusa.
22 Citirano: Pavčnik M., Teorija prva: prispevek k razumevanju prava, Lexpera, GV Založba, Ljubljana 2020, str.
153.
23Povzeto po Pavčnik M., Teorija prva: prispevek k razumevanju prava, Lexpera, GV Založba, Ljubljana 2020, str. 142 – 165.
24 Povzeto po 4. členu ZGD-1.
25 Citirano: Pavčnik M., Teorija prva: prispevek k razumevanju prava, Lexpera, GV Založba, Ljubljana 2020, str.
156.
26 Citirano: Stvarnopravni zakonik (Uradni list RS, št. 87/02, 91/13 in 23/20), 15. člen.
8 Ena izmed možnosti je, da bi roboti postali pravni subjekti v obliki pravnih oseb. Navedeno bi sicer pomenilo, da bi roboti lahko v pravnem okolju nastopali do neke mere samostojno in tudi potencialni oškodovanci bi imeli več možnosti poplačila, saj bi lahko uporabili institut spregleda pravne osebnosti.
Navedeno bi pa seveda odprlo pot tudi potencialnim zlorabam.27 Največji zadržek pri tej ureditvi bi bil, da pravna oseba ne more obstajati brez odgovorne fizične osebe.
Nekateri strokovnjaki sicer menijo, da pravo določenih držav že sedaj dopušča možnost, da avtonomni sistemi ali UI postanejo pravne osebe. 28 Menijo, da bi avtonomni sistemi ali UI v Združenih državah Amerike lahko postali družbe z omejeno odgovornostjo, saj je država znana po veliki fleksibilnosti pravne ureditve le-teh. Fizična oseba lahko ustanovi družbo z omejeno odgovornostjo ter v operativnem sporazumu, ki določa delovanje družbe opredeli, da bo družba izvajala aktivnosti, kot jih bo določal avtonomni sistem. Fizična oseba nato prenese lastništvo morebitnih relevantnih stvari v njeni lasti na družbo ter izstopi iz nje, s čemer pravna oseba ostane brez članov. Potencialni rezultat je trajna družba z omejeno odgovornostjo, ki ne potrebuje nobenega dodatnega posredovanja prej obstoječe fizične ali pravne osebe, zato da ohrani svoj status.
3.3 Pravni status živali
Naslednja možnost ureditve pravne subjektivitete robotov, bi bila lahko podobna modelu pravne ureditve živali, ki v pravu uživajo poseben status. Stvarnopravni zakonik v 15a. členu navaja, da živali niso stvari, ampak so čuteča živa bitja in njihovo zaščito urejajo posebni zakoni. Za živali se uporabljajo določila zakona, ki urejajo premičnine, če ni drugače urejeno.29 Zaščita živali je opredeljena v Zakonu o zaščiti živali, ki določa »odgovornost ljudi za zaščito živali kot čutečih živih bitij, to je zaščito njihovega življenja, zdravja in dobrobiti; določa pravila za dobro ravnanje z živalmi; določa, kaj se šteje za mučenje živali in katera ravnanja oziroma posegi na živalih so prepovedani; določa pogoje, ki jih je za zaščito živali treba zagotoviti pri reji in vzreji živali, prevozu, izvajanju določenih posegov in postopkov na živalih, zakolu in usmrtitvi živali; ureja postopek, pravice in obveznosti v primerih, ko gre za zapuščene živali; ureja nevladne organizacije, ki delujejo v javnem interesu na področju zaščite živali;
ureja nadzorstvo nad izvajanjem tega zakona ter določa kazenske sankcije za kršitelje določb zakona.«30
27 O tem nekaj več v poglavju Kazenska odgovornost za dejanja robotov.
28Povzeto po S. Bayern, T. Burri, T. D. Grant, D. M. Häusermann, F. Möslein, Company Law and Autonomous Systems: ABlueprint for Lawyers, Entrepreneurs, and Regulators, Hastings Science and Technology Law Journal, 2017, str. 137- 139, dostopno na: https://papers.ssrn.com/sol3/papers.cfm?abstract_id=2850514. Opomba: v slovenskem pravu družba brez družbenikov preneha v skladu s 6. alinejo prvega odstavka 521. člena ZGD-1.
29 Povzeto po 15a. členu Stvarnopravnega zakonika, (Uradni list RS, št. 87/02, 91/13 in 23/20).
30 Citirano iz Zakona o zaščiti živali (Uradni list RS, št. 38/13 – uradno prečiščeno besedilo, 21/18 – ZNOrg in 92/20; v nadaljevanju ZZZiv).
9 Živali torej niso obravnavane kot ostali pravni objekti, vendar pa tudi nimajo toliko pravic in obveznosti, kot jih imajo pravni subjekti. Lastniki živali morajo z ustrezno vzgojo zagotoviti, da žival ni nevarna okolici31, vendar je vzpostavljen tudi mehanizem za situacijo, ko se živali odzovejo nepredvidljivo.
Živali, ki so neobvladljive in s tem ogrožajo okolice ali kažejo napadalno vedenje do ljudi so označene kot nevarne živali in za njih zakon predvideva posledice, recimo posebno ravnanje s takimi živalmi ter v skrajnih primerih tudi usmrtitev živali.32 Za škodo, ki jo povzroči nevarna žival je objektivno odgovoren njen lastnik, razen če dokaže, da je poskrbel za potrebno varstvo in nadzorstvo.33 Navedeno velja za hišne živali, za divje živali so pa pravila drugačna, tudi zato, ker so veliko manj predvidljive in jih kot posamezniki ne moremo držati. Za škodo, ki jo povzročijo le-te, je objektivno odgovoren upravljalec lovišča ali država, odvisno od okoliščin.34
Ureditev pravne subjektivitete robotov bi lahko posnemala princip pravne ureditve statusa živali. Roboti bi imeli poseben status v pravu ter ne bi bili obravnavni le kot stvari, vendar kot neka posebna pravna entiteta, podobno kot so živali. Razlogi zakaj robotov ni možno obravnavati kot živali, so med drugim dejstvo, da imamo z vedenjem naprednih robotov veliko manj izkušenj in intuicije, da bi lahko zanesljivo pričakovali določeno vedenje. Poleg tega so živali v pravu opredeljene kot čuteča bitja, medtem ko roboti to zaenkrat izrazito niso.
3.4 Možni načini ureditve pravne subjektivitete robotov
Tudi nekatere mednarodne organizacije, recimo Evropska unija že razmišljajo in pozivajo k spremembi ureditve pravnega statusa robotov. Evropski parlament v Resoluciji s priporočili Komisiji o pravilih civilnega prava o robotiki Evropsko komisijo poziva naj premisli o vzpostavitvi posebnega pravnega statusa za robote na dolgi rok, da bi vsaj napredni avtonomni roboti lahko pridobili status elektronskih oseb in bi bili odgovorni za nadomestitev škode, ki bi jo povzročili. Prav tako poziva k razmisleku o uporabi elektronske osebnosti v primerih, ko bi roboti sprejemali samostojne odločitve ali drugače neodvisno vzajemno delovali s tretjimi osebami.35
Navedeni predlog Evropskega parlamenta je sprožil val polemik preko cele Evrope. Predlog za pripravo resolucije Evropskega dokumenta je vložila luksemburška poslanka v Evropskem parlamentu, ki je v naknadnih intervjujih jasno povedala, da po njenem mnenju roboti nikakor ne smejo biti obravnavani
31Povzeto po 11. členu ZZZiv.
31Povzeto po 11. členu ZZZiv.