V današnjem globaliziranem svetu se nova znanstvena spoznanja hitro širijo. Primer tega je umetna inteligenca, ki ni zgolj znanstvena tema in tehnologija, temveč zaradi možnosti, da bo spremenila vsakdanje življenje ljudi, tudi politična tema.52 FRT je del javne razprave o umetni inteligenci. Vse več držav namreč razmišlja o uporabi omenjene tehnologije, predvsem v okviru dela organov pregona. Med najbolj odmevnimi primeri take uporabe so tisti, ki zadevajo veliko število ljudi, na primer med uporabo na protestih ali na javnih krajih, ki so zelo obiskani. Ob tem se izpostavlja vprašanje dopustnosti take uporabe glede na učinek, ki ga ta ima na pravice in svoboščine posameznikov. Za preučevanje FRT je tako pomembno poznati razširjenost te tehnologije v svetu, kar omogoča predstavo o dejanskih posledicah, ki jih ta lahko ima za posameznika.
V marcu 2020 je bila izvedena raziskava s strani družbe Surfshark o uporabi FRT po svetu.53 Ugotovljeno je bilo, da je od 194 preiskovanih držav, FRT uporabljalo 109 držav. Pri tem gre za 32 držav Evrope, polovico držav Severne in Srednje Amerike, 92 % držav Južne Amerike, 76 % držav Bližnjega vzhoda in Srednje Azije. Za preostanek držav Azije je značilno, da gre za države, ki so velike izvoznice tehnologije. Tako predvidevajo, da bo Kitajska do leta 2023 dosegla približno 45 % tržnega deleža na svetovnem trgu FRT. V Afriki je v nasprotju z večino preostalih celin FRT manj prisoten. Uporablja ga približno petina držav, ob tem pa še približno 13 % afriških držav razmišlja o uporabi te tehnologije. Med državami, ki jo uporabljajo, prevladuje tehnologija, uvožena iz Kitajske. V Maroku je bila septembra 2019 izdana začasna prepoved uporabe FRT, pri čemer gre za edini primer iz raziskave, pri katerem bi šlo za vnaprej izdano prepoved uporabe.54 Združene države Amerike so ena izmed držav, v katerih je FRT v uporabi. Posebnost te države pa je, da je uporaba in ureditev odvisna od vsake posamezne zvezne države. Med odmevnimi raziskavami, ki so opozorile na številne težave FRT in uporabe tega v ZDA, je raziskava, ki so jo leta 2016 izvedli raziskovalci iz Centre on Privacy and Technology iz univerze Georgetown Law.55 Organi pregona v ZDA uporabljajo FRT za opravljanje različnih nalog. Najpogosteje gre za ustavitev posameznika in njegovo identifikacijo, aretacijo in z njo povezano identifikacijo, preiskavo kaznivih dejanj in z njo povezano identifikacijo ter za implementacijo tehnologije v videonadzorne sisteme. 56 Iz raziskave izhaja ocena, da približno četrtina organov pregona v ZDA ima možnost uporabe FRT (samostojno ali z možnostjo dostopa do sistema drugega organa). Pri tem so najstarejši taki sistemi v uporabi že od leta 2001.57 Eden najstarejših je FACES, ki je v uporabi pri Florida & Pinellas County Sheriff's Office. Gre za sistem z možnostjo primerjave fotografij z 22 milijoni fotografij vozniških dovoljenj in osebnih izkaznic, izdanih na Floridi, z več kot 11 milijonov fotografij, posnetih s strani policije (ang. mug shots) in 24,9 milijona fotografij iz zbirke FBI. Za uporabo sistema ni treba predhodno ugotoviti, da obstaja sum, da je oseba storila kaznivo dejanje. Sistem je uporabljen 8.000-krat mesečno.58 Najbolj obsežno zbirko fotografij za primerjavo pa ima sistem, ki je v uporabi pri FBI. Ta vsebuje 411 milijonov fotografij, od katerih je 24,9 milijona fotografij posnetih s strani FBI (ang. mug shots), 140 milijonov fotografij iz vizumskega sistema in 185 milijonov fotografij z osebnih dokumentov. FBI ni zavezan k
52 Primer tega je veliko število aktivnosti v zvezi z umetno inteligenco na ravni Organizacije združenih narodov;
ITU (2020) Ai for Good.
53 Surfshark (2020), The Facial Recognition World Map.
54 Prav tam.
55 Center on Privacy & Technology at Georgetown Law (2016), The Perpetual Line-Up.
56 Prav tam 11-12. Gre za sprotno tehnologijo prepoznave obrazov (ang. real-time facial recognition), imenovano tudi tehnologija prepoznave obrazov v živo (ang. live facial recognition technology) (dalje sprotna FRT), ki deluje med izvajanjem videonadzora, sproti zaznava obraze, ki jih kamere posnamejo, in nato te primerja z obrazi iz vnaprej določene zbirke fotografij, t. i. watchlist (Agencija Evropske unije za temeljne pravice (2020) Getting the Future Right. 3.).
57 Prav tam 25.
58 Prav tam 127.
8
predhodni ugotovitvi razlogov za sum (ang. reasonable suspicion) za uporabo sistema, ta pa je bil uporabljen vsaj 36.000-krat do objave raziskave.59
V Evropski uniji je eno izmed raziskav o tem opravil Nicolas Kayser – Bril iz nemške nevladne organizacije AlgorithmWatch, ki se posveča obravnavi avtomatiziranih odločitev v različnih sektorjih. Ugotovil je, da je do junija 2020 FRT uporabljalo vsaj 11 policijskih organov v Evropski uniji. Nemški organi tehnologijo uporabljajo od leta 2008 na zvezni in lokalni ravni. Pri tem sta bila izvedena tudi dva pilotna projekta sprotnega FRT.60
Med najbolj razvitimi državami na področju uporabe FRT je Združeno kraljestvo (v nadaljevanju ZK). Njegovo glavno mesto London je namreč med mesti z največ videonadzornimi kamerami glede na število prebivalcev na svetu.61 Iz podatkov metropolitanske policije, pristojne za širše območje Londona, izhaja, da uporablja tako sprotnega FRT kot tudi FRT na podlagi že pridobljenih posnetkov za nazaj. Pri sprotnem FRT se hranijo fotografije oseb, ki so predstavljale zadetek, še največ 31 dni po njihovi pridobitvi, do konca preiskave ali do konca kazenskega postopka. Uporaba poteka tako, da policija vnaprej sporoči, da se bo tehnologija uporabljala, po uporabi objavi rezultate, prav tako pa postavi znake na nadzorovano območje in osebam na območju odgovarja na morebitna vprašanja o delovanju sistema.62 Med odmevnejšimi primeri uporabe sprotnega FRT v ZK je uporaba sprotnega FRT na finalu UEFA Lige prvakov leta 2017 v Cardiffu, na katerem so ugotovili, da je bilo 92 % vseh zadetkov sistema napačnih.63 Iz ZK izvira tudi eden prvih primerov sodne presoje sprotnega FRT.64
V Franciji je bil med prvimi odmevnimi primeri uporabe FRT poskus uporabe tehnologije v sistemu Alicem. Gre za sistem za avtorizacijo dostopa do spletnih storitev javne uprave francoskim državljanom.65 Obširen sistem videonadzora je sicer prisoten v Nici od leta 2010, kjer so leta 2018 želeli izvesti poskus delovanja sprotnega FRT pred eno izmed srednjih šol. Ta poskus so želeli izvesti tudi pred srednjo šolo v Marseillu, sodelovali pa bi dijaki, ki so privolili v to. Odločitev o poskusu so sprejele regionalne oblasti.66 Sledil je upravni spor, ki ga je sprožila francoska nevladna organizacija La Quadrature du Net in po katerem je upravno sodišče v Marseillu razsodilo v prid organizaciji. Ugotovljeno je bilo, da privolitev dijakov ni bila skladna s Splošno uredbo o varstvu osebnih podatkov,67 prav tako pa bi odločitev o poskusu morale sprejeti šole same.68 Znan je še primer, ko je Nica sklenila javno-zasebno partnerstvo s podjetjem Confidentia. Podjetje je omogočilo brezplačno testiranje učinkovitosti njihovega sprotnega FRT sistema na enem izmed vhodov na prireditveni prostor za osebe, ki so v poskus privolile.69
FRT, predvsem sprotni FRT, se po svetu širi tudi kot del koncepta varnih mest (ang. Safe City).70 Gre za del širše ideje pametnih mest (ang. Smart City).71 Koncept varnih mest sicer izvira iz
59 Prav tam 120.
60 Kayser – Bril (2020) At least 11 police forces.
61 Bischoff (2021), Surveillance camera statistics.
62 Metropolitan Police, Live Facial Recognition.
63 BBC (2018) 2,000 wrongly matched.
64 R(Bridges) v CC South Wales & ors, Court of Appeal, case no. C1/2019/2670, 11. 8. 2020.
65Louis (2019), France embraces facial recognition tech.
66 Kayali (2019), How facial recognition.
67 Uredba (EU) 2016/679 Evropskega parlamenta in Sveta z dne 27. aprila 2016 o varstvu posameznikov pri obdelavi osebnih podatkov in o prostem pretoku takih podatkov ter o razveljavitvi Direktive 95/46/ES, OJ L 119, 4.5.2016, str. 1–88; v nadaljevanju GDPR.
68 Pascu (2020) French high court.
69 Kayali (2019), How facial recognition.
70 Primer tega so pametni sistemi za nadzor, iskanje, detekcijo in identifikacijo, omenjeni v konceptu Safe City, oblikovanem za Slovaško (Lacinák, Ristvej (2017) Smart City, Safety and Security Procedia Engineering. 524-525.).
71 Prav tam 523.
9
programa Safer City,72 ki ga je razvila organizacija UN Habitat leta 1996, na zahtevo županov afriških mest.73 Sistem varnih mest zasleduje varnost s številnimi pametnimi napravami, senzorji in družbenimi omrežji, ki ustvarjajo veliko podatkovje, z njihovo analizo pa se omogoča optimalna uporaba časa in orodij za ukvarjanje z grožnjami.74 Pri tem je pomembno, da se doseže tako kibernetska varnost kot tudi zagotovitev spoštovanja pravice do zasebnosti.75
Koncept pametnega mesta je prisoten tudi v Sloveniji,76 medtem ko v slovenskih mestih ni prisotnega sistema, ki bi ustrezal zgornji opredelitvi varnih mest. Znano pa je, da slovenska policija že od leta 201477 uporablja sistem FaceTrace, razvit za izvajanje kriminalističnih nalog.78 Policija to uporablja za primerjavo fotografij s fotografijami iz evidence fotografiranih oseb. Policist fotografije iz evidence tako kot primerjano fotografijo predhodno vnese v sistem. Rezultat tega je razvrščen seznam oseb iz evidence po podobnosti, pri čemer policist sprejme končno odločitev o identifikaciji.79Vprašanje identificiranja z navedenim sistemom je bilo poudarjeno tudi pri uporabi tega za identifikacijo protestnikov.80
Mogoče je skleniti, da se FRT skupaj z umetno inteligenco širi po celem svetu. Pri tem ima pomembno vlogo ideja pametnih mest in z njimi tudi varna mesta. Pomembno je, da je pri tem zagotovljena tako kibernetska varnost kot zaščita pravice do zasebnosti. S tem se soočajo tako v ZDA kot tudi v EU. Posebej razširjena je uporaba v ZK, kjer je tudi eno izmed najbolj videonadzorovanih mest na svetu. V Sloveniji policija prav tako uporablja FRT pri kriminalističnih nalogah. Iz javno dostopnih podatkov pa ne izhaja, da bi uporabljala sprotni FRT.
72 UN Habitat, Smart City Programme.
73 Lacinák, Ristvej (2017) Smart City, Safety and Security Procedia Engineering. 524.
74 Allam (2019) The Emergence Smart Cities. 98.
75 Fujs, Markelj (2018) Zasebnost Varstvoslovje. 7,9.
76 Za Ljubljano glej Mestna občina Ljubljana, Ljubljana Pametno mesto.
77 Kayser – Bril (2020) At least 11 police forces.
78 CENT-SI, Biometric Systems.
79Prelesnik (2021) Policijski sistem Face Trace.
80 Po protestih v Mariboru v aprilu 2021 je prišlo do kaznovanja udeležencev, pri čemer so se pojavljale navedbe, da bi bila lahko identifikacija opravljena z navedenim sistemom, zaradi tega pa še sprožen inšpekcijski postopek Informacijske pooblaščenke (Felc (2021) Policija ima pri avtomatski prepoznavi obraza določene omejitve.).
10