Predstavljajte si, da se sprehajate skozi vrvež na železniški postaji. Mudi se vam, prebijate se skozi množico in se pri tem niti ne zavedate, da vas nenehno spremljajo kamere in vas prepoznavajo na podlagi vaših obraznih potez.
Naši biometrični podatki so danes za podjetja zelo dragoceni bodisi iz varnostnih razlogov bodisi zato, ker jim omogočajo, da izboljšajo uporabniško izkušnjo in povečajo svojo učinkovitost. Biometrični podatki so podatki o edinstvenih telesnih in vedenjskih značilnostih posameznika, ki omogočajo njegovo identifikacijo, denimo na podlagi njegovih obraznih potez, prstnih odtisov in vedenjskih značilnosti. Tehnologija prepoznavanja obrazov temelji na algoritmih računalniškega vida, ki so trenutno eden od najbolj zmogljivih umetnointeligenčnih sistemov. Tehnologija deluje tako, da pregleduje slike ali video posnetke z raznih naprav, vključno z nadzornimi kamerami. Na njih prepoznava poteze obrazov posameznikov, jih primerja s podatki v bazi obrazov ter nato prepozna njihovo identiteto.
Sistem običajno prepozna in kartira 68 posebnih točk na obrazu, tako imenovanih značilnic, ki tvorijo neke vrste digitalni odtis obraza, na podlagi katerega nas lahko sistem potem prepozna. Po zaslugi teh točk, med katerimi so denimo kotički oči, konica nosu ter rob zgornje in spodnje ustnice, lahko ustvarimo matematični prikaz obraza, ne da bi shranili celotno sliko, kar omogoča večjo zasebnost in učinkovitost. Od supermarketov do parkirišč in železniških postaj, nadzorne kamere so povsod in tiho opravljajo svoje delo. Toda kaj sploh je njihovo delo?
Preglednost in regulacija
Podjetja utegnejo imeti dobre argumente za zbiranje biometričnih podatkov, toda z močjo pride tudi odgovornost, zato se ob uporabi tehnologij za prepoznavanje obrazov porajajo mnoga pomembna vprašanja, povezana s preglednostjo, etiko in zasebnostjo. Če že policiji očitamo, da ravna neetično, ker uporablja tehnologije za prepoznavanje obrazov, potem se zdijo argumenti raznih podjetij še manj prepričljivi, zlasti, ker ni prav veliko znanega o tem, kako shranjujejo, obdelujejo in uporabljajo te podatke. Z zbiranjem in shranjevanjem naših biometričnih podatkov brez našega privoljenja lahko kršijo naše pravice, vključno s pravico do varstva osebnih podatkov in zasebnosti. Izvajanje video nadzora ter daljše shranjevanje, obdelava in uporaba tako zbranih podatkov so dovoljeni le v redkih primerih. Tehtanje med varnostjo, učinkovitostjo in pravico do zasebnosti je za podjetja zapletena etična dilema. Kot potrošniki običajno neradi delimo svoje osebne podatke. Toda sistemi za prepoznavanje obrazov so povezani s še bolj resnimi grožnjami, kot sta na primer ustvarjanje globokih ponaredkov (angl. Deepfakes) in lažno predstavljanje oziroma ribarjenje.
Za primer navedimo razkritje, da je družba Network Rail s pomočjo umetnointeligenčne programske opreme podjetja Amazon na skrivaj nadzorovala na tisoče potnikov. Ta primer osvetljuje ključno potrebo po preglednosti in strogi regulaciji tega početja, kljub temu da nas neko podjetje nadzoruje z namenom, da bi izboljšalo svoje storitve. Glasnik družbe Network Rail je tedaj sporočil: "Ko se odločimo uporabiti to tehnologijo, počnemo to v sodelovanju s policijo in varnostnimi službami, s čimer želimo zagotoviti, da je naše ukrepanje sorazmerno in v skladu z relevantnimi zakoni o uporabi tehnologij nadzora."
Politične stranke, kot je pakistanska stranka PTI, so začele uporabljati posebno umetnointeligenčno tehnologijo, ki je njenemu voditelju Imranu Khanu omogočila, da je iz zapora vodil svojo predvolilno kampanjo
Privolitev že, a kako?
Eden od glavnih izzivov je tudi vprašanje privolitve. Kako lahko ljudje dajo prostovoljno in informirano privolitev, če so nenehno pod video nadzorom in če niso seznanjeni s tem, kdo shranjuje in uporablja njihove biometrične podatke? Ta osnovna težava nakazuje, kako zapleteno je reševanje vprašanj, povezanih z zasebnostjo. Podjetja čaka težka naloga, da pridobijo nedvoumno in informirano privolitev od ljudi, ki morda niti ne vedo, da jih nekdo nadzoruje. Brez preglednih praks in mehanizmov pridobivanja izrecne privolitve skorajda ni mogoče zagotoviti, da se bodo ljudje dejansko zavedali, da nekdo uporablja njihove biometrične podatke in s tem tudi soglašali.
Pomislite na svojo digitalno varnost. Če vam ukradejo neko geslo, ga lahko spremenite. Če nekdo zlorabi vašo kreditno kartico, jo lahko prekličete. Kaj pa vaš obraz? Tega boste imeli za vedno. Biometrični podatki so neverjetno občutljivi, ker jih ni mogoče spremeniti, če jih nekdo zlorabi. Zato je zelo pomembno, da poskrbimo za njihovo varno zbiranje, obdelavo in uporabo. Hekerji utegnejo po vdoru v podatkovno bazo te podatke zlorabiti in jih uporabiti pri krajah, goljufijah in celo nadlegovanju.
Druga težava sta algoritemska pristranskost in diskriminacija. Če podjetja na podlagi podatkov sprejemajo odločitve, kako lahko zagotovijo, da bo pri urjenju algoritmov uporabljenih dovolj različnih podatkov? Podjetja utegnejo biometrične podatke uporabiti za preverjanje istovetnosti, personalizirano trženje, spremljanje zaposlenih in nadzor nad dostopom. Obstaja precejšnje tveganje spolne in rasne pristranskosti, če je algoritem izurjen le s podatki neke homogene skupine, kot so denimo belopolti moški. Podjetja bi morala preprečiti nadaljevanje te digitalne pristranskosti. Če jim to ne bo uspelo, utegnejo s tem prispevati k povečanju družbene neenakosti.
Zakonodaja in ozaveščenost
Vedno bolj razširjena uporaba tehnologij za prepoznavanje obrazov zahteva sprejetje trdne zakonodaje, ki bo odrejala pridobitev nedvoumne privolitve vsakega posameznika za zbiranje njegovih biometričnih podatkov. Oblikovati je treba tudi stroge standarde za shranjevanje in zaščito teh podatkov, da bi preprečili njihovo zlorabo.
Enako pomembno je, da se javnost bolje seznani s tem vprašanjem. Čeprav se ljudje vedno bolj zavedajo pomena varovanja osebnih podatkov, uporabi tehnologij za prepoznavanje obrazov še vedno ne namenjajo dovolj pozornosti. To lahko morda pripišemo dejstvu, da je v vsakdanjem življenju nevidna in da se mnogi ljudje sploh ne zavedajo z njo povezanih nevarnosti in etičnih vprašanj. Informiranje javnosti je zato zelo pomembno.
Dober začetek bi pomenilo vključevanje načel odgovorne uporabe AI v tehnologije za prepoznavanje obrazov. Odgovorna uporaba AI temelji na poštenosti, odgovornosti, preglednosti in etiki. To pomeni, da bi morali biti sistemi AI, vključno s sistemi za prepoznavanje obrazov, zasnovani in uporabljeni na načine, ki bodo zagotavljali spoštovanje človekovih pravic, zasebnosti in dostojanstva.
Vendar ni nujno, da bodo podjetja dala prednost tem načelom, če regulatorni organi ali javnost od njih ne bodo zahtevali, da prevzamejo odgovornost za svoja dejanja. Preglednost je temelj odgovorne uporabe AI. Če bodo podjetja, ki uporabljajo tehnologije za prepoznavanje obrazov, to še naprej tajila, jim ne bi smeli zaupati svojih biometričnih podatkov. Podjetja, oborožena z našimi osebnimi podatki, imajo lahko veliko moč, ko gre za manipulativno trženje. Potreben je samo "en všeček" in že lahko postanemo tarča prilagojenih oglaševalskih akcij.
Politične stranke, kot je pakistanska stranka PTI, so začele uporabljati posebno umetnointeligenčno tehnologijo, ki je njenemu voditelju Imranu Khanu omogočila, da je iz zapora vodil svojo predvolilno kampanjo. Zbiranje in analiza vizualnih podatkov sta še bolj občutljiva kot zbiranje in analiza nevizualnih podatkov, saj zagotavljajo globlji, intimnejši in neposrednejši vpogled v posameznikovo vedenje in identiteto. Zato se ob dejstvu, da ga podjetja vse pogosteje uporabljajo, zastavljajo vprašanja, povezana z zasebnostjo in privolitvijo. Ker se ljudje še vedno ne zavedajo, v kakšni meri podjetja zbirajo in uporabljajo njihove vizualne podatke, ostajajo ti nezaščiteni pred krajami in zlorabami.
~
Kamran Mahroof, profesor in strokovnjak
na področju analitike oskrbovalnih verig,
Univerza v Bradfordu
Amizan Omar, profesorica strateškega
menedžmenta, Univerza v Bradfordu
Irfan Mehmood, profesor poslovne analitike,
Univerza v Bradfordu
(The Conversation)
