Proč být vděčný za rasistické algoritmy
Dokumentární snímek Coded Bias poodhaluje zakódované předsudky v systémech na rozpoznávání tváří, dostatečnou kritikou masového biometrického dohledu však není.
…
Po několikátém upozornění na nedokonalost algoritmů, které jen prohlubují a akcentují ve společnosti již zažité předsudky, se do mysli diváka však nutně vkrádá myšlenka: Oukej, tak pojďme ty algoritmy opravit, ať nejsou rasistické, ale skutečně spravedlivé, a bude zase vše zalité sluncem, no ne? Seženeme jen ještě více programátorů na rozlousknutí toho příkladu a prostě to vypočítáme lépe!
Tato nutkavá myšlenka je však hlavní slabinou filmu. Ten sice upozorňuje (ač to zní, jako by toto podotknutí bylo do podkresu dodáno až ve střižně), že s upravenými algoritmy bychom celý proces postupného masového dohledu založeného na databázi tváří nás všech jen legitimizovali a dopadli bychom jako v Číně, jenže filmem nabídnuté děsivé záběry z Číny vlastně vůbec děsivě nevypadají…
…
Tak třeba česká firma Cogniware. Dodává sice svůj software na rozpoznání tváří autoritářským režimům a
neváhá si sama tento obchod pochválit s tím, že v podobných zemích je ochrana osobních údajů na nízké úrovni, prodala minulý rok na podzim software i české policii, která jím neváhala na zkoušku
prohnat fotky ze sociálních sítí… Ale zase lze využitím jejích kamer pod vodou upozornit na to, když se někdo
topí.
Nebo další mistři argumentace z Česka – firma AD24. Ta v rámci lepšího cílení reklamy chce obchodům
nabízet software, který během několika desítek milisekund rozpozná tvář, pohlaví, věk i barvu očí, ale protože už dopředu ví, že by to mohlo někomu vadit, prezentuje to tak, že tím vlastně výrazně
ulehčí vizuálnímu smogu ve městě. (Mimo biometrické systémy zmiňme na tomto místě podobně fikaný přístup řetězce Albert, který vás láká k využívání aplikace s tím, že umožněním elektronické účtenky
společnými silami ušetříte kilometry papíru. Nechcete mít aplikaci, a tedy poskytovat Albertu cenná data? Pak jste neekologická čuňata!)
V Británii se zase biometrická identifikace již osvědčila jako výborný prostředek v samoobsluhách, kde pomáhá na základě databáze rovnou upozornit
na podezřelé loupežníky. U nás jsme zatím v první fázi, kdy jsme podobné kamery využili během pandemie na počítání lidí v obchodech – jak ale bylo v některých článcích
příkladně uvedeno, není pochyb, že zavedené systémy najdou uplatnění i po odeznění pandemické situace. V Mexiku je na stole
návrh, podle kterého by každý vlastník telefonu měl státu poskytnout naskenovanou duhovku a otisky prstů. Pomohlo by to totiž v řešení častých případů únosů a vydírání organizovaných z vězení.
Možná nevědomky jsme pak systémům na rozpoznávání tváří všichni tleskali letos v lednu, kdy výrazně dopomohly k identifikaci výtržníků v americkém Kapitolu. Hoan Ton-That, strůjce kontroverzní společnosti ClearView AI, jejíž software k dopadení pomohl, to podle autora nedávného
rozsáhlého článku o biometrických systémech pro New York Times považuje za nezvratný důkaz, že si na podobné systémy jako společnost zvykáme a učíme se s nimi žít; a že hodnota soukromí jako taková je skutečně přežitek, jak s oblibou prohlašuje.
Ve filmu Coded Bias se téměř nevyskytuje pojem, který je přitom zcela zásadní: veřejný prostor. Ten se nám totiž s každým dalším dohledovým prvkem proměňuje před očima. Z prostoru, ve kterém se formou demonstrací a občanských projevů odehrávají často ty nejzásadnější společenské proměny (a který je co se týče proměn společnosti jakýmsi inovačním hubem), se díky biometrickému dohledu stává prostor, ve kterém se již dopředu bojíme projevovat. Co když udělám něco, co někdo vyhodnotí jako něco špatného? A možná ne hned, ale třeba zítra, za měsíc, za pět let? Nikdy si nemůžeme být jistí, jakým způsobem jsou údaje o našem chování a pohybu z podobných systémů zpracovány, kdy se kdo dozví o tom, co jsme kde dělali, s kým jsme byli, jak se tvářili a jak jsme byli oblečení. Sebekontrola a sebecenzura všude tam, kde máme obavy, že můžeme být sledováni, pak nevedeme k ničemu jinému než k dehumanizaci a nesvobodě.
…
Od loňského podzimu běží evropská petiční iniciativa
Reclaim Your Face, která usiluje o zákaz biometrického dohledu v Evropě: sežene-li milion podpisů, bude se jejími požadavky muset zaobírat Evropská komise. I přes úsilí mnoha digitálněprávních organizací z celé Evropy ji zatím podepsalo „jen“ necelých padesát tisíc lidí. Jedním z důvodů, proč tomu tak je, může být paradoxně nutnost zadat číslo občanského průkazu, kterým je platnost petice podmíněna. Lidé, kterým záleží na soukromí, a tedy s myšlenkami petice souzní, tuto výměnu dat dost možná nejsou ochotni podstoupit. Jak jste na tom vy?
Již tuto středu má Evropská unie
zveřejnit dlouho očekávaná a vyhlížená pravidla pro využívání umělé inteligence. Obránci soukromí doufají, že právě tento dokument by nelítostné algoritmy spolu s masovým biometrickým dohledem mohl vykázat do patřičných mezí. Existují však i obavy, jestli již není pozdě a zda lze vypuštěného Džina z lahve ještě vůbec vrátit zpátky. Jak
dokazuje nedávný hack firmy Verkada, dodávající dohledové systémy, při kterém se útočníkům naskytl vhled do desetitisíců on-line záběrů z nemocnic, škol i továren, všudypřítomná kontrola si za tichého souhlasu veřejnosti již proklestila cestu snad do každého kouta naší společnosti.
A pak je tu samozřejmě každý z nás, kdo si chce takzvaně zachovat tvář. Ptejme se pověřených osob, na základě čeho se v našem okolí objevila kamera, jaký je její účel a jaké má funkce. Třeba proč se v pražském metru za posledních pár měsíců objevilo tolik nových kamer značky Bosch: jsou teď snad na každé stanici minimálně čtyři a lidi si je často pletou s osvětlením.
Hynek Trojánek
20. dubna 2021
A2larm
