dĺžka článku: 3 minúty
Súkromie nás všetkých, nech už bolo počas doby internetu akékoľvek, už nikdy nebude také, ako bolo doteraz. Ak vôbec nejaké bude. Pretože sa stalo to, pred čím varujem už 5 rokov celé svoje blízke aj široké okolie, že sa raz stane.
A (nakoniec možno nie až tak) prekvapivo, nemôže za to žiaden technologický gigant, sociálna sieť, tajná služba alebo autoritársky režim. Je to dielo 31 ročného chalana.
Hoan Ton-That, Austrálčan žijúci v Amerike, vyvinul aplikáciu, ktorá v sekundách po odfotení ľubovoľného človeka vytvorí nielen zoznam všetkých jeho dostupných fotiek online (aj s linkom na zdroj), ale aj meno tohto človeka, jeho bydlisko, záľuby a podobne.
Čo je však najhoršie, nie je to niečo, čo sa práve rozbieha a proti čomu sa dá brániť. Aplikácia Clearview AI má už dávno stiahnutú databázu 3 miliárd fotiek ľudí po celom svete, ktorú čerpala z dostupných fotiek Facebooku, Twitteru, iných sociálnych sietí, YouTube a miliónov iných stránok po celom svete (len pre porovnanie, počet fotiek v FBI databáze je „iba“ 411 miliónov). A ak by ich teraz niekto utekal zmazať, už s tým nič nenarobí, aplikácia ich už má uložené na vlastných serveroch.
Ďalším neuveriteľným kúskom je, že spoločnosť poskytuje služby svojej aplikácie už niekoľko mesiacov viac ako 600 silovým zložkám po celom svete, medzi ktoré patrí aj FBI či oddelenie národnej bezpečnosti USA. A to aj napriek tomu, že algoritmus, ktorý aplikácia používa a výsledky, ktoré produkuje, neboli testované žiadnou národnou či aspoň nezávislou inštitúciou.
Jej tvorca hovorí, že jeho neurálna sieť dosahuje výsledky ako žiaden iný nástroj na svete. Dokazujú to aj výpovede niektorých policajtov. Jeden príklad za všetky: policajtovi sa podarilo vypátrať osobu obvinenú zo sexuálneho obťažovania dieťaťa na základe fotky z posilňovne úplne neznámeho človeka, kde v zrkadle bol odraz tváre obvineného. Reportér, ktorý robil rozhovor s tvorcom aplikácie, po odfotení svojej tváre zbadal aj fotky desať rokov staré, ktoré ani nevedel, že existujú. A keď si rukou zakryl nos a dolnú polovicu tváre, aplikácia aj tak našla 7 pozitívnych výsledkov.
Policajti po celom svete už takmer rok fotia (nielen!) podozrivé osoby a uzatvárajú tak prípady v rekordne krátkom čase a navyše sú schopní uzavrieť aj dlho odložené prípady. Avšak každá takto urobená fotka taktiež putuje na serveri Clearview…
Je pravda, že chytanie zločincov a násilníkov je skvelá vec. Tu sme však vstúpili do rieky, z ktorej už niet cesty na breh. Je to niečo, čoho sa roky stránil aj Google, hoci mal k tomu všetky potrebné nástroje, databázy, mozgovú kapacitu aj peniaze. V roku 2011 Eric Schmidt (vtedajšia hlava Google) povedal, že rozpoznávanie tváre je jediná technológia, ktorej sa Google stráni, pretože by mohla byť použitá veľmi zlým spôsobom. A má pravdu. Čo dokáže urobiť takýto nástroj v nepovolaných rukách? Napríklad policajt, ktorý by ho chcel mimo služby použiť na sledovanie potenciálnych partneriek? Hneď by vedel jej meno, bydlisko aj záujmy. Možno by videl aj pár polonahých záberov zo sociálnych sietí. Alebo jedinci či rovno celé autoritárske režimy, ktoré vyhrabú na človeka jeho tajomstvá a potom ho vydierajú či pošlú rovno do väzenia? Alebo z opačného konca: čo ak aplikácia vyhodnotí danú tvár zle a označí nevinného človeka?
Al Gidari, profesor súkromia na Stanfordskej univerzite práva, dostal otázku, čo si o tomto prípade myslí. Odpovedal: „Absent a very strong federal privacy law, we’re all screwed.“
Z môjho pohľadu sú len dve možnosti, ktoré by súčasný stav mohli aspoň trochu zvrátiť. Prvou, ako spomínal p. Gidari, je extrémne silná legislatíva, hovoríme však až o úrovni zákazu použitia tejto technológie. Druhá je z kategórie „klin sa klinom vybíja“ – zaplaviť internet miliardami fotiek neexistujúcich ľudí, ktoré vytvorí iný program s iným algoritmom.
Základné pokrytie celej problematiky nájdeš v skvelom článku The New York Times (🇬🇧, 19 min). Ďalšie čítanie nájdeš tu. Európska komisia zvažuje zákaz AI v spojení s rozpoznávaním tvárí.
