Články označené ako BrandCom sú pripravené a publikované v spolupráci s komerčnými partnermi. Hoci redakcia TRENDU nie je ich autorom, ich obsah považuje za prínosný pre čitateľa a preto umožnila ich publikovanie. Viac o BrandCom
Objednajte si denný súhrn správ
Vyberiete si len témy, ktoré vás zaujímajú.
Zasielanie newslettra kedykoľvek vypnete.

Tajomná firma, ktorá chce odhaľovať zločin skôr, ako vznikne

03.08.2017, 19:01 | Jozef Tvardzík | © 2017 News and Media Holding

Hovorí sa, že americká firma Palantir patrí medzi najtemnejšie firmy v Silicon Valley. Jej služby využíva armáda, CIA, FBI, ale aj obrovské banky. Firmu investori ocenili na 20 miliárd dolárov a patrí medzi najhodnotnejšie v Silicon Valley, no napriek tomu je pomerne neznáma.

  • Tlačiť
  • Poslať e-mailom
  • Oznámiť chybu
  • 0

Firma stojí za prepracovaným softvérom, ktorý vie dolovať a spracovávať obrovské množstvo dát, ktorými odhalí aj nemožné. O jej činnosti sú známe len útržky informácií - vlády či spravodajské agentúry ju používajú na hľadanie teroristov a zločincov, veľké spoločnosti na odhaľovanie podvodov a zaistenie počítačovej bezpečnosti.

Názov Palantir pochádza z Pána prsteňov. Volali sa tak kamene, s pomocou ktorých bolo možné pozrieť sa na vzdialené miesta. Zamestnanci sú často cielene vyberaní, aby boli introverti a trošku čudáci. Sami tvrdia, že ich poslaním je „zachrániť grófstvo“ (z Pána prsteňov). Pokladajú sa za hobitov bojujúcich proti Mordoru.

Spolupráca s NSA

Firmu založil ešte v roku 2004 spoluzakladateľ PayPalu Peter Thiel a dnes túto spoločnosť s 1 500 zamestnancami označujú za Veľkého brata. Najnovšie chce s dátami načrieť ešte hlbšie: v budúcnosti predikovať trestné činy.

Vízia sa čiastočne podobá príbehu z filmu Minority Report, v ktorom si v roku 2002 zahral Tom Cruise. Film sa odohráva v roku 2054, keď je Washington zbavený kriminality. Zločinec je vďaka trom jasnovidkám zatknutý ešte skôr, ako vôbec k niečomu nekalému dôjde. Zločinom sa stávajú už myšlienky a príprava na trestný čin.

Neprehliadnite

Firma svoje skúsenosti v spracovaní dát využíva naplno, čo chce využiť aj pri predikovaní zločinnosti. Už roky firma pomáha napríklad americkej NSA. Tá na zber dát používa nástroj Xkeyscore, ktorým dokáže vyhľadávať informácie o konkrétnych osobách, vrátane ich internetovej komunikácie, čo odhalil verejnosti Edward Snowden (program PRISM). V rámci programu Skynet NSA na základe vzorcov správania vie identifikovať riziko, kto je napríklad terorista.

Oba programy sú komplikované a prepchaté dátami. Firma Petra Thiela ich však dokáže prehľadne vizualizovať a sprehľadniť, čím pomáha agentom, aby ľahšie vystopovali podozrivých. Softvér Palantiru dokáže spracovať všetko – od dát v tabuľkách až po fotografie a vytvára z nich ucelenú analýzu a prehľad.

Palantir umožňuje stohy informácií importovať a následne spracovať: pomocou XKeyscore napríklad analytik získa všetky IP adresy z Moskvy a Teheránu, z ktorých sa navštívili konkrétne webové adresy alebo cez ne bol vedený hovor cez Skype. Získaný súbor dát potom Palantir spracuje, odhalí ďalšie spojenie medzi adresami a je schopný aj graficky zmapovať polohy na Google Earth. Čas potrebný k prvotnej analýze sa údajne skrátil o polovicu.

Nepriateľ za rohom

Až polovicu klientov firmy tvoria úrady a tajné služby. Od roku 2009 získala firma z verejných peňazí 1,2 miliardy dolárov. Ich spracovanie dát neslúži len na chytenie a identifikovanie teroristov, ale aj napríklad prevádzačov bieleho mäsa či na odhalenie finančných podvodov. Pred dvoma rokmi vyšlo najavo, že za uväznením newyorského finančníka Bernieho Madoffa, ktorý spreneveril 65 miliárd dolárov a dostal 150 rokov väzenia, stál práve softvér Palantiru.

Softvér používala armáda v Iraku a Afganistane na všetko – od kultúrnych trendov na Blízkom východe až po stopovanie bômb na cestách a v budovách. Bez softvéru by boli podozriví už dávno preč. Takto dokážu agenti predpovedať budúcnosť, niekedy sekundy až roky skôr, ako sa niečo reálne stane. Bývalý námorník Samuel Reading, ktorý v Afganistane pracoval pre skupinu NEK Advanced Securities Group, povedal, že vďaka analytickému nástroju „budete vedieť o každom zlom chlapíkovi vo vašej oblasti“.

Film Minority Report spochybňuje etiku a morálku toho, čo môže takýto softvér v realite spôsobiť. To, čo bolo pred 15 rokmi sci-fi, je dnes už realita. Palantir napríklad spolupracuje s políciou v Los Angeles (LAPD) a hovorí o „zlepšovaní situačného povedomia a reakcii na kriminalitu v reálnom čase“.

Stigma dát

Algoritmus berie do úvahy údaje o mieste, čase a dátume už spáchaných zločinov a tieto dáta tak používa na vytváranie online hotspotov na mapách pre policajných dôstojníkov. Policajti tak informácie využívajú na každodennú prácu a hovoria o predikcii zločinov.

Dokážu si každých 12 hodín vytipovať nebezpečné miesta v Los Angeles, kde je možné v danom čase očakávať najvyššiu pravdepodobnosť zločinu. Policajné jednotky tam vyšlú skôr, než sa niečo zomelie. Ide o takzvané prediktívne policajné opatrenia, ktoré sa používajú na odhalenie vodičov, ktorí jazdia načierno, až po drobné priestupky, vraždy či lúpeže.

„Ľudské správanie je vo všeobecnosti dosť dobre predvídateľné, keď študujete ľudské správanie a pochopíte, ako vzniká model zločinu z kvantitatívneho hľadiska,“ povedal antropológ Jeffrey Brantingham z University of California, ktorý na projekte s políciou spolupracuje. Je spoluautor ďalšieho nástroja na predvídanie, ktorý používa LAPD. Volá sa PredPol.

Softvér, ktorý používa 60 policajných oddelení v USA, zahŕňa dáta o súvisiacich trestných udalostiach z bezprostrednej aj dlhodobejšej minulosti, pričom nedávne zločiny majú v algoritme väčšiu váhu. Predpovede znázorní na mape a automaticky ich generuje každý deň pre novú policajnú hliadku. Pracuje na princípe modelov, ktorý používajú seizmológovia.

Väčšina zemetrasení sa vyskytuje na aktívnych zlomoch. Zlom predstavuje oslabenú zónu medzi dvoma blokmi hornín. Po zemetrasení nasledujú ešte dozvuky. To isté sa deje aj pri zločine. Aktívnym zlomom je napríklad okolie barov, ktoré zatvárajú v noci. Alebo zóny, kde sa pohybujú gangy. Vražda medzi gangmi si následne vyžiada dozvuky v podobe odvety. 

Algoritmus sa tak dá použiť na správanie gangov, vykrádanie obchodov v rizikovom čase, ale aj na násilné správanie ľudí v ich dome. Systémy, ktoré boli primárne používané armádami vo vojnových zónach, tak prenikajú do reality na uliciach. Výsledkom je efektívnejšia práca polície a nižšia zločinnosť ich predchádzaním.

Lenže problém nastáva, že predikcie vytvorili v mestách štvrte, ktoré si nesú so sebou stigmu automatickej zločinnosti. Vytvorili v oblastiach paranoju strachu a podozrievania. Ide predovšetkým o štvrte v mestách, kde žijú mladí afroameričania. To, že sa po ulici prechádzajú dvaja černosi s kapucňou na hlave, nemusí znamenať v centre mesta nič, ale v policajnom hotspote, kde na základe dát je zvýšený počet vrážd a vlámačiek, je to jeden z faktorov, aby policajt pre istotu vytiahol zbraň.

Už v minulosti sa tak prediktívnym toolom, ktoré polícia používa, pripisuje zvýšený počet zastrelených černochov na uliciach. Program tak spôsobuje zvýšenú militarizáciu políciou a násilné vymáhanie práva v rozpore s komunitami, ktorým má polícia primárne poskytnúť ochranu.

Ana Munizová, aktivistka a výskumná pracovníčka Koalície pre mládež pre LA Weekly povedala, že kým armáda bráni štát pred vonkajším nepriateľom, polícia by mala chrániť občanov. Lenže používaním Palantiru sa rozdiely stierajú.

„Armáda má brániť teritórium pred vonkajšími nepriateľmi, to nie je poslaním polície – tá nemá hľadieť na obyvateľov ako na vonkajšieho nepriateľa,“ povedala. Tým, že je policajt vyslaný s autom do štatisticky rizikovejšej oblasti ešte neznamená, že sa tam nutne niečo stane. Lenže ak pozná štatistiky, aj pri nevinných konfliktoch môže reagovať prehnane.

Algoritmy sú všade

V USA sa algoritmy používajú napríklad na hodnotenie učiteľov alebo na stanovenie pravdepodobnosti trestnej činnosti u jednotlivca - porovnáva sa, kde človek vyrastal, do parametrov sa zadá rasa a priatelia s kriminálnou minulosťou. Na základe toho sa stanoví aj výška odňatia slobody.

Ide pritom o diskrimináciu, ktorej sa venuje matematička Cathy O’Neil v knihe Weapons of Math Destruction.

Tieto algoritmy zostavil nejaký expert, ale čo ak urobil chybu? Algoritmy sú natoľko komplikované, že im bežný človek nerozumie.

Spýtate sa v banke, prečo ste nedostali úver. Je dosť možné, že vám pracovníčka banky povie, že algoritmus na stanovenie rizikovosti klienta vyšiel vo váš neprospech. Detaily často nezistíte, pretože algoritmu nerozumie ani pracovníčka úverov, ani jej priamy nadriadený.

Podľa autorky knihy sú algoritmy ničivou zbraňou matematiky. Je často rasistická, neprehľadná, skreslená a či chceme, alebo nie, škatuľkuje ľudí podľa pohlavia alebo rasy. V USA napríklad človek v zlej štvrti platí o niekoľko percentuálnych bodov vyššiu sadzby z úveru ako ten istý modelový klient, len s tým rozdielom, že je biely a žije v slušnej štvrti mesta.

Diskrimináciu autorka knihy našla aj v prípade poistiek za auto. Napríklad na Floride platil vodič bez jediného dopravného priestupku ročne o vyše 1 500 dolárov viac ako vodič, ktorý mal záznam za jazdu v opitosti. Ako je to možné?

Prvý vodič s čistým registrom mal totiž nízky príjem. Poisťovne totiž vedia, že chudobnejší ľudia sú menej vzdelaní. To znamená, že často ani nezistia, že platia vysokú poistku. Keďže sa nebudú sťažovať, ich fluktuácia je nižšia. Niekto takýto algoritmus nastavil a berie sa ako samozrejmosť a ovplyvňuje životy ľudí.

  • Tlačiť
  • Poslať e-mailom
  • Oznámiť chybu
  • 0

Tagy data, Palantir, polícia

Diskusia (0 reakcií)