Kako orodja umetne inteligence spreminjajo vprašanja boja proti kriminalu in državljanskih pravic.
V Združenih državah se pripravlja škandal zaradi uporabe Cybercheck, programske opreme AI (strojno učenje) kanadskega podjetja Global Intelligence, s strani organov kazenskega pregona.
Cybercheck je skoraj 8000-krat uporabilo na stotine policijskih oddelkov in tožilcev v 40 državah za reševanje resnih kaznivih dejanj, kot sta umor in trgovina z ljudmi.
A medtem ko policija "slavi" programsko opremo in jo izdelovalci branijo, odvetniki na drugi strani procesa nizajo hude obtožbe.
Predstavljajte si scenarij, kjer je vaše celotno digitalno življenje vidno algoritmu, ki nenehno ocenjuje, ali ste morda kriminalec. Cybercheck lahko zlahka analizira ogromne količine internetnih podatkov in vdre v vašo zasebnost brez naloga za preiskavo ali kakršnega koli soglasja. Možnost zlorabe ni paranoična fantazija, ampak nujen problem.
Zanesljivost, preglednost in zanesljivost programske opreme ustanovitelja Cyberchecka Adama Mosherja so pod vprašajem.
Cybercheck želi pomagati pri zbiranju dokazov z zagotavljanjem podatkov iz javno dostopnih virov – kar podjetje imenuje »odprtokodna inteligenca«.
To so e-poštni naslovi, računi v družabnih omrežjih in drugi deli osebnih podatkov, ki jih ljudje puščajo za seboj na internetu. Cilj je locirati osumljence in posredovati druge informacije organom pregona.
Kritiki pravijo, da je težava v tem, da Cybercheck kljub svoji široki uporabi in posledicam – namreč pošiljanje ljudi v zapor zaradi hudih kaznivih dejanj – večinoma ostane pod radarjem.
To ni presenetljivo glede na to, da je sama programska oprema za zbiranje »odprtokodnih informacij« zaprtokodna in lastniška. To pomeni, da nihče razen tistih, ki stojijo za njim, ne ve točno, katere metode uporablja in kako natančen je.
Poleg tega je bil sam Mosher obtožen, da je pod prisego lagal o lastnem strokovnem znanju in uporabi orodja.
Točko so uradno izpostavili obrambni odvetniki v predlogu, vloženem v Ohiu, ki zahteva razkritje algoritmov in kode Cybercheck.
Seveda je Mosher trdil, da to ni mogoče, ker je ta tehnologija zaščitena z avtorskimi pravicami. Zahteva je del primera umora, ki ga obravnava policijska uprava v Akronu.
V primeru Akron sta bila dva moška, ki sta zanikala, da sta zagrešila kaznivo dejanje, obtožena na podlagi tega, kar Mosher imenuje "povsem posrednih" dokazov (tulci iz pištole s kraja zločina, najdeni v enem od njunih domov, in avto, registriran na drugega osumljenca, ki je bil viden na posnetkih nadzornih kamer v bližini kraja zločina).
Obstajajo pa tudi dokazi Cyberchecka, ki povezujejo osumljenčevo fizično lokacijo s prizoriščem ropa in streljanja prek algoritmov, ki indeksirajo njihove profile v družbenih medijih in iščejo več informacij na spletu.
Na koncu je bil omrežni naslov naprave, povezane z internetom, pridobljen prek omrežja Wi-Fi nadzorne kamere, uporabljen kot zadosten dokaz za pregon.
In čeprav je bila kamera prižgana, posnetka usodnega dogodka ni. Prav tako ni informacij o tem, kako natančno je Cybercheck, če citiram poročilo NBC, "našel omrežni naslov kamere ali potrdil, da je bila naprava na kraju zločina."
Druge podrobnosti, ki jih forenzični izvedenci, ki jih je najela obramba, niso mogli razkriti, so vključe, kako je Cybercheck potrdil e-poštni naslov, ki naj bi ga uporabljala oba osumljenca, ti strokovnjaki pa tudi niso mogli "locirati" računa družbenega medija, uporabljenega v enem poročilu, ki ga je pripravil Cybercheck.
Ne le, da se zdi, da policija in tožilci te dokaze – ali »dokaze« – jemljejo za realno vrednost, zdi se tudi, da verjamejo Mosherju na besedo, ko pravi, da je natančnost Cyberchecka »98,2 %«.
Vendar ni podatkov o tem, kako je dobil to številko. Vendar pa je ustanovitelj Cyberchecka izjavil – v tej in prejšnji vlogi iz poletja 2023 – da programska oprema ni bila nikoli strokovno pregledana.
Vendar pa je v tretjem primeru lansko jesen, prav tako v Akronu, Mosher trdil, da je Univerza v Saskatchewanu dejansko strokovno pregledala dokument. Toda dokument iz leta 2019 "se zdi dokument z navodili za programsko opremo in ne pove ničesar o tem, kdo je opravil pregled ali kakšen je bil rezultat," je poročal NBC.
Tiskovni predstavnik univerze je zanikal, da je bil dokument kadarkoli strokovno pregledan.
Sodnik se mora zdaj odločiti, ali bo prisilil Mosherja, da razkrije kodo za kontroverzni program.
Državljanske svoboščine niso le ogrožene, temveč so tudi postavljene pod vprašaj. Sposobnost Cyberchecka za analizo podatkov bi lahko uporabili kot orožje za zatiranje svobode izražanja in spremljanje političnih disidentov. Ni daleč od uporabe tehnologije za sledenje kriminalcem do sledenja ljudem, ki ne upoštevajo pravil. V digitalni odmevni komori bi to orodje lahko utišalo nasprotujoče glasove pod krinko javne varnosti.
Kako deluje Cybercheck, ostaja skrivnost. Kako so določeni cilji algoritma? Koga briga, da ne povozi oznake? To pomanjkanje preglednosti spodbuja upravičene strahove pred digitalnim panoptikom, v katerem imajo algoritmi zadnjo besedo pri zgodovini lastnih podatkov. Ta senca, ki visi nad načinom sprejemanja odločitev in razlage podatkov, kaže, da obstaja nujna potreba po odprti ureditvi in javnem nadzoru.
Trenutno je trg množičnega nadzora, kakršnega uporablja ameriška policija, v nemiru. Navdušenje je v resnici samo konsolidacija donosnega trga.
Zdi se, da ta konsolidacija poteka tako, kot se pogosto zgodi v cvetoči industriji: z združitvami in prevzemi s ciljem koncentracije (gospodarske) moči v čim manj rokah.
Tokrat je to SoundThinking, ki prevzema nekaj oddelkov Geolitice, ki je razvila PredPol (kot se je podjetje prej imenovalo), tehnologijo za prediktivno policijo.
Videti je kot klasičen tehnološki prevzem – uspešno podjetje je razdeljeno, da bi kupilo najvrednejše dele: inženirje in patente.
"Smo v obdobju konsolidacije, ko velika policijska tehnološka podjetja postajajo večja, in ta poteza je del tega procesa," je dejal profesor prava na ameriški univerzi Andrew Ferguson v intervjuju za Wired.
Nič proti Fergusonovim poverilnicam – napisal je knjigo z naslovom "The Rise of Big Data Policing" – toda njegov pogled na to zadnjo pridobitev je komajda analiza na znanstveni ravni. Z drugimi besedami, precej očitno je, kaj se tukaj dogaja.
A ne da bi se spuščali v očitno – pomen za zasebnost ljudi in navsezadnje, nekoliko ironično, za varnost – bi radi najprej spoznali igralce.
Čeprav ta podjetja večinoma delujejo na skrivaj, pogosto zavestno, se zdi, da glavni igralec, SoundThinking, potrebuje le malo predstavitve. Ne, ko ga poročila že imenujejo "Google boja proti kriminalu" ("boj proti kriminalu" je velikodušen izraz).
Ne, predpostavka je, da podjetje kopiči izdelke in storitve v svoji panogi, kot je to storil Google v svoji panogi. In to enostavno ni dobro.
Ni bilo zaman, da je bilo tukaj veliko »rebrandingov«, saj so si takšna podjetja, tudi če se le obrobno pojavljajo v mainstream medijih, uspela ustvariti slab sloves.
In tako se tisto, kar je SoundThinking nekoč odkrito imenoval "prediktivno policijsko delo" – in glavni izdelek, ki ga prodajajo za pomoč organom pregona pri "doseganju" tega cilja, zdaj imenuje "upravljanje virov za policijske oddelke".
Ta predvajalnik - nenazadnje s svojim veselim, pozitivnim, uporabnim imenom "SoundThinking" - se zdi pameten kupec. In stranke.
Tokratni cilj prenosa se imenuje Geolitica. Na spletnem mestu podjetja ni mogoče najti ničesar – očitno gre za ponudnika »Zaupanja vrednih storitev za varnejše skupnosti za varnejše skupnosti«.
Toda če se malo poglobite v žargon podjetja, boste dobili zaokrožen način, da veste, za kaj gre: analiziranje dnevnih vzorcev patruljiranja, upravljanje patruljiranja v realnem času, ustvarjanje toplotnih zemljevidov patruljiranja, prepoznavanje vročih točk virov.
Tukaj sta dve ali morda tri ključna vprašanja: Ali deluje? Zakaj je potrebno zunanje izvajanje? In kako "Google množičnega policijskega nadzora" pride do zaključka, da ga je vredno (delno) posvojiti?
Izvršni direktor SoundThinkinga Ralph Clark je avgusta dejal, da bodo stranke Geolitice za upravljanje patrulj zdaj postale stranke SoundThinkinga.
»Njihovo inženirsko ekipo smo že angažirali (…), to bi olajšalo našo uporabo umetne inteligence in strojnega učenja za javno varnost,« je takrat dejal Clark v konferenčnem klicu z vlagatelji podjetja.
In vendar je več kot le "obdukcija" podjetja. Nekateri opazovalci so prepričani, da je to, kar se tukaj dogaja, le primer, tako rekoč opeka v zidu globokih in obsežnih – da ne rečem kontroverznih – sprememb v načinu, kako ameriška vlada nadzoruje svoje skupnosti.
A kljub vsemu optimizmu glede vrednosti podjetja, kot je Geolitica (prej PredPol – in ni vam treba biti obožec Orwella, da bi razumeli neologizem, namen in poslovanje podjetja), obstajajo pomisleki.
Vrnejo se v leto 2011, ko je PredPol prvič prišel na sceno, pri čemer uporabljajo zgodovinske podatke o kriminalu, da naredijo trenutne napovedi.
"Kritiki in učenjaki že leta trdijo, da algoritem PredPol, ki temelji na zgodovinskih in nezanesljivih podatkih o kriminalu, reproducira in krepi pristranske policijske vzorce," piše v poročilu Wireda.
Vendar se zdi, da bodo v prihodnjih letih tovrstna orodja in storitve valovile skozi valove organov kazenskega pregona v ZDA, kjer je trenutna vlada sumljivo (brez besedne besede) nagnjena k temu, da to prepusti zasebnim subjektom.
Ko bo vse zbrano, narejeno, preigrano in pregledano, bo polemik najverjetneje neskončno.
Na podlagi različnih tehnologij so orodja, kot je Geolitica, zasnovana za zbiranje, analizo in preslikavo velikih količin geoprostorskih podatkov za ustvarjanje podrobnih profilov, ki jih lahko uporabljajo vsi, od marketinških agencij do vladnih agencij. Takšna orodja obljubljajo boljšo analizo, varnost in ciljno usmerjene storitve, vendar predstavljajo tudi velik izziv za zasebnost posameznika in državljanske svoboščine.
Da bi razumeli polemiko, moramo najprej razumeti, kako deluje Geolitica. Predstavljajte si orodje, ki je sposobno slediti gibanju, analizirati vzorce in napovedovati prihodnjo lokacijo ljudi na podlagi različnih podatkovnih točk, zbranih iz pametnih telefonov, naprav IoT, javnih kamer itd. Z združevanjem umetne inteligence, velikih podatkov in geoprostorske tehnologije Geolitica ustvari digitalno predstavitev življenje osebe z alarmantno natančnostjo.
Drugo sporno vprašanje je komercializacija osebnih podatkov, znana kot kapitalizem nadzora. Podjetja za zbiranje vedenjskih podatkov uporabljajo neusmiljena orodja za digitalni nadzor, kot je Geolitica – pogosto brez izrecnega soglasja. Ti podatki se uporabljajo za ciljano oglaševanje, za vplivanje na nakupovalno vedenje in celo za manipulacijo mnenj, kršitev zasebnosti posameznika v komercialne namene. Takšne prakse ne le spodbujajo neravnovesje moči med podjetji in potrošniki, temveč ustvarjajo tudi podatkovne monopole, ki ogrožajo konkurenco.
Uporaba geolokacijskih orodij s strani vlad povečuje spekter nadzora "Big Brotherja". Možnost sledenja prebivališča državljanov v realnem času pod krinko nacionalne varnosti ali javnega zdravja ogroža avtoritarno vedenje. Zgodovina je polna primerov, ko so bili instrumenti, namenjeni zaščiti, uporabljeni za zatiranje državljanov. Če jih ne nadzorujemo, bi jih lahko uporabili za zatiranje nestrinjanja, ciljanje na ranljivo prebivalstvo in nepravično doseganje določenih političnih ciljev, kar bi v osnovi spodkopalo demokratična načela in državljanske svoboščine.
Organi pregona se vedno bolj zanašajo na tehnološki napredek za preprečevanje kriminala in zagotavljanje javne varnosti. Eden takšnih napredkov je prediktivno policijsko delovanje, ki uporablja algoritme in analitiko podatkov za napovedovanje, kje se bo kriminal verjetno zgodil, z uporabo orodij, kot je PredPol, o katerem smo že poročali.
Prediktivno policijsko delovanje se ne zgodi v vakuumu. Pogosto je del večjega nadzornega omrežja, ki vključuje videonadzor, čitalnike registrskih tablic in tehnologije za prepoznavanje obraza. Medtem ko PredPol analizira predvsem vzorce v zgodovinskih podatkih o kriminalu, lahko integracija dodatnih virov osebnih podatkov vodi do znatnih vdorov v zasebnost.
Na primer: v Chicagu je policijska uporaba sistema za napovedovanje, imenovanega "Seznam vročin" ali "Seznam strateških subjektov", za identifikacijo ljudi, ki bi lahko bili vpleteni v prihodnje zločine, povzročila zmedo, ker ni bilo jasno, kako je seznam ljudi nastal. Osebe s seznama niso bile obveščene, temveč so bile dodatno nadzorovane, kar se šteje za neposredno kršitev njihovih pravic do zasebnosti.
Z usmerjanjem pozornosti policije na določena žarišča preventivno policijsko delo nenamerno omejuje svobodo gibanja državljanov. Prebivalci območij, ki so pogosto opredeljena kot žariščne točke, so lahko izpostavljeni ponavljajočim se interakcijam s policijo in neupravičenim preiskavam, kar ustvarja navidezno ograjo, ki omejuje svobodo gibanja in prispeva k odtujenosti skupnosti.
Na primer: v New Yorku je poročilo pokazalo, da se ljudje, ki živijo na območjih, kjer so predvidljivi policijski ustavi pogosti, počutijo nenehno pod nadzorom in je manj verjetno, da se bodo ukvarjali z vsakodnevnimi dejavnostmi, kot je hoja, zaradi strahu pred nepotrebno pozornostjo policije. Na primer obiskovanje prijateljev ali udeležba na sestankih skupnosti.
Ker se posamezniki zavedajo, da lahko nekatera vedenja ali gibanja pritegnejo pozornost organov pregona, se lahko vzdržijo uveljavljanja svobode zbiranja, govora in združevanja. Ta samocenzura, znana tudi kot odvračilni učinek, lahko škoduje koheziji skupnosti in državljanski angažiranosti.
|
Komentarji 0
Četrtek, 16.Maj 2024 ob 8:48:51 
220 ogledov, 
0 komentarjev
