Prošlog tjedna Ava Kofman napisala je zanimljiv, ali zastrašujući komad u The Intercept o Voice RT. Vjerovatno nikad niste čuli za Glas RT, jer je to bila jedna od onih stvari koje američka vlada radi u tajnosti; u ovom slučaju razvijala se tehnologija koja može pozitivno identificirati nekoga po zvuku njihovog glasa. Obavezno je pročitajte. Važne su informacije koje svi moraju znati.
Naš glas je savršeni biometrijski identifikator; stabilan je i jedinstven.
Ideju o prepoznavanju nekoga po glasu sada je vrlo lako shvatiti. Radimo to svaki dan kada razgovaramo s ljudima koji su nam bliski. Nečiji glas je prilično jedinstven i nije potrebno mnogo snage za obradu - bilo organske vrste u našim glavama ili silikonske vrste u našim uređajima - da biste znali s kim razgovarate samo kad ih čujete kako razgovaraju. Ali NSA je uspjela stvari odvesti do krajnosti. Imaju sposobnost slušati sve, svugdje. Ako koristite govornicu usred nigdje, oni ih ne mogu slušati. Možda čak imaju i autoritet za to, a to znači da bismo mogli imati velikih problema sjediti na noćnim ormarićima ili stolovima za kavu nazvanim Google Home i Amazon Echo.
Razgovarajući s The Vergeom, Albert Gidari, direktor privatnosti Centra za internet i društvo u Stanfordu, rekao je da su ovi proizvodi „osjetljivi na zahtjeve vlade za pristupom i otkrivanjem podataka; mislim da bi vlada mogla dobiti nalog za tehničku pomoć kako bi olakšala skeniranje, i pod FISA-om, možda i za izgradnju alata. " Siguran sam da je Gidari u pravu jer vlada već može pozvati naše telefone, računala i čak televizije kako bi olakšala istragu. Senatori Wyden (D., Oregon) i Paul (R., Kentucky) misle da bi se i na ovaj način moglo zlostavljati FISA.
I nije stvar vladina agencija koja špijunira ono što govorimo ili radimo kada razgovaramo s Alexa ili Google Homeom. Ne trebaju im te informacije; sve što žele je snimka naših glasova.
I Echo i Google Home pohranjuju snimke stvari koje izgovaramo dok razgovaramo s njima. Oboje također prenose glasovne podatke na oblačni poslužitelj. Srećom, svaki se zapis bilježi nakon što je otkrivena vruća riječ i svi podaci koji ostavljaju vaš uređaj su šifrirani i anonimni. Mogu li presresti i dešifrirati podatke, zatražiti ih putem sudova ili ih izvući s uređaja, sve što čuju su ljudi poput vas i mene kako govore pomoćniku ili Alexa da promijene kanal ili daju vremensku prognozu - lažne informacije koje ne pokušavaš ostati tajna. Policija u Bentonvilleu u Arkansasu otkrila je upravo to kad je Amazon Echo pokrenut sudski poziv u slučaju ubojstva 2016. godine. Ali opet, to nije ono što je NSA skupljala s Voice RT-om; samo su htjeli neke uzorke podataka glasa kako bi im mogli odgovarati dok su špijunske stvari obavljali u stvarnom vremenu.
Nije ono što kažeš. Činjenica da je upravo to što čini to čini NSA zanimljivim.
Kopajući po dokumentima koje je objavio Edward Snowden, Kofman je otkrio da NSA već godinama prikuplja podatke o prepoznavanju glasa. Ova se tehnologija koristila za prepoznavanje Sadama Husseina i podudaranje s nekim prethodnim snimkama koje su snimljene. Stvoreni su glasovni otisci Osame Bin Ladena i drugih visokih članova Al-Qaede, a jedan memorandum govori o tome kako je Abu Musab al-Zarqawi pronađen kao govornik u internetskim audio datotekama za koje je CIA bila jako zainteresirana. Ti tajni dokumenti pokazuju da između 2004. i 2012. NSA je rafinirala i koristila tehnologiju prepoznavanja zvučnika u operacijama protivterorizma i međunarodnim hapšenjima droga.
Ako mislite da je glavna špijunska agencija u zemlji koja prikuplja nasumične snimke onoga što ljudi kažu da im pomažu u borbi protiv terorizma ili trgovine drogom, u redu, mnogi se ljudi neće s tobom raspravljati. Google i Facebook (i vjerojatno svaka druga internetska tvrtka) skeniraju prikupljene podatke za stvari poput dječje pornografije ili zlostavljanja, kršenja autorskih prava i terorističkih aktivnosti jer netko smatra da je to za veće dobro. Neću se raspravljati. Ali Snowden je također otkrio da NSA planira primijeniti istu tehnologiju kako bi spriječio da zviždači poput njega otkrivaju svoja krivična djela godinama prije potpisivanja Izvršnog naloga 13587.
NSA planira koristiti taktike koje pomažu uhvatiti Bin Ladena kako bi istražili Amerikance.
To je predaleko, a ljudi poput bivšeg savjetnika Bijele kuće direktora Nacionalne obavještajne službe Timothyja Edgara zabrinuti su za našu privatnost i posljedice vladajuće vladine agencije ako misle da smo rekli ili učinili nešto što im se ne sviđa. Svi smo čuli slučajeve u kojima je potekla i prelazila vrlo tanka linija i sve nije bilo sasvim legalno u skladu s duhom Ustava. Kad su u pitanju naši glasovi, stručnjaci za građansku slobodu smatraju da Google i Amazon trebaju promijeniti način rada Home i Eho kako se ne bi zadržali glasovni podaci.
Naši su glasovi stabilni; nešto što sam rekao prije 10 godina mogu se pozitivno prepoznati glasovnim otiskom kao danas. S glasovnim snimkama pri ruci, iako su datoteke u kojima piše "OK Google, umanji svjetla dnevnog boravka na 50%", lako ih je koristiti protiv nas u bilo kojoj istrazi ili operaciji. Pretpostavljam da NSA ima obilje glasovnih podataka koji mogu prepoznati osobu koja je pila piće željenom teroristu u hotelu ili agentu na šalteru karata u zračnoj luci. Također pretpostavljam da su ti nevini ispitivani i tada im je servirano naređenje, iako su nedužni za bilo kakve zločine, a NSA i CIA i FBI su znali da su nedužni.
Nemojte vjerovati da su programi poput FISA dizajnirani i korišteni samo za zaštitu nas. Imamo mnogo dokaza za suprotno.
O tome se mora maskirati i raspravljati u javnosti. Tehnologija koja se može koristiti za praćenje novinara ili za otkrivanje njihovih izvora je opasna ako se ne koristi ispravno i ne bi se trebala skrivati iza zida državne klasifikacije. Dok se skupine poput EFF-a i Freedom of Press-a trude da se to dogodi, postoji pritisak na Google i Amazon da prestanu spremati i analizirati glasovne podatke kao što to rade sada. To postavlja prilično zaklopku na sustav dizajniran da analizira sve i postane pametniji. Strojno učenje treba mnogo podataka za analizu iznova i iznova kako bi se moglo "učiti". Google i Amazon trebaju se brinuti oko prikupljanja i pohranjivanja svega na način da to ostane anonimno, umjesto da se brinu o tome kako njihovi strojevi za učenje mogu učiti bez potrebnih podataka.
Stroju su potrebni podaci za učenje. Mnogo podataka se ponavljalo iznova i iznova.
Pokazivanje prsta na Alexa i Assistant-a kao korijen problema nije dobro za one koji ih smatraju korisnim. Moramo se usredotočiti na užad u našoj vladi i zaustaviti neopravdani nadzor Amerikanaca. I to nije samo stvar SAD-a; Interpol i britanski GCHQ "usko su surađivali" s NSA-om i kreditnim programima poput Voice RT-a kao "igrajući važnu ulogu u našem odnosu s NSA-om". Za Kinu je rečeno da ima istu vrstu programa i da sada može pozitivno prepoznati desetke ili možda stotine tisuća kineskih građana zvukom njihovog glasa.
Ne vjerujem NSA-u da ima tajnu tehnologiju koja može identificirati bilo koga od nas u bilo kojem trenutku i ne koristiti je neprimjereno. Slažem se sa stručnjacima za građansku slobodu da je to opasan put i da ga treba objaviti. Ne slažem se s pritiskom na Google i Amazon da prestanu s inovacijama dok čekamo. Budućnost nam se prikazuje pred očima i sve dok „pametni“ strojevi koje Google i Amazon koriste da nam dovedu da pokažu da im treba vladati, nemojmo zadržavati budućnost.
