Alexa je instalirana na preko 100 milijuna uređaja širom svijeta, koji prikupljaju milijune korisničkih upita u tom procesu. Kao i svi digitalni asistenti, Alexa se oslanja na podatkovne modele kako bi ponudila bolje odgovore, ali izgleda da je i Amazon digitalnom asistentu pružio pomoć u obliku ljudskih pregleda. Istraživanje Bloomberga otkrilo je da Amazon ima globalni tim koji prepisuje i komentira Alexa snimke iz cijelog svijeta kako bi "otklonio nedostatke Alexa u razumijevanju ljudskog govora" i omogućio pomoćniku da bolje odgovori na vaše upite.
Publikacija je otkrila da Amazon zapošljava tisuće ljudi širom svijeta - i izvođači i stalno zaposleni - da bi pregledali snimke Alexa, s timovima raspoređenima u Bostonu, Kostariki, Indiji i Rumunjskoj. Prema neimenovanom izvoru, svaki recenzent analizira preko 1.000 audio zapisa u devet satnoj smjeni, bilježeći ih i vraćajući ih natrag u sustav kako bi poboljšao Alexa-ove odgovore. Iz Bloomberga:
Jedan radnik u Bostonu rekao je kako je minirao nagomilane glasovne podatke za specifične izgovore poput "Taylor Swift", te ih bilježio kako bi pretraživač značio glazbenog umjetnika.
Povremeno slušatelji pokupe stvari koje bi vlasnici odjeka vjerojatno radije ostali privatni: neka žena pjeva loše pod ključem pod tušem, recimo, ili dijete koje vrišti za pomoć. Timovi koriste interne chat sobe za razmjenu datoteka kad im je potrebna pomoć pri raščlanjivanju zbunjene riječi - ili nailaze na zabavne snimke.
Publikacija je također otkrila da zaposlenici nailaze na snimke uznemirujućeg karaktera:
Ponekad čuju snimke koje smatraju uznemirujućim ili možda kriminalnim. Dvoje radnika rekli su da su pokupili ono za što smatraju da je bilo seksualno zlostavljanje. Kad se nešto takvo dogodi, oni mogu razmijeniti iskustvo u internoj chat sobi kao način oslobađanja od stresa.
Amazon kaže da su uspostavljeni postupci koje radnici trebaju slijediti kad čuju nešto uznemirujuće, no dvoje zaposlenika sa sjedištem u Rumunjskoj rekli su da su im, nakon što su zatražili upute za takve slučajeve, rekli da nije posao Amazona da se miješaju.
Snimke nemaju puno korisničko ime ili adresu, ali sadrže korisničko ime, broj računa i serijski broj uređaja. Amazon je ranije spomenuo da se oslanja na obradu prirodnog jezika za obučavanje Alexa, ali je za Bloomberg priznao da koristi ljudski element kako bi zabilježio "mali uzorak Alexa glasovnih zapisa:"
Ozbiljno shvaćamo sigurnost i privatnost osobnih podataka naših kupaca. Annotiramo samo izuzetno mali uzorak Alexa glasovnih zapisa kako bismo poboljšali korisničko iskustvo. Na primjer, ove nam informacije pomažu u osposobljavanju sustava prepoznavanja govora i razumijevanja prirodnog jezika, tako da Alexa može bolje razumjeti vaše zahtjeve i osigurati da usluga funkcionira dobro za sve.
Imamo stroge tehničke i operativne mjere zaštite i imamo politiku nulte tolerancije prema zlouporabi našeg sustava. Zaposlenici nemaju izravan pristup informacijama koje mogu identificirati osobu ili račun kao dio ovog tijeka rada. Sve informacije tretiraju se s velikom povjerljivošću i koristimo višefaktorsku provjeru autentičnosti da bismo ograničili pristup, šifriranje usluge i reviziju našeg kontrolnog okruženja da bismo ih zaštitili.
Nije samo Amazon okrenut ljudima koji pomažu u razvoju svog digitalnog asistenta. Bloomberg je otkrio da Apple također ima ljudski tim koji provjerava podudara li Siri tumačenje zahtjeva s onim što su postavili korisnici. Google ima recenzente koji obučavaju Assistant-a, ali isječci nemaju podatke koji se mogu osobno prepoznati i sam zvuk je iskrivljen kako bi se spriječila bilo kakva identifikacija.
