Alexa, varför tittar anställda på mina data?

Alla har pratat om Bloombergs rapport att Amazon-arbetare lyssnar på röstinspelningarna som skapas när du pratar med Alexa. Men Amazon är långt ifrån ensam. Så här kan teknikföretag – och har – tittat på den privata data du laddar upp.

Från att läsa dina anteckningar till att förfölja minderåriga

Låt oss prata om några exempel, från Evernote-anställda som pratar om att läsa dina privata anteckningar till Google och Facebook-anställda som förföljer folk.

Evernote gav sina anställda tillstånd till läs dina privata anteckningar till ”Förbättra din upplevelse” i en ändring av sin integritetspolicy som gjordes i januari 2017. Evernote ändrade sig och lovade att anställda skulle begära tillstånd först efter att många användare blivit upprörda. Men detta illustrerar problemet – Evernote kan enkelt ge sina anställda åtkomst. Och även om du delade data med Evernote och förväntade dig att företagets policy skulle hålla det säkert, kan företaget ändra den policyn när det vill.
Google sparkade en gång en Site Reliability Engineer för att ha använt sin åtkomst till Googles servrar för att förfölja och spionera på flera minderåriga, trycka på deras samtalsloggar i Google Voice, komma åt deras chattloggar och avblockera sig själv på en tonårings kompislista. Webbplatstillförlitlighetsingenjörer har tillgång till allt eftersom de behöver det för att utföra sitt jobb – och det är möjligt för anställda att agera skurkaktiga och missbruka den åtkomsten, som den här ingenjören gjorde 2010.
Facebook sparkade en säkerhetsingenjör som använde sin åtkomst på Facebook för att Förfölja flera kvinnor online under 2018. Moderkortet rapporterade att andra anställda hade sagts upp för förfölja sina ex och andra liknande läskiga saker.
Vi rekommenderar att du inte ger appar åtkomst till din e-post. Men om du gör det kan dessa appar få folk som läser din e-post – oavsett om det kommer från Gmail, Outlook.com eller något annat e-postkonto. Wall Street Journal rapporterade att mänskliga ingenjörer som arbetade för några företag som ansvarade för dessa appar tittar igenom hundratusentals e-postmeddelanden att träna sina algoritmer.

Det här är inte en uttömmande lista. Facebook hade en gång en bugg som exponerade privata bilder för apputvecklare och din arbetsgivare kan läs dina privata meddelanden i Slack— Med andra ord, de är inte så privata. Till och med NSA har enligt uppgift varit tvungen att avskeda människor för att de använt statliga övervakningssystem spionera på sina ex. Och varje företag som har din data kommer att lämna över den till regeringen när en order kommer, som Amazon gjorde när Alexa hörde ett dubbelmord.

Molnet är bara någon annans dator

När du använder en tjänst som laddar upp din data till en ”moln”-tjänst, är det bara att lagra dessa data på ett företags servrar. Och det företaget kan se uppgifterna om det vill.

Detta är enkelt nog, men rapporter om anställda som lyssnar på våra röstinspelningar känns fortfarande chockerande på något sätt. Kanske antar vi alla att det bara finns för mycket data och att folk inte kunde undersöka det, eller så kanske vi tror att det måste finnas någon form av lag som hindrar teknikföretag från att titta på det här. Men åtminstone i USA känner vi inte till någon lag som skulle hindra företag från att titta på dessa uppgifter – så länge de är ärliga om det, kanske genom att avslöja detta faktum i ett användarvillkorsdokument som ingen läser .

Även med röstassistenter är det dock inte bara Amazon. Som Bloomberg själv säger har till och med integritetsfokuserade Apple människor som lyssnar på Siri-inspelningar för att hjälpa till att träna algoritmerna som får dessa röstassistenter att fungera. Och Bloomberg säger att vissa Google-recensenter också lyssnar på inspelningar gjorda med Google Home-enheter.

Legitima skäl till att människor kan titta på dina uppgifter

Om du ställer de läskiga förföljarna och andra som missbrukar deras åtkomst åt sidan, här är några giltiga anledningar till att en företagsanställd kan behöva undersöka din data:

Myndighetsbegäranden: En order kan tvinga ett företag att titta igenom dina uppgifter efter något relevant och lämna över det till regeringen
Utbildningsalgoritmer: På grund av hur maskininlärning fungerar, behöver algoritmer som används i programvara viss mänsklig input under utbildningsprocessen. Det är därför folk lyssnar på Alexa och Siri-inspelningar, och det är därför Evernote ville att folk skulle titta igenom dina anteckningar.
Kvalitetssäkring: Företag kan granska inspelningar eller annan data för att ta reda på hur deras tjänst fungerar. Även om du pratar med en robot kan någon annan lyssna på inspelningen senare för att se hur det gick.
Kundsupport: Ett företag kan be om tillåtelse att se dina uppgifter för att hjälpa dig om du behöver support. Åtminstone kommer företaget förhoppningsvis bara att göra detta med din tillåtelse – vilket kan vara lika enkelt att bevilja som skickar en tweetsom det var med Google Foton.
Rapporterade överträdelser: Ett företag kan titta på dina uppgifter för att undersöka rapporter om överträdelser. Låt oss till exempel säga att du har en privat en-till-en-konversation på Facebook. Om den andra personen anmälde dig för trakasserier eller annan kränkning skulle Facebook undersöka konverteringen.

Det enda sättet att stoppa detta: End-to-end-kryptering

Allt detta beror på hur internet fungerar. Trots allt snack om ”kryptering” för att säkra dina data, krypteras data i allmänhet bara när den skickas mellan dina enheter och företagets servrar. Visst, data kan lagras krypterad på företagets servrar – men på ett sådant sätt att företaget kan komma åt det. Trots allt måste företaget dekryptera data för att skicka dem till dig.

Det enda sättet att förhindra detta är genom att använda end-to-end-kryptering eller kryptering på klientsidan. Detta innebär att programvaran du använder skulle kryptera data på enheterna du använder, och endast lagra krypterad data på företagets servrar på ett sätt som företaget inte kunde komma åt. Din data skulle vara din.

Men det här är mindre bekvämt på många sätt. Tjänster som Google Photos skulle inte vara möjliga, eftersom de inte automatiskt kunde utföra uppgifter på dina bilder på företagets servrar. Företag skulle inte kunna ”deduplicera” data och skulle behöva lägga mer pengar på lagring. För röstassistenter skulle all bearbetning behöva ske lokalt och företag kunde inte använda röstdata för att utbilda sina assistenter bättre.

Om du tappade bort din krypteringsnyckel skulle du inte kunna komma åt dina data längre – trots allt, om företaget kunde ge dig åtkomst till dina filer igen, betyder det att företaget kunde komma åt dina filer i första hand.