Microsoft laat medewerkers naar je Skypegesprekken luisteren

Medewerkers van Microsoft luisteren naar persoonlijke gesprekken van Skype-gebruikers die de vertaalfunctie gebruiken. Dat blijkt uit interne documenten, screenshots en audiofragmenten die Motherboard toegestuurd heeft gekregen. Hoewel Skype op zijn website aangeeft dat het bedrijf gesprekken via de vertaalfunctie kan analyseren om de service te verbeteren, staat er nergens dat een deel van deze analyses door mensen wordt uitgevoerd.

De audio die Motherboard in handen heeft bevat onder andere gesprekken tussen geliefden: sommigen praten over persoonlijke zaken zoals hun gewicht, anderen bespreken hun relatieproblemen. Er zijn ook bestanden die bewijzen dat medewerkers naar stemcommando’s aan de virtuele assistent Cortana luisteren.

Apple en Google zijn recentelijk gestopt met menselijke transcribeerders voor Siri en Google Assistant, nadat er kritiek op kwam toen hier artikelen over verschenen.

“Alleen het feit dat ik deze bestanden met je kan delen toont al aan hoe laks ze omgaan met de data van hun klanten,” aldus de medewerker die ons de bestanden stuurde. We hebben de identiteit van onze bron beschermd zodat er meer gezegd kon worden over de interne regels bij Microsoft, aangezien deze persoon een geheimhoudingsovereenkomst heeft getekend.

Werk of werkte je voor Microsoft of een detacheerder van Microsoft? Dan horen we graag van je. Je kan veilig contact opnemen met Joseph Cox via Signal op +442081335190, josephcox op Wickr, jfcox@jabber.ccc.de op OTR chat of mailen naar joseph.cox@vice.com.

De audiofragmenten die we toegestuurd kregen zijn allemaal kort – tussen de vijf en tien seconden – maar volgens de bron zijn ze soms ook een stuk substantiëler.

In 2015 lanceerde Skype de vertaalfunctie, die gebruikers real-time vertalingen biedt tijdens audio- en videogesprekken. Voorafgaand aan de lancering publiceerde Wired het artikel “How Skype Used AI to Build its Amazing New Language Translator."

De vertaaldienst gebruikt inderdaad AI, en de vertalingen waren in onze tests indrukwekkend. Maar net als veel andere AI-projecten, blijkt een deel van het werk uitgevoerd te worden door mensen, die taken vervullen die de AI zelf zou moeten uitvoeren om de algoritmes te verbeteren.

Sommige audiofragmenten kwamen uit de vertaalfunctie van de Android-app van Skype, volgens de bijbehorende screenshots van het scherm van ons contact. In de FAQ van de Skype Translator staat dat wanneer mensen de dienst gebruiken, “Skype je gesprekken opslaat en gebruikt om Microsoft-producten en diensten te verbeteren. Om de vertaalfunctie en spraakherkenning te laten leren en groeien, worden zinnen en automatische transcripten geanalyseerd, en aanpassingen en verbeteringen doorgevoerd om geavanceerdere diensten te kunnen bieden.” Een ander deel legt uit: “Om de technologie te laten leren en groeien, verifiëren we automatische vertalingen en maken we aanpassingen aan het systeem, om betrouwbare vertalingen te kunnen bieden.”

Nergens in de uitleg staat iets over mensen die naar gesprekken uit de vertaalfunctie luisteren. Ook in Microsofts Privacy Policy staat hier niets over.

“Mensen gebruiken Skype om geliefden te bellen, voor sollicitatiegesprekken, of om familie in het buitenland te spreken. Bedrijven zouden 100 procent transparant moeten zijn over de manieren waarop deze gesprekken opgenomen en gebruikt worden,” zegt Frederike Kaltheuner van Privacy International, een organisatie die zich wereldwijd inzet voor privacy.

“Als een fragment van jouw stem beluisterd gaat worden door mensen (om wat voor reden dan ook), zou je de vraag moeten krijgen of je dat oké vindt, en zou je op z’n minst de optie moeten krijgen om er nee op te zeggen,” voegt ze toe.

Video

Pat Walshe, een activist van Privacy Matters, zegt in een online chat dat “in het marketingtekstje van de vertaalfunctie staat dat de AI meeluistert, maar niet dat mensen dat doen. Dit hele gebied moet opnieuw gereguleerd worden. Ik heb de FAQ gelezen, en dit lijkt me geen transparante bedrijfsvoering.”

Toen we contact opnamen met Microsoft, kregen we bericht terug van een woordvoerder: “Microsoft verzamelt audio-data om stemgestuurde diensten zoals de zoekfunctie, stemcommando’s en de vertaalservice te verbeteren. We trachten transparant te zijn over de verzameling van stemdata zodat klanten geïnformeerde keuzes kunnen maken over het gebruik van hun data. Microsoft vraagt altijd om toestemming voordat er audio-data verzameld wordt.”

“Daarnaast hanteren we meerdere procedures die privacy waarborgen voordat de data gedeeld wordt, zoals het anonimiseren van de fragmenten, het laten tekenen van non-disclosurecontracten door werknemers en het vereisen van derde partijen dat ze voldoen aan de hoge privacystandaard van de Europese wet. We controleren ons gebruik van stemdata constant om te verzekeren dat de opties zo duidelijk mogelijk zijn voor onze klanten, en bieden sterke privacybescherming,” staat er ook in de toelichting.

Microsoft zegt dat zowel de FAQ van Skype Translator als de informatie rondom Cortana duidelijk aangeven dat stemdata gebruikt wordt om de diensten te verbeteren. Daar staat echter nergens dat er een mens naar zou kunnen luisteren.

Als medewerkers een audiofragment transcriberen, krijgen ze ook een reeks vertalingen die door Skype gegenereerd zijn, blijkt uit de screenshots en documenten. De medewerker moet vervolgens de beste vertaling selecteren en een eigen vertaling insturen. De audio wordt behandeld als vertrouwelijke Microsoft-informatie, volgens de screenshots.

“In sommige fragmenten die ik moest luisteren ging het duidelijk om telefoonseks,” vertelt ons contact. “Ik heb mensen volledige adressen in horen voeren via Cortana, en zoekopdrachten horen inspreken voor pornosites. Ik weet niet precies wat je ermee zou kunnen, maar het is op z’n minst merkwaardig dat hier niet voorzichtiger mee om wordt gegaan.”

Microsoft geeft aan dat audiodata alleen beschikbaar is voor werknemers via een beveiligde online portal, en dat ze identificerende informatie zoals gebruikersnamen of identificatienummers verwijderen.

Ondanks de gevoeligheid van de informatie wordt een deel van het werk thuis uitgevoerd. In meerdere online vacatures geven Microsoft-detacheerders aan dat medewerkers gewoon vanuit huis kunnen werken. “En ik heb niet het idee dat gebruikers het op prijs zouden stellen als Microsoft-medewerkers in hun pyjama grappen maken over hun gevoelige gesprekken,” aldus onze bron.