Keniaanse medewerkers die Meta's AI-bril trainen zeggen dat ze de meest intieme momenten van gebruikers zien

Een onderzoek door de Zweedse kranten Svenska Dagbladet en Göteborgs-Posten heeft onthuld dat contractarbeiders in Kenia, ingehuurd door Sama—een Keniaans uitbestedingsbedrijf dat dataannotatiediensten levert—om de AI-systemen van Meta Platforms te helpen trainen, sterk worden blootgesteld aan persoonlijke afbeeldingen en video's die zijn vastgelegd door gebruikers van de Ray-Ban slimme brillen van het bedrijf.

Het rapport, gepubliceerd op 27 februari, werpt licht op het verborgen menselijke werk achter Meta's doorbraak in draagbare kunstmatige intelligentie, en roept nieuwe vragen op over gegevensbescherming, grensoverschrijdende gegevensoverdrachten en de psychologische tol op contentmoderators die voor Sama in Nairobi werken.

Meta's Ray-Ban slimme brillen, ontwikkeld in samenwerking met EssilorLuxottica, worden op de markt gebracht als een AI-aangedreven assistent die talen kan vertalen, omgevingen kan beschrijven, handsfree foto's en video's kan vastleggen en vragen kan beantwoorden over wat een gebruiker ziet.

Echter, voorbij de futuristische presentatie, onthulden interviews met huidige en voormalige medewerkers van Sama en Meta door Svenska Dagbladet dat beeldmateriaal dat via de brillen is opgenomen duizenden kilometers verderop in Kenia terechtkomt, waar data-annotators het bekijken en labelen om de prestaties van het systeem te verbeteren.

Privacy, stilletjes geschonden

Verschillende Keniaanse werknemers vertelden de Zweedse krant dat ze regelmatig gevoelig materiaal tegenkomen tijdens hun werk, variërend van gewone huishoudelijke scènes tot intieme momenten waarvan gebruikers zich mogelijk niet realiseerden dat ze werden vastgelegd.

In sommige gevallen, zo zeiden werknemers, bevat het beeldmateriaal financiële informatie zoals bankpassen die zichtbaar zijn in beeld, of opnames gemaakt in privéruimtes zoals slaapkamers en badkamers.

"In sommige video's kun je iemand naar het toilet zien gaan, of zich zien uitkleden," vertelde een Sama-werknemer aan de verslaggevers. "Ik denk niet dat ze het weten, want als ze het wisten, zouden ze niet opnemen."

Een andere contractant beweerde dat ze beeldmateriaal hebben bekeken waarop de drager van de bril ze op een nachtkastje neerlegt, waarna hun vrouw de kamer binnenloopt en zich uitkleedt, vermoedelijk niet wetende dat ze werd bekeken. Ander beeldmateriaal toonde naar verluidt de drager die porno keek of zelfs zichzelf opnam tijdens seks

Volgens het onderzoek was er weinig transparantie over de wearables. Retailers in Europa gaven naar verluidt inconsistente informatie over de vraag of gegevens die door de brillen zijn vastgelegd op het apparaat blijven of worden verzonden naar Meta's servers. Onafhankelijke tests die in het rapport worden aangehaald, gaven aan dat veel van de AI-functies van de brillen cloudconnectiviteit vereisen, wat betekent dat afbeeldingen en spraakinvoer op afstand kunnen worden verwerkt in plaats van lokaal op het apparaat.

De Sama-connectie

Sama, voorheen Samasource, levert dataannotatiediensten aan grote technologiebedrijven zoals Meta en OpenAI. Het bedrijf is in het verleden beschuldigd van arbeidsovertredingen in sommige van zijn contracten, met name met OpenAI.

Sama vereist strikte geheimhoudingsovereenkomsten die beperken wat werknemers publiekelijk kunnen bekendmaken. Maar de verhalen gepubliceerd door de Zweedse kranten suggereren dat de belofte van wrijvingsloze AI wordt aangedreven door een arbeidssysteem waarin menselijke beoordelaars grote hoeveelheden ruwe, ongefilterde gegevens doorspitten zodat algoritmen kunnen leren objecten, omgevingen en context te herkennen.

Meta stelt in zijn privacybeleid dat gebruikersinhoud kan worden onderworpen aan menselijke beoordeling om producten te verbeteren en veiligheid te waarborgen. Voor Europese gebruikers is de Ierse dochteronderneming van het bedrijf verantwoordelijk voor naleving van de Algemene Verordening Gegevensbescherming (AVG) van de EU.

Het onderzoek roept echter vragen op over hoe gegevens die in Europa of de Verenigde Staten zijn verzameld, worden overgedragen en verwerkt in landen zoals Kenia, die geen EU-adequaatheidsbesluiten hebben die hun gegevensbeschermingsregimes erkennen als gelijkwaardig aan de AVG.

Hoewel data-annotatie, contentmoderatie en AI-training essentieel zijn geworden voor Nairobi's technologische ambities, komen deze banen—voornamelijk voor studenten en jonge afgestudeerden—met een laag loon, zware werkdruk en blootstelling aan verontrustend materiaal.

Meta heeft zijn praktijken verdedigd in eerdere openbare verklaringen, zeggende dat het investeert in privacywaarborgen en de hoeveelheid gegevens die voor training worden gebruikt minimaliseert. Toch suggereren de verhalen gepubliceerd door de Zweedse kranten dat de lijn tussen geautomatiseerde intelligentie en menselijk toezicht vager is dan veel consumenten aannemen.