Een van de meest gedownloade apps voor iPhone betaalt om gesprekken op te nemen om AI-modellen te trainen. Het is een veiligheidsramp

Een applicatie die gebruikers betalingen aanbiedt voor het opnemen van hun telefoongesprekken heeft aanzienlijke zorgen over de veiligheid opgewekt, met name met betrekking tot de omgang met gevoelige persoonsgegevens binnen de Europese Unie. De praktijk om privé-gesprekken te gelde te maken voor het trainen van kunstmatige intelligentie-modellen botst direct met de Europese privacyprincipes en zou mogelijk de inspanningen voor digitale soevereiniteit, die momenteel over het hele continent gaande zijn, kunnen ondermijnen. De snelle opkomst van de app in populariteit benadrukt de complexe wisselwerking tussen gebruikersprikkels, gegevensprivacy en het zich uitbreidende AI-landschap. De betreffende app biedt een financiële prikkel en betaalt gebruikers tot $0,30 per minuut voor gesprekken met andere app-gebruikers en $0,15 per minuut voor gesprekken met externe contacten, met een dagelijks verdienplafond. Dit systeem stimuleert de verzameling van enorme hoeveelheden potentieel gevoelige audiogegevens. Cruciaal is dat het privacybeleid aangeeft dat beide partijen in gesprekken met andere app-gebruikers worden beïnvloed, terwijl ook externe gesprekspartners onbewust worden opgenomen - een aanzienlijke schending van geïnformeerde toestemming en een potentiële schending van de GDPR-voorschriften. De implicaties van deze praktijk zijn verregaand en kunnen zowel Europese burgers als bedrijven treffen. Personen die de app gebruiken, lopen het risico dat hun gesprekken worden opgenomen en geanalyseerd zonder hun volledige medeweten of toestemming. Bedrijven die binnen de EU opereren, kunnen juridische gevolgen ondervinden als de gesprekken van hun werknemers worden opgenomen zonder de juiste naleving van de GDPR. Bovendien onderstreept deze ontwikkeling de noodzaak van een sterkere Europese regelgeving op het gebied van gegevensverzameling voor AI-training, om ervoor te zorgen dat de persoonlijke privacy prioriteit krijgt bij de ontwikkeling van AI-gedreven technologieën. Deze casus dient als een duidelijke herinnering aan de kwetsbaarheden die inherent zijn aan een ongereguleerde digitale omgeving. Terwijl de Europese Unie doorgaat met het ontwikkelen van uitgebreide kaders voor gegevensbescherming, zoals de AI Act, zal ze dit soort uitdagingen en mogelijke schendingen van de digitale veiligheid moeten overwegen en aanpakken.