Une des applications iPhone les plus téléchargées paie pour enregistrer des appels afin d'entraîner des modèles d'IA. C'est une catastrophe en matière de sécurité

Une application proposant des paiements aux utilisateurs pour l'enregistrement de leurs appels téléphoniques suscite d'importantes préoccupations en matière de sécurité, notamment en ce qui concerne le traitement des données personnelles sensibles au sein de l'Union européenne. La pratique consistant à monétiser des conversations privées pour entraîner des modèles d'intelligence artificielle entre directement en conflit avec les principes de confidentialité européens et pourrait potentiellement saper les efforts de souveraineté numérique en cours sur le continent. La popularité croissante de l'application souligne l'interaction complexe entre les incitations pour les utilisateurs, la protection des données personnelles et l'expansion du paysage de l'IA. L'application en question offre une incitation financière, en payant les utilisateurs jusqu'à 0,30 $ par minute pour les appels avec d'autres utilisateurs de l'application et 0,15 $ par minute pour les appels avec des contacts externes, avec un plafond de gains quotidiens. Ce système encourage la collecte de vastes quantités de données audio potentiellement sensibles. Il est crucial de noter que la politique de confidentialité indique que les deux parties aux appels avec d'autres utilisateurs de l'application sont affectées, tandis que les participants aux appels externes sont également enregistrés à leur insu – une violation importante du consentement éclairé et une violation potentielle des réglementations GDPR. Les implications de cette pratique sont de grande envergure, affectant potentiellement les citoyens et les entreprises européennes. Les personnes utilisant l'application risquent de voir leurs conversations enregistrées et analysées sans leur consentement ou leur pleine connaissance. Les entreprises opérant au sein de l'UE pourraient faire face à des répercussions juridiques si les appels de leurs employés sont enregistrés sans la conformité appropriée avec le GDPR. De plus, cette évolution souligne la nécessité d'une réglementation européenne plus stricte en matière de pratiques de collecte de données pour l'entraînement de l'IA, garantissant que la confidentialité personnelle est priorisée dans le développement des technologies basées sur l'IA. Ce cas sert de rappel brutal des vulnérabilités inhérentes à un environnement numérique non réglementé. Alors que l'Union européenne continue de développer des cadres complets de protection des données, tels que l'AI Act, elle devra considérer et relever ce type de défis et les violations potentielles de la sécurité numérique.