Grammarly will keep using authors’ identities without permission unless they opt-out

La nouvelle fonctionnalité « Expert Review » de Grammarly a suscité une controverse significative en utilisant les noms d'auteurs, y compris ceux de journalistes technologiques de premier plan, pour conférer de la crédibilité à ses suggestions générées par l'IA sans consentement explicite. Ce développement soulève des questions cruciales sur la protection des données, la propriété intellectuelle et le déploiement éthique de l'IA dans des contextes créatifs et professionnels. La réponse de l'entreprise, offrant un mécanisme de retrait plutôt que des excuses ou un abandon complet, met en évidence une approche contentieuse des données utilisateur et de la représentation de l'IA. La fonctionnalité exploiterait apparemment les identités de divers auteurs pour renforcer l'autorité perçue de ses conseils d'écriture pilotés par l'IA. Cette pratique a attiré des critiques pour avoir potentiellement représenté à tort des individus comme des promoteurs ou des créateurs de contenu généré par l'IA, une pratique qui manque de transparence et de consentement éclairé. Les implications s'étendent à la manière dont les utilisateurs perçoivent les origines et la crédibilité des sorties assistées par l'IA, brouillant potentiellement les lignes entre l'expertise humaine et le texte généré par la machine. Cette situation touche directement les individus dont les identités sont utilisées, ainsi que la base d'utilisateurs plus large qui pourraient être induits en erreur par les attributions de la fonctionnalité « Expert Review ». Pour les entreprises de logiciels et les plateformes numériques en Europe, cet incident souligne l'importance d'adhérer à des réglementations strictes en matière de protection des données comme le RGPD. Il alimente également les discussions sur la souveraineté numérique et la nécessité de directives plus claires sur l'utilisation par l'IA des données personnelles et la représentation de l'expertise humaine dans les services pilotés par l'IA.