"Ce sont des choses pour lesquelles un étudiant se mettrait dans le pétrin" : Deloitte a remis à l'Australie un rapport réalisé avec l'IA

Un récent incident impliquant Deloitte met en évidence les pièges potentiels liés à l'utilisation de l'IA générative dans un cadre professionnel, notamment dans le secteur du conseil. Le cabinet de conseil a été mandaté par le département de l'emploi du gouvernement australien pour produire un rapport, qui s'est avéré par la suite contenir des erreurs factuelles importantes attribuées au contenu généré par l'IA. Cette situation souligne la nécessité d'une vérification approfondie lors de l'utilisation d'outils d'IA. Le rapport, livré en juillet, a été retiré après qu'un chercheur de l'Université de Sydney a identifié de nombreuses inexactitudes. Celles-ci comprenaient une citation juridique fabriquée et des références à des études inexistantes. En conséquence, Deloitte doit désormais rembourser près de 300 000 dollars au gouvernement australien. Cet incident illustre le problème d'« hallucination » de l'IA, où la technologie génère des informations plausibles mais fausses. Cet événement a des implications importantes pour le secteur du conseil, un secteur estimé à 354 milliards de dollars en 2024. L'utilisation croissante de l'IA dans le conseil, notamment l'analyse de données et la génération de rapports, nécessite une surveillance attentive. Ce cas sert de mise en garde, démontrant la nécessité d'une validation humaine et d'une vérification des faits pour garantir la fiabilité et l'exactitude des résultats produits par l'IA dans des contextes professionnels. L'incident soulève des questions sur la mise en œuvre de l'IA au sein des services professionnels. Bien que l'IA offre des gains d'efficacité, il est crucial de garantir l'exactitude et la fiabilité du contenu généré par l'IA. Alors que l'IA continue de s'intégrer dans divers secteurs, l'établissement de mesures rigoureuses de contrôle de la qualité sera essentiel pour construire et maintenir la confiance du public.