La Agencia de Ciberseguridad de la UE utiliza secretamente IA para informes - y es descubierta

La agencia de ciberseguridad de la Unión Europea, ENISA, ha admitido utilizar la IA para generar informes, una práctica que ha sido objeto de escrutinio debido a la inclusión de fuentes fabricadas. Esta revelación pone de manifiesto la creciente preocupación por la aplicación responsable de la IA en áreas sensibles, especialmente en lo que respecta a la elaboración de informes y análisis. El incidente subraya la importancia de aplicar procesos de verificación rigurosos. Funcionarios de ENISA reconocieron que al menos dos de sus informes contenían numerosas fuentes "alucinadas", un término utilizado para describir la información generada por la IA que parece creíble pero que, de hecho, es totalmente inventada. La agencia aún no ha detallado qué herramientas de IA específicas se utilizaron ni cómo estas fuentes llegaron a los documentos oficiales. Tales errores apuntan a la necesidad de aumentar la supervisión y la validación. El principal impacto de este incidente recae en la credibilidad de ENISA y la fiabilidad de sus informes. Esto plantea interrogantes más amplias sobre la fiabilidad del contenido generado por la IA en contextos oficiales, especialmente en áreas como la ciberseguridad, donde la exactitud es primordial. Esto enfatiza la necesidad de una cuidadosa auditoría y revisión humana.