La autoridad antimonopolio de Italia cierra las investigaciones sobre DeepSeek, Mistral y Nova AI por divulgaciones de alucinaciones de IA

La autoridad antimonopolio italiana, la AGCM, ha concluido sus investigaciones sobre los destacados proveedores de chatbots de IA, DeepSeek, Mistral AI y Nova AI. Este desarrollo es significativo, ya que sienta un precedente sobre cómo los modelos de IA deben divulgar sus limitaciones, particularmente en lo que respecta a las "alucinaciones" o información fabricada. La decisión de la AGCM establece un estándar tangible para la transparencia en el sector de la IA, lo que afecta la forma en que los servicios de IA generativa se presentarán a los consumidores en toda Europa. La AGCM obtuvo compromisos vinculantes de las tres empresas, que exigen una mayor divulgación de los riesgos de alucinación de la IA. Estos compromisos proporcionan un punto de referencia claro sobre lo que constituye una transparencia adecuada en la práctica, con un período de cumplimiento de 120 días antes de que se apliquen posibles sanciones. Esta medida de los reguladores italianos pone de relieve un creciente enfoque europeo en garantizar la precisión fáctica y la comprensión por parte de los usuarios del contenido generado por IA. Esta acción regulatoria afecta directamente a los usuarios de estos servicios de IA, así como a la comunidad de desarrollo de IA en general, al imponer requisitos de divulgación más estrictos. La postura de la AGCM subraya un compromiso con la protección del consumidor dentro del panorama digital en rápida evolución, particularmente en lo que respecta a tecnologías complejas como la inteligencia artificial. Señala un posible cambio hacia una mayor responsabilidad de los proveedores de IA para abordar los desafíos inherentes de las capacidades actuales de la IA.