Italiens Kartellbehörde stellt wettbewerbsrechtliche Prüfungen gegen DeepSeek, Mistral und Nova AI wegen Offenlegungen zu KI-Halluzinationen ein

Die italienische Kartellbehörde AGCM hat ihre Ermittlungen gegen die prominenten KI-Chatbot-Anbieter DeepSeek, Mistral AI und Nova AI abgeschlossen. Diese Entwicklung ist bedeutsam, da sie einen Präzedenzfall dafür schafft, wie KI-Modelle ihre Grenzen offenlegen müssen, insbesondere im Hinblick auf „Halluzinationen“ oder erfundene Informationen. Die Entscheidung der AGCM etabliert einen greifbaren Standard für Transparenz im KI-Sektor und beeinflusst, wie generative KI-Dienste Verbrauchern in ganz Europa präsentiert werden. Die AGCM hat von allen drei Unternehmen verbindliche Zusagen erhalten, die eine verbesserte Offenlegung der Risiken von KI-Halluzinationen vorschreiben. Diese Zusagen bieten einen klaren Maßstab dafür, was angemessene Transparenz in der Praxis darstellt, mit einer Frist von 120 Tagen für die Einhaltung, bevor potenzielle Strafen verhängt werden. Dieser Schritt der italienischen Regulierungsbehörden unterstreicht einen wachsenden europäischen Fokus auf die Gewährleistung der faktischen Genauigkeit und des Verständnisses von KI-generierten Inhalten durch die Nutzer. Diese regulatorische Maßnahme betrifft direkt die Nutzer dieser KI-Dienste sowie die breitere KI-Entwicklergemeinschaft, indem sie strengere Anforderungen an die Offenlegung auferlegt. Die Haltung der AGCM unterstreicht das Engagement für den Verbraucherschutz in der sich schnell entwickelnden digitalen Landschaft, insbesondere im Hinblick auf komplexe Technologien wie künstliche Intelligenz. Sie signalisiert eine mögliche Verlagerung hin zu größerer Rechenschaftspflicht für KI-Anbieter bei der Bewältigung der inhärenten Herausforderungen der aktuellen KI-Fähigkeiten.