AI-risico's: brede alliantie waarschuwt voor verwaterde AI-regels

EU AI-verordening onder vuur vanwege mogelijke verzwakking consumentenbescherming** Een brede coalitie van 32 organisaties heeft aanzienlijke zorgen geuit over voorgestelde "vereenvoudigingen" van de Europese Kunstmatige Intelligentie (AI)-wet, en waarschuwt dat deze wijzigingen de consumentenbescherming tegen AI-technologieën aanzienlijk kunnen verzwakken. De ondertekenaars, waaronder consumentenorganisaties, maatschappelijke groeperingen, zorgprofessionals en testinstanties, vrezen dat cruciale waarborgen mogelijk worden afgezwakt, met name voor AI-toepassingen in gevoelige sectoren zoals medische hulpmiddelen en kinderspeelgoed. Deze actie benadrukt een cruciaal moment in de ontwikkeling van AI-bestuur in Europa. De kern van de zorg ligt in mogelijke amendementen die worden besproken in trilaterale onderhandelingen. Deze voorstellen suggereren om bepaalde productcategorieën, zoals medische hulpmiddelen, radioapparatuur, speelgoed en machines, uit te zonderen van de directe reikwijdte van de AI-wet. Voorstanders van deze uitzonderingen stellen dat deze producten al onder bestaande veiligheidsvoorschriften vallen en dat de AI-wet een dubbele last zou opleggen aan fabrikanten. Critici betogen echter dat deze sector-specifieke regels de unieke risico's die door AI worden veroorzaakt, zoals bias, gebrek aan transparantie en evoluerende systeemprestaties, niet adequaat aanpakken. De organisaties benadrukken dat AI-integratie in medische hulpmiddelen voor diagnose, behandeling of patiëntmonitoring risico's met zich meebrengt die niet expliciet onder de huidige regelgeving voor medische hulpmiddelen vallen. Op dezelfde manier kan AI in kinderspeelgoed onvoorziene gevaren introduceren. Het uitzonderen van deze sectoren zou een regelgevingskloof creëren, waardoor consumenten kwetsbaar zouden kunnen blijven. Bovendien worden de voorgestelde wijzigingen gezien als een aanleiding voor toenemende regelgevingscomplexiteit en juridische onzekerheid, in plaats van vereenvoudiging, door de AI-toezicht te fragmenteren over meerdere, uiteenlopende sectorale wetten.