Raad en parlement eensgezind: verbod op geseksualiseerde deepfakes nadert

De Europese Unie komt dichter bij het verbieden van de creatie en verspreiding van seksuele deepfakes zonder toestemming. Deze belangrijke ontwikkeling, ingebed in de voorgestelde AI Omnibus-verordening, heeft tot doel het groeiende misbruik van door AI gegenereerde synthetische media aan te pakken. De stap betekent een cruciale stap in het versterken van digitale veiligheid en het bestrijden van online schade binnen het blok. De overeenkomst die door de EU-Raad en het Parlement is bereikt, richt zich op het verbieden van de ongeautoriseerde creatie van geseksualiseerde deepfakes, een mogelijkheid die wordt mogelijk gemaakt door geavanceerde software. Hoewel sommige politieke facties pleitten voor een breder verbod, inclusief geconsenteerde synthetische beelden, richt de huidige consensus zich op niet-consensuele of misbruikende toepassingen van de technologie. Dit sluit aan bij de lopende inspanningen om kunstmatige intelligentie te reguleren en individuen te beschermen tegen digitale uitbuiting. Dit voorgestelde verbod treft direct individuen die vatbaar zijn voor het creëren van deepfakes zonder toestemming, met name vrouwen en minderjarigen. De bredere implicaties strekken zich uit tot de verantwoorde ontwikkeling en inzet van AI-technologieën, wat de noodzaak van ethische richtlijnen en regelgevend toezicht benadrukt. De onderhandelingen onderstrepen ook de inzet van Europa voor digitale soevereiniteit door een eigen robuust regelgevend kader voor AI vast te stellen. Verdere onderhandelingen tussen het Parlement, de Commissie en de Raad zullen de specifieke details van het verbod en de integratie ervan in de AI Act verfijnen. De opname van dit verbod in de AI-verordening onderstreept de proactieve houding van de EU ten opzichte van opkomende digitale bedreigingen en haar toewijding aan het bevorderen van een veiligere online omgeving.