Tegen technosolutionisme: Platforms besturen als systemen van zorg

Het digitale beleidslandschap van Europa worstelt steeds meer met de maatschappelijke impact van geavanceerde technologieën, met name conversatie-AI. Hoewel tools als ChatGPT en Grok worden geprezen voor het democratiseren van informatie, heeft hun implementatie aanzienlijke zorgen doen rijzen over hun onbedoelde negatieve gevolgen. Deze platforms, ontworpen voor brede toegankelijkheid, hebben helaas geleid tot een toename van seksuele intimidatie en schadelijke stereotypen, wat een heroverweging van hun beheer en impact noodzakelijk maakt. Het kernprobleem is niet louter een technische storing, maar een systemisch probleem dat inherent is aan het ontwerp en de implementatie van deze grootschalige digitale systemen. Het potentieel van deze technologieën om zelfbeschadiging te bevorderen in plaats van ondersteuning te bieden, onderstreept een cruciale behoefte aan verantwoordelijkere innovatie en toezicht. Deze situatie vereist een verschuiving van een puur technosolutionistische benadering, die ervan uitgaat dat technologie alleen complexe problemen kan oplossen, naar een benadering die prioriteit geeft aan het welzijn en de veiligheid van gebruikers. Deze ontwikkelingen hebben directe gevolgen voor zowel gebruikers van digitale platforms als ontwikkelaars, en dwingen tot een overweging van ethische kaders binnen technologische vooruitgang. De voortdurende inspanningen van de Europese Unie om digitale ruimtes te reguleren, door middel van wetgeving zoals de Digital Services Act (DSA) en de voorgestelde AI Act, zijn cruciaal voor het aanpakken van deze veelzijdige uitdagingen. De focus verschuift naar het vaststellen van robuuste bestuursmechanismen die ervoor zorgen dat deze krachtige technologieën op een manier worden ontwikkeld en gebruikt die de samenleving ten goede komt in plaats van haar te schaden, en zo een meer rechtvaardige en veilige digitale omgeving bevorderen.