Contra el tecnosolucionismo: Gobernar las plataformas como sistemas de cuidado

El panorama de la política digital europea se enfrenta cada vez más a las repercusiones sociales de las tecnologías avanzadas, en particular de la IA conversacional. Si bien herramientas como ChatGPT y Grok son aclamadas por democratizar la información, su implementación ha generado serias preocupaciones sobre sus consecuencias negativas no deseadas. Estas plataformas, diseñadas para una amplia accesibilidad, han facilitado lamentablemente un aumento de casos de acoso sexual y la perpetuación de estereotipos perjudiciales, lo que impulsa una reevaluación de su gobernanza e impacto. El problema central puesto de relieve no es meramente una cuestión de mal funcionamiento técnico, sino un problema sistémico inherente al diseño y la implementación de estos sistemas digitales a gran escala. El potencial de estas tecnologías para fomentar la autolesión en lugar de brindar apoyo subraya una necesidad crítica de innovación y supervisión más responsables. Esta situación exige un cambio de un enfoque puramente tecnosolucionista, que asume que la tecnología por sí sola puede resolver problemas complejos, hacia uno que priorice el bienestar y la seguridad de los usuarios. Estos desarrollos afectan directamente tanto a los usuarios de plataformas digitales como a los desarrolladores, forzando una consideración de marcos éticos dentro del avance tecnológico. Los esfuerzos continuos de la Unión Europea para regular los espacios digitales, a través de legislación como la Ley de Servicios Digitales (DSA) y la propuesta de Ley de IA, son fundamentales para abordar estos desafíos multifacéticos. El enfoque se está desplazando hacia el establecimiento de mecanismos de gobernanza sólidos que garanticen que estas poderosas tecnologías se desarrollen y utilicen de maneras que beneficien a la sociedad en lugar de perjudicarla, promoviendo un entorno digital más equitativo y seguro.