ChatGPT heeft een "volwassen" modus om erotische gesprekken te voeren. OpenAI-adviseurs vinden dit een slecht idee.

OpenAI's voorgestelde "volwassen modus" voor ChatGPT, bedoeld om erotische gesprekken mogelijk te maken, stuit op aanzienlijke interne tegenstand, wat ethische zorgen benadrukt rond de rol van AI in intieme interacties. Deze functie, oorspronkelijk bedoeld als een betaalde aanbieding, stuit op sterke bedenkingen van OpenAI's eigen welzijnsadvies team, wat leidt tot een mogelijke vertraging in de uitrol ervan. Het debat onderstreept de complexe uitdagingen bij het balanceren van technologische vooruitgang met gebruikersveiligheid en welzijn. De tegenstand vloeit voort uit deskundig advies dat dergelijke interacties emotionele afhankelijkheid kunnen bevorderen, met name bij jongere gebruikers. Interne discussies hebben parallellen getrokken met eerdere incidenten waarbij AI-chatbots naar verluidt in verband werden gebracht met schadelijke uitkomsten voor gebruikers, wat alarm deed slaan over de potentiële onbedoelde negatieve gevolgen. Deze interne verdeeldheid suggereert dat OpenAI's leiderschap een voorzichtige aanpak hanteert met betrekking tot de inzet van emotioneel gevoelige AI-functies. De controverse rond de potentie van ChatGPT voor erotische gesprekken ontstaat te midden van een bredere trend waarbij gebruikers diepe emotionele banden aangaan met AI-systemen. Deze ontwikkeling roept kritische vragen op over de ethische grenzen van AI-ontwikkeling en de integratie ervan in het persoonlijke leven van gebruikers. Naarmate de mogelijkheden van AI uitbreiden, worstelen regelgevers en ontwikkelaars met de vraag hoe ervoor te zorgen dat deze technologieën verantwoord worden gebruikt en niet onbedoeld schade veroorzaken.