Anthropic ha abbandonato il suo principio più importante: non metterà più in pausa modelli pericolosi se la concorrenza li rilascerà prima

Anthropic ha modificato in modo significativo la sua "Responsible Scaling Policy" fondamentale, una mossa con implicazioni considerevoli per l'industria dell'IA e il suo impegno per la sicurezza. In precedenza, l'azienda si era impegnata a interrompere o ritardare lo sviluppo di modelli di IA potenzialmente pericolosi se le misure di sicurezza non fossero riuscite a tenere il passo con i loro progressi. Questo cambiamento di politica segnala un allontanamento dai meccanismi di frenata automatica verso un quadro di impegni pubblici flessibili e audit di rischio di terze parti. Il nucleo di questa revisione riguarda la decisione di Anthropic di non interrompere più unilateralmente lo sviluppo di modelli quando i concorrenti avanzano senza restrizioni simili. Questo adeguamento strategico riconosce l'intenso panorama competitivo, con attori importanti come OpenAI, Google e xAI che avanzano rapidamente. Inoltre, l'azienda sottolinea le pressioni politiche e l'approccio degli Stati Uniti alla regolamentazione dell'IA come fattori che influenzano questa evoluzione della politica, suggerendo un passaggio verso un ambiente di sviluppo meno restrittivo. Questa ricalibrazione solleva interrogativi sul futuro degli standard di sicurezza dell'IA, in particolare rispetto all'approccio più regolamentato dell'Europa. Mentre Anthropic ora enfatizza gli impegni pubblici e gli audit esterni, la rimozione del suo freno di sicurezza automatico interno potrebbe accelerare lo sviluppo dell'IA a scapito potenziale di una mitigazione dei rischi robusta e preventiva. L'impatto a lungo termine sulla fiducia del pubblico e sul dibattito sulla governance globale dell'IA deve ancora essere valutato, mentre altre entità navigano in questo panorama in evoluzione.