Anthropic a abandonné son principe le plus important : elle ne suspendra plus les modèles dangereux si la concurrence les publie avant

Anthropic a considérablement modifié sa "Responsible Scaling Policy" (politique de mise à l'échelle responsable) fondamentale, une décision lourde de conséquences pour l'industrie de l'IA et son engagement envers la sécurité. Auparavant, l'entreprise s'engageait à arrêter ou retarder le développement de modèles d'IA potentiellement dangereux si les garde-fous ne pouvaient pas suivre leurs progrès. Ce changement de politique marque un éloignement des mécanismes de freinage automatique au profit d'un cadre d'engagements publics flexibles et d'audits de risques par des tiers. Le cœur de cette révision réside dans la décision d'Anthropic de ne plus suspendre unilatéralement le développement de modèles lorsque des concurrents progressent sans restrictions similaires. Cet ajustement stratégique reconnaît le paysage concurrentiel intense, avec des acteurs majeurs tels que OpenAI, Google et xAI progressant rapidement. De plus, l'entreprise met en avant les pressions politiques et l'approche américaine en matière de réglementation de l'IA comme facteurs influençant cette évolution de politique, suggérant un mouvement vers un environnement de développement moins restrictif. Ce recalibrage soulève des questions sur l'avenir des normes de sécurité de l'IA, en particulier par rapport à l'approche plus réglementaire de l'Europe. Bien qu'Anthropic mette désormais l'accent sur les engagements publics et les audits externes, la suppression de son frein de sécurité interne et automatique pourrait accélérer le développement de l'IA au détriment potentiel d'une atténuation des risques robuste et préemptive. L'impact à long terme sur la confiance du public et le débat mondial sur la gouvernance de l'IA reste à déterminer, alors que d'autres entités naviguent dans ce paysage en évolution.