Anthropic alerte sur l’arrivée possible d’une IA capable de s’améliorer elle-même

L’intelligence artificielle pourrait entrer dans une nouvelle phase de son évolution. Dans son dossier transmis aux autorités américaines en vue de son introduction en Bourse, Anthropic décrit un phénomène qu’elle appelle « closing the loop », ou boucle d’amélioration.

Le principe est déjà à l’œuvre chez l’entreprise : chaque nouvelle génération de Claude participe à la conception, à l’entraînement et aux tests de la suivante. L’IA intervient notamment dans l’écriture de code, la conduite d’expériences, la préparation des données d’entraînement et les évaluations de sécurité.

Cette automatisation progressive pourrait accélérer considérablement les cycles de développement. Anthropic reconnaît toutefois un risque majeur : les capacités des modèles pourraient progresser plus rapidement que les dispositifs de sécurité, d’alignement et de contrôle développés pour les encadrer.

Il ne s’agit pas d’affirmer que Claude est déjà capable de se reproduire ou de se perfectionner entièrement sans intervention humaine. Mais le mécanisme décrit par Anthropic constitue une étape importante vers une recherche en IA de plus en plus assistée par l’IA elle-même.

Un avertissement particulièrement notable venant d’une entreprise qui participe directement à cette course technologique.