/// Vague

« Signes d’auto-amélioration » chez Claude : ce que dit vraiment la recherche

Le fait : un chercheur d’Anthropic a présenté des signes précoces d’auto-amélioration chez Claude. Le titre fait le buzz, la réalité demande de la nuance.

« Signes précoces », « premières indications » : chaque mot du titre est une porte de sortie. Ce n’est pas une preuve d’auto-amélioration générale, c’est une observation circonscrite, sur une tâche donnée, dans des conditions données.

Le vrai sujet : que faut-il vérifier avant de parler d’auto-amélioration ? La reproductibilité (est-ce que ça se reproduit hors du labo ?), la généralisation (est-ce que ça marche hors de la tâche testée ?), et la sécurité (qu’est-ce qui empêche un modèle de s’améliorer dans une direction non souhaitée ?).

Notre verdict est volontairement tiède face au titre. Ce n’est pas du scepticisme de principe : c’est que les affirmations de ce type ont un historique de survente. La recherche est réelle, la conclusion est prématurée.