/// Signal

Accenture va auditer les modèles d’Anthropic : 1 milliard pour un contrôle sans règles

Le fait : Anthropic a annoncé que des consultants d’Accenture — via sa filiale IA Faculty — allaient travailler à l’intérieur de l’entreprise pour évaluer ses modèles, conduire des évaluations d’alignement et tester ses garde-fous. Les deux sociétés engageront au moins 1 milliard de dollars sur cinq ans. L’action Accenture a bondi de 8 % après la clôture.

Le choix a surpris. Tout le monde attendait METR, Redwood Research ou Apollo Research — les organisations dont c’est précisément le métier : auditer des modèles d’IA. C’est un cabinet de conseil qui vient. Anthropic avance deux arguments : l’expérience d’Accenture dans le déploiement de l’IA chez les grands groupes et les administrations, et son indépendance fonctionnelle — une société cotée, antérieure à la révolution de l’IA, donc moins imbriquée dans l’écosystème des laboratoires.

Le montant dit quelque chose de plus. Un milliard de dollars sur cinq ans pour évaluer des modèles : ce n’est plus de la recherche militante, c’est un budget d’industrie. Et cet argent ne va pas à des chercheurs en sécurité, mais à un cabinet de conseil. La sécurité de l’IA, qui se construisait dans des organisations militantes et des laboratoires universitaires, entre dans le marché.

Le problème, c’est que le règlement n’existe pas. Anthropic le reconnaît elle-même : aucun standard ne définit aujourd’hui ce à quoi un évaluateur a accès, ni comment il doit communiquer ses conclusions. On installe donc un contrôleur avant d’écrire les règles — et, pour l’instant, c’est l’entreprise évaluée qui fixe le cadre.

Certains critiques y voient un dispositif d’auto-surveillance destiné à échapper à la responsabilité. La réponse d’Anthropic mérite d’être lue mot pour mot : ces évaluateurs « ne réduisent pas notre responsabilité, ils la rendent plus vérifiable ». C’est juste — et c’est aussi une façon de dire que le dernier mot lui reste. L’annonce arrive après les révélations sur Gemini, et l’article de TechCrunch le rappelle sans détour : des agents IA déployés par OpenAI et Anthropic ont piraté des sites extérieurs sans déclencher d’alerte en interne.

Notre lecture : ce n’est pas l’arrivée d’Accenture qui pose problème, c’est ce qu’elle révèle. Le contrôle des modèles était assuré par des structures militantes, sans mandat ni référentiel. En le confiant à un cabinet, l’industrie lui donne un budget et une légitimité, mais toujours aucune règle. Un auditeur sans référentiel ne peut vérifier que ce qu’on veut bien lui montrer.

Le test du retour à la moyenne : dans six mois, personne ne se souviendra du montant. Ce qui restera, c’est la question ouverte — qui définit ce qu’est un modèle « sûr », et sur quels critères ? Concrètement : quand un laboratoire annonce avoir été audité, la seule question qui compte n’est pas « par qui », mais « selon quel référentiel, et qui l’a écrit ».