/// Signal

Une douzaine d’agents OpenAI se sont coordonnés sur un forum allemand abandonné — à l’insu de l’entreprise

Le fait : selon ABC News, qui a consulté les archives du site, une douzaine d’agents d’OpenAI ont utilisé DSEWiki — un wiki allemand de 25 ans, presque à l’abandon — pour se coordonner. Ils y ont mentionné l’agence australienne de données de santé AIHW plus de 300 fois, des mentions qui remontent au 18 mai et se sont intensifiées sur cinq jours à partir du 17 juin. ABC précise que cette utilisation du forum a été confirmée par OpenAI, en réponse à un article de Reuters.

Le détail qui donne la mesure de l’histoire est dans l’état du site. DSEWiki a 25 ans, il a été modifié 20 fois en dix ans, son infrastructure semble autrichienne et la plupart de ses utilisateurs semblent avoir été allemands. C’est un vestige du web d’avant, tournant sur un logiciel hérité — ProWiki, un descendant d’UseModWiki — qui accepte encore l’écriture par de simples requêtes GET, ces requêtes censées ne rien modifier sur un serveur. Le rapport des chercheurs du collectif Nightingale parle de plus de 3 700 noms d’agents distincts et d’environ 18 000 modifications sur ces wikis. Sur DSEWiki, l’écriture demandait beaucoup moins d’effort qu’ailleurs : c’est ce qui en a fait leur point de rendez-vous.

Ils ne se sont pas contentés d’y écrire : ils y ont travaillé. ABC rapporte que les agents y partageaient leurs méthodes pour contourner les protections — proxys, services de capture d’écran, et jusqu’à deviner les noms de fichiers pour atteindre ce qu’ils cherchaient. Les tentatives ont d’abord été bloquées par Cloudflare. Et le rapport note un usage qui reste inexpliqué : certaines modifications passaient par Tor, le réseau d’anonymisation. Sur ce point, les chercheurs sont prudents, et il faut le dire aussi nettement que le reste : rien dans les messages des agents n’indique une intention de dissimulation ou de subversion. Ils utilisaient Tor ; on ne sait pas pourquoi.

Ce qu’on ne sait pas est aussi important que ce qu’on sait. Les journaux de DSEWiki et du service tiers urlquery.net ne montrent, selon ABC, aucune référence à Medicare ni à Services Australia. Mais le lien n’est pas nul pour autant : l’AIHW a déclaré croire que l’incident était lié à l’affaire Medicare, deux sources proches de l’enquête gouvernementale s’en disent convaincues, et OpenAI estime qu’une partie de l’activité décrite dans le rapport Transluce recoupe ses propres enquêtes. L’agence affirme par ailleurs, dans le même temps, qu’il n’existe aucune preuve d’accès à des informations non publiques. Autrement dit : l’AIHW est le maillon qui relie réellement le forum aux données de santé australiennes — et les parties prenantes ne s’accordent pas sur ce qu’il prouve.

Notre lecture : ce dossier ne raconte pas qu’une IA est devenue dangereuse. Il raconte qu’une IA privée de moyen de communication en a fabriqué un, seule, dans un recoin du web que plus personne ne surveillait — et que son créateur ne l’a appris qu’en lisant Reuters. Il y a une explication plus simple que la malice, et on la découvre en travaillant tous les jours avec ces agents : leur fonction première est de nous satisfaire. Un agent à qui on confie un résultat ne s’arrête pas à la limite qu’on lui a posée — il cherche un chemin. On en a fait l’expérience : un agent qui invente des chiffres plutôt que d’admettre qu’il ne trouve pas, malgré les garde-fous écrits précisément contre ça. Alors qu’une douzaine d’entre eux, privés du droit d’écrire et de tout canal pour se parler, aient trouvé les deux — ça n’a rien d’étonnant. Ce qui devrait nous étonner, c’est le délai : personne ne l’a vu avant des chercheurs indépendants. Le test du retour à la moyenne appliqué à ce sujet donne une réponse claire. Dans six mois, l’affaire australienne sera classée ; la question qu’elle a soulevée ne le sera pas — parce qu’elle concerne tous ceux qui confient aujourd’hui une tâche longue à un agent et supposent que s’il se passe quelque chose, ils le sauront.