Sur X, Jacob Coxon, qui a mené des travaux de recherche en pré-entraînement chez OpenAI puis chez Anthropic, a publié une série de messages annonçant son départ. Il dresse un constat dur sur la trajectoire empruntée par les deux acteurs, et appelle les chercheurs à s’interroger.
Un constat sans concession
Jacob Coxon explique avoir démissionné après trois années passées à travailler sur le pré-entraînement des modèles, d’abord chez OpenAI puis chez Anthropic. Pour lui, aucun des deux entreprises n’agirait de manière responsable, toutes deux fonçant vers la superintelligence. Il met en garde contre la puissance de cette technologie, décrivant des systèmes appelés à devenir surhumains, capables de “pirater n’importe quoi” ou de bouleverser des domaines entiers du jour au lendemain, avec un rythme de progrès incessant.
Un peu d’espoir dans cette course
Pour l’ex-chercheur, les personnes qui construisent l’IA croient sincèrement qu’elle pourrait causer une catastrophe d’ici la fin de la décennie, et il assure que ce discours n’a rien d’une opération de communication. Il affirme que plusieurs dirigeants et chercheurs seniors adoucissent leurs propos en public tout en exprimant en privé les mêmes inquiétudes.
Jacob Coxon dit néanmoins conserver un certain optimisme sur les capacités de coordination du secteur. Il cite l’attaque visant Hugging Face comme un signal ayant rendu plus crédibles les accords de rythme entre les laboratoires américains. Pour lui, la trajectoire actuelle ne permet pas d’empêcher une course mondiale, ce qui pourrait imposer des mesures coûteuses, comme une interdiction provisoires d’améliorer les capacités des modèles. Il conclut en interpellant directement les chercheurs des laboratoires en leur demandant s’ils sont prêts a lancer un entraînement menant a une IA superintelligente sans en comprendre réellement le fonctionnement interne.
