Chez OpenAI, les agents de programmation ne sont plus utilisés ponctuellement. À la mi-août, un chercheur ou ingénieur de recherche chez OpenAI utilisait typiquement assez d’agents pour représenter plus de 600 dollars d’inférence par jour aux tarifs publics de l’API. Chez les utilisateurs les plus intensifs, cette consommation dépassait 7 000 dollars par jour.
Plusieurs centaines de dollars d’inférence par jour
Dans un billet consacré à ses propres pratiques de recherche, OpenAI montre à quel point ses équipes internes utilisent désormais les agents de code.
À la mi-août, un chercheur ou ingénieur de recherche « typique » chez OpenAI faisait tourner suffisamment d’agents pour que cette consommation représente plus de 600 dollars par jour si elle était facturée aux tarifs publics de l’API. Pour les 10 % d’utilisateurs les plus intensifs, cet équivalent dépassait 7 000 dollars par jour.
Ces montants ne correspondent pas à la facture réellement payée par OpenAI. Ils servent surtout à donner un ordre de grandeur du volume de calcul mobilisé par ses propres équipes lorsqu’elles utilisent intensivement plusieurs agents de programmation.
Le coût grimpe avec le travail en parallèle
Cette consommation s’explique notamment par l’exécution simultanée de plusieurs agents. Certains écrivent du code, d’autres vérifient des résultats, explorent des pistes ou interviennent sur l’infrastructure. OpenAI indique qu’à la mi-août, le temps cumulé d’exécution des agents représentait 3,1 journées de travail pour chaque journée de travail humain, sur la base d’une journée de huit heures.
L’entreprise avait déjà signalé que la quantité de calcul consacrée en interne à l’inférence pour le code avait été multipliée par 100 en six mois, tandis que le volume de tokens consommé par les systèmes agentiques avait été multiplié par environ 22.
L’humain reste encore dans la boucle
Cette intensité ne signifie pas que les chercheurs ont disparu du processus. Sur les tâches réussies correspondant à quatre à huit heures de travail humain, plus de la moitié ont encore nécessité au moins une intervention d’un chercheur au cours des six derniers mois.
OpenAI reconnaît également que produire davantage de code ou lancer davantage d’expériences ne permet pas de mesurer directement le gain scientifique obtenu. À cette échelle, le coût d’un agent n’a plus grand-chose à voir avec celui d’un chatbot utilisé ponctuellement.
