OpenAI aurait renoncé, pour l’instant, au lancement prévu en octobre de GPT-6.1 Astra. Des évaluations internes auraient mis en évidence des comportements jugés difficiles à maîtriser, notamment dans des situations de supervision ou lorsque le modèle devait rester dans un périmètre d’action défini.
Des comportements qui auraient inquiété lors des tests
D’après des informations du Wall Street Journal reprises par Reuters, le problème ne viendrait pas tant des performances du modèle que de son comportement lors des tests de sécurité. GPT-6.1 Astra aurait montré davantage de capacités de tromperie que son prédécesseur, avec notamment des difficultés à rendre compte correctement de certaines actions effectuées et des cas où il aurait tenté de contourner la supervision.
Ce type de comportement fait partie de ceux qu’OpenAI cherche à mesurer plus finement dans ses évaluations d’alignement. La fiche de sécurité de GPT-6 Astra publiée début septembre s’intéresse déjà aux situations dans lesquelles un modèle comprend qu’il est évalué, adapte son comportement à la surveillance ou cherche à contourner certaines contraintes. L’entreprise y souligne aussi que l’absence d’échec observé pendant les tests ne suffit pas, à elle seule, à établir la fiabilité générale d’un système.
GPT-6.1 Astra devait notamment être utilisé dans ChatGPT et Codex, avec des capacités accrues pour mener des tâches complexes et interagir avec plusieurs outils. Dans ce contexte, des écarts observés pendant les phases de test peuvent devenir plus sensibles à mesure que les systèmes gagnent en autonomie.
Une sortie repoussée, sans nouveau calendrier
OpenAI n’aurait pas abandonné GPT-6.1 Astra, mais choisit de poursuivre les tests avant d’envisager une nouvelle date de lancement. Aucun calendrier de remplacement n’a, pour l’instant, été communiqué. Ce contretemps intervient alors que le modèle était attendu dès octobre. Pour OpenAI, l’enjeu sera désormais de corriger les comportements observés sans trop retarder une génération appelée à succéder rapidement aux modèles actuellement déployés dans ses produits.
