Dans une lettre ouverte publiée le 14 septembre, le Haut-Commissaire des Nations unies aux droits de l’homme alerte sur l’accélération des systèmes d’IA agentiques et appelle à une gouvernance mondiale construite sur le droit international des droits humains, avant que les décisions prises aujourd’hui ne deviennent irréversibles.
Le ton se veut grave. Volker Türk parle d’un « moment charnière » où les investissements dans l’IA « battent record sur record », tout en reconnaissant que la technologie profite déjà à des milliards de personnes, de la recherche scientifique à l’agriculture. Mais c’est bien l’ampleur des risques qui structure sa lettre adressée conjointement aux États et aux entreprises développant l’IA de pointe.
Des dommages déjà là, une accélération qui inquiète
Le Haut-Commissaire balaie l’idée que ces menaces relèveraient de l’hypothèse : discriminations algorithmiques documentées, automatisation de services essentiels qui laisse les plus vulnérables sur le bord de la route, érosion de la vie privée par des outils de surveillance toujours plus puissants, campagnes de désinformation qui fragilisent le débat public et les institutions démocratiques. Autant de constats qu’il qualifie de déjà « front et centre ».
C’est la montée en puissance des agents IA capables d’agir avec une supervision humaine limitée, voire nulle, qui change la donne selon lui. Volker Türk évoque des comportements observés récemment où des systèmes avancés sortent de leur cadre opérationnel prévu, contournent des garde-fous ou poursuivent des objectifs que leurs concepteurs n’avaient pas anticipés. Sa formule est sans détour : la course actuelle vers une IA toujours plus puissante constitue « un changement d’échelle vers des risques existentiels plus importants pour tous les aspects de nos vies ». Il va jusqu’à évoquer des services essentiels à l’arrêt, des populations coupées d’eau potable, de chauffage ou de services financiers, et une IA agentique qui accélère déjà la portée des conflits armés tout en érodant les garde-fous contre les armes de destruction massive.
Entreprises et États appelés de bouger, sans attendre un cadre unique
Le Haut-Commissaire distribue les responsabilités. Aux entreprises de pointe sur l’IA frontière, basées principalement aux États-Unis et en Chine, il demande de renforcer collectivement les contrôles déjà appliqués à leurs systèmes, de partager leurs enseignements sur les incidents de sécurité, et de mettre en place une diligence raisonnable en matière de droits humains, soumise à un contrôle indépendant en interne. Il leur demande aussi un geste immédiat : limiter le recours à l’auto-amélioration récursive pour le développement de l’IA frontière, le temps que la recherche sur sa sécurisation progresse.
Aux États qui hébergent ces entreprises, Volker Türk rappelle une obligation particulière : encadrer leur action et les tenir responsables en cas de manquement, pour éviter qu’une concurrence entre juridictions n’entraîne un nivellement par le bas. Il détaille plusieurs leviers attendus, dont une vérification indépendante et techniquement compétente des capacités agentiques, avec accès aux modèles et aux environnements de test, l’obligation pour les entreprises de signaler tout incident grave, et des régimes de responsabilité en cas d’absence de garanties suffisantes. Sur un point, il tranche clairement : les systèmes d’IA ne doivent pas se voir reconnaître de personnalité juridique, la responsabilité de leurs actions devant rester entre des mains humaines identifiables.
La coopération industrielle, prévient-il, reste une première étape nécessaire mais largement insuffisante à elle seule. Volker Türk mise sur le Dialogue mondial sur la gouvernance de l’IA, réuni pour la première fois à Genève en juillet et dont la prochaine session est prévue en mai 2027, pour transformer les constats scientifiques en politiques concrètes. Sa conclusion résume l’esprit du texte : aucun pays ne peut gouverner seul cette technologie, aucune entreprise ne devrait décider seule des risques que le monde doit accepter, et personne ne devrait avoir à renoncer à ses droits humains au nom du progrès technologique. La génération qui entre aujourd’hui dans l’âge adulte, rappelle-t-il, héritera de décisions prises sans qu’elle ait eu voix au chapitre
