Google, Microsoft, Anthropic et OpenAI, quatre entreprises en tête de la course aux intelligences artificielles de dernière génération, ont annoncé mercredi la création d’une nouvelle organisation professionnelle pour lutter contre les risques liés à cette technologie.
Baptisée « Frontier Model Forum », elle est chargée de promouvoir un « développement responsable » des modèles d’intelligence artificielle (IA) les plus sophistiqués et de « minimiser les risques potentiels« , d’après un communiqué. Les membres s’engagent à partager entre eux et avec des législateurs, chercheurs et associations des bonnes pratiques pour rendre ces nouveaux systèmes moins dangereux.
L’IA inquiète
Le déploiement rapide de l’IA générative, à travers des interfaces comme ChatGPT (OpenAI), Bing (Microsoft) ou Bard (Google), suscite beaucoup d’inquiétudes des autorités et de la société civile. L’Union européenne (UE) finalise un projet de régulation de l’IA qui doit imposer des obligations aux entreprises du secteur, comme la transparence avec
les utilisateurs ou le contrôle humain sur la machine.
L’administration de Joe Biden a obtenu des « engagements«
Aux Etats-Unis, les tensions politiques au Congrès empêchent tout effort en ce sens. La Maison Blanche incite donc les groupes concernés à s’assurer eux-mêmes de la sûreté de leurs produits, au nom de leur « devoir moral« , selon les mots de la vice-présidente américaine Kamala Harris début mai. La semaine dernière, l’administration de Joe Biden a obtenu des « engagements » d’Amazon, Anthropic, Google, Inflection, Meta, Microsoft et
OpenAI à respecter « trois principes » dans le développement de l’IA – la sûreté, la sécurité et la confiance. Elles sont notamment censées tester leurs programmes en amont, lutter
contre les cyberattaques et la fraude, et trouver un moyen de marquer les contenus générés par de l’IA, afin de les authentifier clairement comme tels.
Les dirigeants de ces entreprises ne nient pas les risques, au contraire. En juin, Sam Altman, le patron d’OpenAI et Demis Hassabis, le dirigeant de DeepMind (Google), notamment, ont appelé à lutter contre « les risques d’extinction » de l’humanité « liés à l’IA« .
Lors d’une audition au Congrès, Sam Altman a soutenu l’idée en vogue de créer une agence internationale chargée de la gouvernance de l’intelligence artificielle, comme il en existe dans d’autres domaines.
Une IA dite « générale », aux capacités cognitives
En attendant, OpenAI travaille vers une IA dite « générale », aux capacités cognitives qui seraient similaires à celles des humains. Dans une publication du 6 juillet, la startup californienne a défini les « frontier model » d’IA comme des programmes fondamentaux « très perfectionnés qui pourraient comporter des capacités dangereuses de taille à poser des risques graves pour la sécurité du public« . « Des capacités dangereuses peuvent émerger de façon inattendue », prévient encore OpenAI, et « il est difficile de vraiment empêcher qu’un modèle déployé soit utilisé de façon abusive« .
La Rédaction avec AFP
