A quelques jours de l’ouverture du sommet pour l’action sur l’intelligence artificielle, où il interviendra, Yann Ferguson, directeur scientifique du LaborIA à l’INRIA et spécialiste des mutations du travail, nous livre ses observations sur les transformations provoquées. Interview 3/3.
SN : L’IA est-elle un nouvel outil d’impérialisme culturel ?
YF : L’IA est un facteur de soft power. C’est-à-dire que quand vous avez une forte emprise sur l’outil qui devient dominant et draine la réflexion des gens, c’est un outil d’influence.
Les gens commencent à se dire à chaque fois demandons à ChatGPT. On va voir avec ChatGPT, etc… Quand vous maîtrisez l’outil dont les gens sont de plus en plus dépendants, les biais que vous avez mis dans cet outil, consciemment ou inconsciemment, vont asseoir votre représentation et votre puissance.
Consciemment, ça veut dire que vous avez décidé par exemple, comme l’a fait OpenAI, de retirer les contenus pornographiques, climatosceptiques, contestables… Ils ont une ligne très forte, en lien avec les approches de modération qu’on peut retrouver sur les réseaux sociaux. Mais qu’on retrouve de moins en moins.
Par ailleurs, la composition socio-culturelle des équipes de développement a une énorme influence sur les orientations du produit. Sil y a une homogénéité sociale, sociologique et culturelle de cette communauté, inconsciemment, ils projettent leur vision du bien et du mal ou de l’histoire…
Avez-vous des illustrations ?
On sait que quand vous demandez un système, ça a été démontré, vous demandez un système avec une vision américaine. Par exemple, l’histoire de l’aéronautique est très marquée par les pionniers de l’aéronautique américains. Si vous le demandez et si vous mettez un modèle français, il va plutôt vous parler de Saint-Exupéry, de Maurice Bellonte… Il parlera des pionniers de l’Aéropostale, d’Airbus, etc.,
“C’est un risque d’hégémonie”
L’IA vous parlera moins des Américains. C’est donc une énorme capacité d’influence. C’est un risque d’hégémonie. Un soft power qui amène finalement chacun à penser, à s’exprimer, à échanger les uns avec les autres sur des références qui sont embarquées consciemment ou inconsciemment dans ces systèmes.
Deux exemples de cette forme d’impérialisme soft, qui reste difficile à voir. Peut-être que vous avez remarqué que de plus en plus on reçoit des mails où les gens disent en français : “J’espère que ce message vous trouve en bonne santé”. Ce sont des choses qui n’existaient pas il y a quatre ou cinq ans. Par contre c’est une formule de politesse que l’on retrouve très régulièrement dans les mails américains. On voit des Français, notamment des jeunes, qui reprennent cette phrase qui, notamment, revient beaucoup dans ChatGPT. Si vous demandez à ChatGPT d’écrire un mail respectueux à votre professeur ou à votre DRH auprès duquel vous candidatez, il y a de fortes chances qu’il vous dise “que ce message vous trouve en bonne santé”.
Deuxième exemple avec un responsable d’un cabinet d’un élu de la ville de Montpellier qui me disait qu’il avait essayé ChatGPT pour préparer des discours. ChatGPT dispersait régulièrement le mot communauté en disant, par exemple : “Il faut protéger la communauté, il faut respecter la communauté, notre communauté, etc.” C’est un terme très anglo-saxon, très américain, qui est plutôt péjoratif en France. En France, la communauté est souvent associé au communautarisme. On ne parle pas de communauté en France. C’est donc une approche très paroissiale du vivre-ensemble, la communauté. Ce qui correspond plus à un prêt-à-penser culturel américain ou anglo-saxon mais pas français.
On voit petit à petit que ces mots qui ne sont pas les nôtres, en tous cas ces mots qui ne sont pas ceux que l’on utiliserait spontanément pour écrire ou décrire, s’imposent à nous, se diffusent. Petit à petit, nous sommes en train de récupérer une manière de définir le vivre-ensemble qui est faite avec les mots américains. Et on sait que les limites de notre langage sont les limites de notre monde. C’est le philosophe Wittgenstein qui a dit ça. Les mots utilisés pour penser le monde, ils ne sont pas que des instruments, ont des effets de détermination sur la pensée. Donc, si un pays arrive à imposer ses mots, petit à petit, en fait, il impose sa manière de penser et de voir le monde.
Lire les interviews précédents :
https://www.solutions-numeriques.com/la-majorite-des-employes-utilisent-lia-a-linsu-du-manager/
