Accueil IA-Intelligence Artificiellle AVIS D’EXPERT – L’essor des LLM d’entreprise : pourquoi le contexte fait...

AVIS D’EXPERT – L’essor des LLM d’entreprise : pourquoi le contexte fait toute la différence

Les entreprises multiplient les projets autour de l’IA générative, sans toujours en tirer les bénéfices attendus. Dans cette tribune, Evan Reiss, Head of Innovation chez Foxit, explique pourquoi les modèles généralistes montrent leurs limites et défend une approche plus contextualisée, ancrée dans les réalités métier.

Aujourd’hui, les salariés passent près de 4,3 heures par semaine à examiner et valider les contenus générés par l’IA. Cela représente plusieurs milliers d’euros par personne et par an, dépensés à « surveiller » un système censé améliorer leur productivité. Dans le même temps, des études du MIT et de la RAND Corporation montrent que 85 à 95 % des projets pilotes d’IA en entreprise n’atteignent pas leurs objectifs. Bien qu’elle fonctionne, la technologie fonctionne manque cruellement de contexte organisationnel.

L’IA d’entreprise freinée par son caractère générique

Ces dernières années, l’IA d’entreprise s’est largement appuyée sur des modèles généralistes, entraînés sur Internet. Ces systèmes sont puissants, flexibles et de plus en plus accessibles. Mais au sein d’une organisation, où exactitude, gouvernance et confiance sont des éléments essentiels, l’IA générique montre rapidement ses limites.

En 2027, Gartner prévoit que les entreprises déploieront trois fois plus de modèles spécialisés par tâche que de LLM généralistes. D’ici 2028, plus de la moitié des modèles GenAI d’entreprise seront spécifiques à un domaine, contre seulement 1 % en 2023. Selon Gartner, certains modèles spécifiques peuvent atteindre quatre fois l’efficacité d’un LLM généraliste, tant en termes de coûts que de latence.

La « taxe de supervision»

L’IA générique est conçue pour être polyvalente. Elle peut répondre de manière satisfaisante à presque toutes les questions. Mais les entreprises ont besoin de bien plus que de la polyvalence. Elles ont besoin de systèmes capables de comprendre leur fonctionnement interne : par exemple distinguer une version provisoire d’une version validée d’un document, repérer les clauses contractuelles susceptibles de créer un conflit, ou encore identifier lorsqu’une demande d’achat dépasse le niveau d’autorisation de la personne qui la soumet.

Sans ce contexte, chaque production nécessite une vérification humaine. Pour des tâches à faible risque, cela reste acceptable. Mais dans des secteurs fortement régulés tels que la finance, le juridique, les achats ou encore la santé, cela devient lent et coûteux. Selon Forrester, moins d’un décideur sur trois est en mesure de relier concrètement la valeur de l’IA à la croissance financière de son organisation. Résultat : les entreprises pourraient devoir reporter jusqu’à un quart de leurs investissements en IA prévus pour 2027 afin de réévaluer les limites des approches génériques.

De l’IA souveraine à l’intelligence d’entreprise

L’IA souveraine, à savoir, les modèles entraînés à l’échelle nationale ou régionale suscite un intérêt croissant. Cependant, la véritable opportunité réside dans les SML d’entreprise (Small Language Model): de petits modèles entraînés sur des données internes et contextualisés à une organisation spécifique.

Un exemple concret illustre ce potentiel. IBM a déployé OLGA, un système d’IA spécialisée, auprès du Tribunal régional supérieur de Stuttgart, confronté à un retard de plus de 10 000 dossiers. OLGA permet de catégoriser les affaires, d’extraire les métadonnées de documents pouvant atteindre plusieurs centaines de pages et d’automatiser une partie du travail de tri. Les juges peuvent ainsi se concentrer sur l’analyse juridique et le raisonnement complexe plutôt que sur des tâches répétitives. Le tribunal estime que le système réduit le temps de traitement de plus de 50 %. Cet exemple montre que lorsque la connaissance institutionnelle est structurée et intégrée dans des processus documentaires intelligents, les gains d’efficacité, et la capacité à extraire des informations utiles, peuvent être considérables.

Pour Gartner, le marché de l’IA spécialisée atteindra 11,3 milliards de dollars d’ici 2028. La direction du marché est claire : les modèles gagnants ne seront pas déterminés par leur taille ni par le caractère généraliste de leur intelligence. C’est la spécialisation et l’ancrage dans le contexte organisationnel qui feront la différence en matière de performance et de pertinence des résultats.

Discret, intégré, omniprésent

Les modèles spécifiques ne remplaceront pas les humains. Ils travaillent en arrière-plan : valident des documents, appliquent des politiques, réduisent les erreurs et accélèrent la prise de décision dans des limites définies.

Contrairement à un assistant générique, ils savent qui utilise le système, quel rôle il occupe, quelles données il peut considérer et quelles règles s’appliquent. Ils s’améliorent en continu, au fur et à mesure que de nouveaux documents sont créés et validés. 40 % des applications d’entreprise intégreront des agents d’IA spécifiques à des tâches d’ici la fin de l’année 2026, contre moins de 5 % aujourd’hui, selon Gartner.

L’IA générique restera utile pour la créativité et l’exploration. Mais en entreprise, où confiance et précision sont déterminantes, les gagnants seront ceux qui construiront leur IA dans le contexte réel : des modèles plus petits, gouvernés et entraînés sur les connaissances propres à l’organisation.