Accueil Cybersécurité Expertise Vectra – Comment différencier une vraie offre d’IA d’un buzzword ?

Expertise Vectra – Comment différencier une vraie offre d’IA d’un buzzword ?

Le Cabinet d’investissement anglais MMC Ventures en partenariat avec la banque Barclays a publié cette semaine son étude « State of AI 2019 » qui établit que sur 2830 start-up de l’écosystème de l’IA dans 13 pays européens, près de 40% n’offrent pas les technologies d’intelligence artificielle qu’elles prétendent utiliser. Matt Walmsley, Directeur EMEA chez Vectra (IA appliquée à la cybersécurité) décrypte les différents types et niveaux d’IA.

Ce rapport du MMC Ventures démontre que 40% des entreprises affirmant faire de l’IA, n’en font pas réellement… Il est donc compréhensible qu’il y ait du scepticisme quant à l’utilisation du terme IA dans la présentation de nombreuses entreprises. Comprendre l’IA est assez compliqué, si l’on y ajoute une foule d’offres abusant du terme, il devient encore plus difficile pour les entreprises de s’y retrouver. Cela est d’autant plus dommage que dans le secteur de la cybersécurité, l’IA, le vrai, est une réelle révolution et permet de résoudre des problèmes jusque-là insolvables ! Voici donc quelques conseils pour détecter le vrai du faux IA dans les offres proposées, et comment les technologies fonctionnent.

Quelle expertise ? 

Face à une offre d’IA, la première question à poser à l’entreprise concerne l’étendue et la profondeur de ses capacités de développement et l’expertise de ses « spécialistes IA » ? Ont-ils une formation, un diplôme doctorant en IA, en machine learning, en science des données, etc. ? Ces experts très pointus sur le sujet sont tout simplement peu nombreux sur le marché actuellement, il est donc compliqué de réellement innover, en tout cas pas au rythme du nombre de sortie de nouvelles offres tamponnées IA. Ces informations sur les profils peuvent être tout simplement trouvées sur Linkedin, ainsi si l’entreprise ne présente qu’un seul développeur, sans expérience affichée en machine learning, alors au mieux, il est probable que l’entreprise ait bricolé une bibliothèque de machine learning open source sur un code existant, et qu’elle joue simplement avec l’IA.

Quel est mon problème ?

De la même manière, l’entreprise peut aussi se questionner sur son problème avant d’engager ses recherches : est-ce que l’IA propose des solutions et des experts pour répondre à mon problème ? Dans de nombreux cas d’IA appliquée, il ne s’agit pas simplement de capturer des données et d’y appliquer des formules mathématiques. Dans le domaine de la cybersécurité par exemple, nous avons besoin de chercheurs experts en sécurité pour émettre des hypothèses et valider les comportements et les techniques des attaquants. Un data scientist ne peut pas faire ça tout seul et ce n’est qu’en collaborant avec le chercheur en sécurité (qui sont souvent des hackers éthiques) que le data scientist peut mettre au point un algorithme efficace de détection des attaquants.

Quels résultats concrets ?

Autre moyen d’identifier les offres crédibles : trouver des preuves d’un investissement en innovation sur le long terme et des résultats concrets. Un bon moyen pour cela est d’observer si l’entreprise a obtenu des prix pour les capacités d’IA qu’elle a créé, si elle a des brevets et si elle est nommée par des analystes reconnus de l’industrie ?

Quelles données ?

L’intelligence artificielle repose sur la science des données, la data science, pour une bonne raison. Il ne s’agit pas simplement de construire des algorithmes incroyablement complexes ! En plus de sélectionner des approches algorithmiques, le Data Scientist doit également gérer la conservation des données, la sélection et l’extraction des caractéristiques et la formation. Il est donc important de se renseigner auprès de son futur fournisseur d’IA sur les données qu’il utilise pour construire, former, tester et faire fonctionner ses algorithmes, et de chercher à comprendre la provenance, la qualité, la gestion et la sécurité des données, ainsi que la manière et l’endroit où elles sont utilisées.

En particulier pour les jeunes entreprises de l’industrie, observer un peu plus en détails l’équipe de direction qui les compose peut donner quelques indications. Y a-t-il des experts reconnus, des preuves de leurs innovations, des précédents investissements intéressants, etc. Certaines entreprises peuvent vouloir surfer sur le buzzword, bien aider par des campagnes de pub, pour gagner de l’argent car le marché offre actuellement beaucoup d’opportunités… Mieux vaut être vigilant. Encore une fois le rapport le montre bien.

Enfin, il est important de se rappeler que l’intelligence artificielle est juste l’outil, pas le but ou la raison. L’IA est le comment, et non le pourquoi. Il est donc important de se demander si l’outil d’IA que l’on utilise permet de créer des nouvelles compétences fonctionnant de manière vraiment autonome ou s’il s’agit d’un outil mécanique avec un vernis d’automatisation mais qui est soutenu par des processus à distance (backdoor), parfois même humains ? Pour en avoir le cœur net, il suffit de demander à son fournisseur si l’outil dispose d’un accès à distance et s’il a besoin de l’utiliser pour intervenir sur l’outil… Pour conclure, mais cela vaut pour tous les secteurs et toutes les technologies, rien de tel que des retours d’expériences et des études de cas. L’idéal étant de se renseigner auprès d’entreprises ou de communautés qui partagent beaucoup d’informations, notamment dans le monde cyber, ou de rechercher des programmes d’évaluations pour prendre du recul sur les différentes solutions proposées.