Une étude prospective de Darktrace menée par Max Heinemeyer, son Director of « Threat Hunting », explore la façon dont l’Intelligence Artificielle pourrait être exploitée par les hackers.
Alors que les entreprises peinent à lutter contre les menaces avancées, des attaques exploitant l’intelligence artificielle se préparent déjà. Pour mieux comprendre les risques liés aux cyberattaques utilisant l’IA, un intéressant rapport de Darktrace en anglais présente trois cas réels, et en extrapole des attaques basées sur l’IA.
Premier cas de figure évoquée par le rapport, une attaque par un malware se propageant de manière extrêmement rapide dans le réseau d’un cabinet d’avocats. Le malware avait été envoyé via une campagne de phishing et téléchargé malencontreusement par un employé. Avec l’utilisation de l’IA, à l’avenir « les logiciels malveillants se propageront automatiquement via une série de décisions autonomes, intelligemment adaptées aux paramètres du système infecté », indique Max Heinemeyer.
Deuxième attaque : des communications imitées par les attaquants afin d’obtenir la confiance des points de contact et de passer inaperçus dans l’environnement d’une société de gestion de l’eau et de l’électricité. Avec l’IA, le malware pourra s’adapter à l’environnement qu’il infecte. « En apprenant à partir d’informations contextuelles, il saura cibler spécifiquement les points faibles qu’il découvre ou imiter les personnes de confiance », explique l’expert.
Enfin, l’étude rapporte un cas d’exfiltrations des données au sein d’une société de technologie médicale. Les données étaient exfiltrées très lentement avec des volumes très faibles, permettant aux hackers d’agir discrètement. Dans l’avenir, avec l’IA, le malware pourra adapter dynamiquement le volume de données exfiltrées, « en fonction de la bande passante totale utilisée par la machine infectée », devenant bien plus efficace.
L’IA pour un comportement adapté
Pour se fondre dans leur environnement cible autant que possible, les attaquants humains ajustent leurs techniques pour se normaliser, mais « il est tout à fait possible que les logiciels malveillants se lancent de manière autonome pour acquérir cette compréhension contextuelle en utilisant l’IA, puis adaptent leur comportement à la volée pour se fondre dans un environnement cible », prévient Max Heinemeyer. Qu’est-ce qui motivera les attaquants à développer une cyber-IA offensive ? Les gains financiers plus importants répond le spécialiste, apportés par une meilleure capacité de déplacement latéral (et donc la capacité de frapper plus de dispositifs), et par une infiltration plus longue augmentant le volume des données exfiltrées. Autre raison évoquée : le nombre limité de hackers compétents, même pour les États-nations. Avec l’automatisation, on gagne en temps et en ressources humaines. A une cyber-IA offrensive devra donc répondre une cyber-IA défensive, conclut l’expert.
