Avec l’arrivée des grands modèles de langage (LLM), les attaques informatiques se multiplient. Il est essentiel de se préparer à ces LLM entraînés pour être malveillants, car ils permettent d’automatiser le cybercrime. En mai, un LLM a découvert une faille de sécurité dans un protocole très utilisé… pour lequel on pensait que les failles les plus graves avaient déjà été décelées et réparées.
Comment les pirates informatiques utilisent-ils aujourd’hui les outils d’IA pour préparer leurs attaques ? Comment contournent-ils les garde-fous mis en place par les développeurs de ces outils, y compris pour alimenter la désinformation ?
Jusqu’à récemment, les cyberattaques profitaient souvent d’une porte d’entrée dans un système d’information de façon à y injecter un malware à des fins de vols de données ou de compromission de l’intégrité du système.
Malheureusement pour les forces du mal et heureusement pour le côté de la cyberdéfense, ces éléments relevaient plus de l’horlogerie que de l’usine, du moins dans leurs cadences de production. Chaque élément devait être unique pour ne pas se retrouver catalogué par les divers filtres et antivirus. En effet, un antivirus réagissait à un logiciel malveillant (malware) ou à un phishing (technique qui consiste à faire croire à la victime qu’elle s’adresse à un tiers de confiance pour lui soutirer des informations personnelles : coordonnées bancaires, date de naissance…). Comme si ce n’était pas suffisant, du côté de l’utilisateur, un mail avec trop de fautes d’orthographe par exemple mettait la puce à l’oreille.
Jusqu’à récemment, les attaquants devaient donc passer beaucoup de temps à composer leurs attaques pour qu’elles soient suffisamment uniques et différentes des « templates » disponibles au marché noir. Il leur manquait un outil pour générer en quantité des nouveaux composants d’attaques, et c’est…
Auteur: Antony Dalmiere, Ph.D Student – Processus cognitifs dans les attaques d’ingénieries sociales, INSA Lyon – Université de Lyon
