Aller au contenu
HishCok // Web · IT
Cybersécurité 9 min de lecture

Quand l'IA hallucine des CVE qui n'existent pas

Par Hisham Maghraoui

Retour au blog

Oui, un assistant d'intelligence artificielle peut citer un identifiant CVE au format parfaitement crédible qui ne correspond à aucune faille réelle, ou attribuer à une vraie CVE une description qui n'est pas la sienne. La parade est simple : toute référence de vulnérabilité produite par une IA se vérifie dans les bases officielles (cve.org, NVD, avis de l'éditeur) avant d'agir.

Cet article décrit un phénomène documenté par les éditeurs de modèles et par des responsables de projets open source. Il ne s'appuie pas sur des tests de ma part : il rassemble ce qui est publié et vérifiable, et propose une méthode de vérification que vous pouvez appliquer tout de suite.

Ce qu'est une CVE et qui l'attribue

Une CVE (Common Vulnerabilities and Exposures) est un identifiant public unique attribué à une vulnérabilité connue, sous la forme CVE-ANNÉE-NUMÉRO, par exemple CVE-2023-38545.

Le programme CVE est coordonné par l'organisation à but non lucratif MITRE. Les identifiants sont attribués par des CNA (CVE Numbering Authorities) : des éditeurs de logiciels, des CERT, des chercheurs, autorisés à numéroter les failles de leur périmètre. Chaque fiche publiée sur cve.org décrit la faille, les produits touchés et renvoie vers les avis de référence.

La NVD (National Vulnerability Database), tenue par le NIST américain, reprend ces fiches et les enrichit, par exemple avec un score de gravité CVSS. En France, le CERT-FR publie des avis et des alertes qui citent les CVE concernées.

L'important pour la suite : un identifiant CVE n'a de valeur que s'il existe dans ces registres. Son format, lui, est facile à imiter.

Pourquoi un modèle de langage invente des références

Un modèle de langage produit le texte le plus probable compte tenu de ce qu'il a appris ; il n'interroge pas une base de données, et un identifiant « au bon format » lui paraît aussi probable qu'un identifiant réel.

On appelle ce phénomène une hallucination : une réponse fluide, assurée et fausse. Les références précises (numéros, versions, noms de fonctions, dates) y sont particulièrement exposées, parce qu'elles ressemblent beaucoup les unes aux autres.

Les éditeurs le reconnaissent eux-mêmes :

  • OpenAI explique, dans un article publié en septembre 2025, que les méthodes d'entraînement et d'évaluation courantes récompensent le fait de deviner plutôt que d'admettre une incertitude, et que les hallucinations restent un problème ouvert ;
  • la documentation d'Anthropic pour son modèle Claude consacre une page entière à la réduction des hallucinations (autoriser le modèle à dire « je ne sais pas », exiger des citations, vérifier chaque affirmation) et précise que ces techniques les réduisent sans les éliminer.

Pour une CVE, les erreurs possibles sont donc de trois ordres : un identifiant qui n'existe pas, un identifiant réel associé à la mauvaise faille ou au mauvais logiciel, et des détails techniques (versions touchées, fonction vulnérable) inventés autour d'une faille réelle.

Ce que montrent les cas documentés

Le cas le plus documenté est celui de curl, logiciel de transfert de données très largement utilisé : son responsable a reçu des rapports de sécurité générés par IA, convaincants dans la forme et faux sur le fond.

  • En janvier 2024, Daniel Stenberg, créateur et mainteneur de curl, a publié un billet intitulé The I in LLM stands for intelligence. Il y décrit un rapport affirmant que des détails de la faille CVE-2023-38545 avaient fuité avant sa publication ; selon lui, le rapport mêlait des éléments d'anciennes failles et présentait les marques typiques d'une hallucination d'IA. Son auteur avait utilisé l'assistant Bard de Google.
  • La presse spécialisée a ensuite rapporté d'autres signalements du même type, dont un rapport accompagné de traces de débogage qui citait une fonction n'existant pas dans curl.
  • En janvier 2026, le projet curl a mis fin à son programme de récompenses pour la découverte de failles, en expliquant que l'afflux de rapports générés par IA de mauvaise qualité épuisait l'équipe de sécurité.

Un phénomène voisin touche le code : des chercheurs ont présenté au symposium USENIX Security 2025 une étude sur les paquets hallucinés. Des modèles qui génèrent du code y recommandent des bibliothèques logicielles qui n'existent pas ; un attaquant peut alors publier un paquet malveillant sous ce nom et attendre qu'un développeur l'installe. Les auteurs décrivent le phénomène comme systémique et persistant.

Comment vérifier une CVE en 2 minutes

Pour vérifier une CVE, cherchez son identifiant exact sur cve.org ou dans la NVD, puis lisez l'avis de l'éditeur du logiciel concerné : si l'une de ces sources ne la connaît pas ou décrit autre chose, ne vous fiez pas à la réponse de l'IA.

Dans le navigateur

  1. Ouvrez cve.org et collez l'identifiant dans la recherche.
  2. Vérifiez que la fiche existe, qu'elle est publiée (et non « rejetée » ou « réservée ») et que le produit et les versions correspondent à ce que l'IA affirme.
  3. Ouvrez la page correspondante de la NVD pour la gravité et les références.
  4. Lisez l'avis de l'éditeur (lien dans les références de la fiche) : c'est lui qui fait foi pour les versions corrigées.
  5. Sur un serveur Linux, consultez aussi le suivi de sécurité de votre distribution, par exemple le Debian Security Tracker, qui indique si le paquet installé est corrigé.

En ligne de commande

Les deux registres proposent une interface interrogeable. Exemple avec une CVE réelle de curl :

# Fiche officielle du programme CVE (API publique CVE Services)
curl -s https://cveawg.mitre.org/api/cve/CVE-2023-38545 \
  | jq -r '.cveMetadata.state, .containers.cna.title // .containers.cna.descriptions[0].value'

# Fiche NVD (API 2.0 du NIST)
curl -s "https://services.nvd.nist.gov/rest/json/cves/2.0?cveId=CVE-2023-38545" \
  | jq -r '.totalResults, .vulnerabilities[0].cve.descriptions[0].value'

Pour un identifiant inexistant, l'API CVE répond CVE_RECORD_DNE (« the cve record for the cve id does not exist ») et la commande affiche null, tandis que la NVD renvoie 0 résultat : l'identifiant n'existe pas dans les registres. Commandes testées le 22 novembre 2026. Un state à REJECTED signifie que l'identifiant a été retiré.

Ce que je vérifie en intervention : avant d'appliquer un correctif recommandé dans un rapport, qu'il vienne d'un outil automatique, d'un prestataire ou d'une IA, je confronte chaque CVE citée à sa fiche officielle et à la version réellement installée sur le serveur.

Le risque réel : correctifs inutiles, failles oubliées, rapports faux

Une CVE inventée fait perdre du temps ; une CVE mal attribuée peut faire croire qu'un système est protégé alors qu'il ne l'est pas.

  • Correctifs inutiles : mettre à jour en urgence un composant pour une faille qui n'existe pas, avec le risque de casser une production pour rien.
  • Failles oubliées : se croire à l'abri parce que « la CVE citée ne concerne pas notre version », alors que la vraie faille, elle, nous concerne.
  • Rapports faux : un audit ou un rapport de conformité qui cite des références inexistantes perd toute crédibilité, et engage la responsabilité de celui qui le signe.
  • Bruit pour les mainteneurs : comme l'a montré curl, chaque faux rapport mobilise des personnes qui pourraient corriger de vraies failles.

Utiliser l'IA en sécurité sans se faire piéger

L'IA peut aider à comprendre, résumer ou reformuler ; elle ne doit jamais être la source d'une référence de vulnérabilité.

Quelques règles pratiques :

  1. Ne demandez pas « quelles CVE touchent X ? » à un assistant sans accès aux bases. Interrogez la NVD, le suivi de votre distribution ou un scanner de vulnérabilités, puis demandez éventuellement à l'IA d'expliquer le résultat.
  2. Exigez un lien vers la fiche officielle pour chaque CVE citée, et ouvrez-le.
  3. Vérifiez produit et version : une vraie CVE sur un autre logiciel ou une autre version ne vous concerne pas.
  4. Méfiez-vous des détails trop précis (nom de fonction, numéro de ligne, preuve d'exploitation) qui ne figurent dans aucune source citée.
  5. Ne soumettez jamais un rapport de faille généré par IA à un projet open source ou à un programme de récompenses sans l'avoir reproduit vous-même.
  6. Vérifiez les noms de paquets qu'un assistant vous fait installer : existe-t-il, depuis quand, qui le publie ?

Pour un exemple de ce que donne une vraie analyse, appuyée sur le comportement documenté d'un logiciel, lisez WireGuard compromis : pourquoi les logs ne parlent presque pas.

Questions fréquentes

Qu'est-ce qu'une hallucination d'IA ?

Une hallucination est une réponse d'un modèle d'IA présentée avec assurance mais fausse ou inventée. Elle vient du fait que le modèle génère le texte le plus probable, sans vérifier les faits dans une base de référence.

Comment vérifier qu'une CVE existe ?

Cherchez l'identifiant exact sur cve.org et dans la NVD du NIST. Vérifiez que la fiche est publiée, qu'elle concerne bien votre logiciel et votre version, puis lisez l'avis de l'éditeur, qui fait foi pour les correctifs.

Peut-on utiliser ChatGPT ou Claude pour un audit de sécurité ?

Comme aide à la lecture ou à la rédaction, oui, avec prudence. Comme source de références de failles, non : chaque CVE, version ou recommandation doit être vérifiée dans les sources officielles avant toute action.

Qui attribue les numéros CVE ?

Les identifiants CVE sont attribués par des CNA (CVE Numbering Authorities) : éditeurs, CERT ou organismes de recherche habilités dans le cadre du programme CVE, coordonné par MITRE.


Un rapport d'audit ou une alerte de sécurité vous inquiète ? Contactez-moi : je vérifie ce qui vous concerne réellement. Et si votre site a déjà subi une attaque, voyez la sécurisation d'un site après une attaque.

Sources

À lire aussi

5 réflexes simples pour ne plus se faire avoir en ligne

Un mot de passe par compte, la double authentification, la vérification par un autre canal, la méfiance envers les liens sponsorisés et les sauvegardes : 5 réflexes pour se protéger des arnaques en ligne.

Un problème proche de celui-ci ?

Décrivez-le en quelques lignes. Je vous dis si je peux le régler et à quel prix, avant de commencer.

Réserver une intervention

  1. Prestation
  2. Créneau
  3. Coordonnées
  4. Paiement

Quelle prestation ?