Vérifier un contenu produit par l’IA : méthode et niveaux de contrôle

Note d'expertise

Asmaa EL FORKANI 4 min de lecture

Un texte produit par un assistant d’IA peut être fluide, structuré et faux. Ainsi, la vérification d’un contenu produit par l’IA n’est pas une précaution de principe : elle conditionne l’usage de ce contenu. Son intensité dépend de cet usage. Sa méthode repose, quant à elle, sur quelques contrôles répétables, du fait daté à la référence juridique.

ASKonsult – Strategy & Operations

Constat : les risques propres au contenu produit par l’IA

Les modèles de langage produisent le texte le plus probable au regard de la consigne et des documents fournis. En revanche, ils ne vérifient pas ce qu’ils affirment. Le référentiel de sécurité de l’OWASP pour les applications fondées sur ces modèles range la désinformation parmi les dix principaux risques. Il en décrit quatre manifestations. Il s’agit d’abord des inexactitudes factuelles et des affirmations non étayées. S’y ajoute une expertise apparente que le modèle ne possède pas. Enfin, le contenu produit par l’IA peut comporter des propositions de code non sûres ou faisant appel à des bibliothèques inexistantes.

La confiance excessive de l’utilisateur aggrave ce risque : il reprend un contenu sans le contrôler parce qu’il paraît maîtrisé. Dans un contenu produit par l’IA, les références juridiques, les chiffres et les citations constituent les éléments les plus exposés. En effet, le modèle peut inventer un numéro de loi, une date ou un article avec la même assurance qu’un fait exact.

Analyse : proportionner le contrôle à l’usage

Trois niveaux suffisent à couvrir la plupart des situations :

  • N1 – Relecture : usage interne sans engagement (brouillon, reformulation, plan). Lecture critique de la cohérence et du ton.
  • N2 – Contrôle des faits : contenu servant de base à un travail ou à une décision. Vérification des faits, chiffres, dates, noms et références auprès de sources identifiées.
  • N3 – Validation par une personne compétente : diffusion externe, engagement de l’organisation, décision concernant une personne. Examen par une personne qualifiée, habilitée à modifier le contenu.

Le niveau se détermine avant l’usage, non après. Ainsi, un contenu produit par l’IA pour un usage interne change de niveau dès lors qu’il fait finalement l’objet d’une diffusion.

Analyse : cinq contrôles du contenu produit par l’IA

  • Faits et chiffres : remonter à la source primaire (texte officiel, rapport de l’institution émettrice, base statistique) et relever sa date. Une source secondaire ne suffit pas pour un chiffre repris tel quel.
  • Références juridiques : vérifier l’existence du texte, son numéro, sa date et sa publication au Bulletin officiel ou au Journal officiel. Vérifier également l’article cité et sa rédaction en vigueur à la date d’utilisation.
  • Citations : retrouver le passage exact dans le document d’origine. À défaut, retirer la citation introuvable.
  • Raisonnement : refaire les calculs, contrôler que la conclusion découle des prémisses et que le texte énonce les hypothèses.
  • Omissions : identifier ce qui manque (exception, condition, délai, point de vue contraire). En effet, une réponse peut être exacte dans ce qu’elle dit et trompeuse par ce qu’elle tait.

S’y ajoute, avant toute diffusion, un contrôle de confidentialité. Ainsi, le contenu ne doit reprendre aucune donnée personnelle ni information interne qui aurait figuré dans les documents fournis à l’outil.

Analyse : signaler l’origine du contenu produit par l’IA

La transparence sur l’usage de l’IA devient une exigence. Ainsi, le règlement européen sur l’IA vise les déployeurs qui publient un texte généré ou manipulé par l’IA. Lorsque cette publication a pour objet d’informer le public sur des questions d’intérêt public, il leur impose de l’indiquer. Cette obligation cède toutefois lorsque le texte a fait l’objet d’un contrôle humain ou éditorial et qu’une personne en assume la responsabilité éditoriale (article 50, paragraphe 4). Par ailleurs, dans le contexte des opérations électorales, la CNDP a demandé de signaler tout contenu produit par l’IA. De même, la politique d’usage d’Anthropic applicable à partir du 12 novembre 2026 exigera l’examen par une personne qualifiée pour les recommandations relevant de domaines à haut risque. Elle impose aussi, dans ces mêmes domaines, l’information des personnes concernées.

Implications : documenter la vérification du contenu produit par l’IA

La vérification se documente : sources consultées, date, personne ayant vérifié, niveau retenu. Cette trace protège l’organisation. En effet, celle-ci demeure responsable du contenu qu’elle diffuse, quel que soit l’outil qui l’a produit. Par ailleurs, les consignes données à l’outil peuvent faciliter le contrôle (demander les sources, signaler les incertitudes). Elles ne le remplacent toutefois jamais.

Points de vigilance

  • Fixer le niveau de vérification avant l’usage du contenu.
  • Vérifier toute référence juridique dans le texte officiel, dans sa rédaction en vigueur.
  • Retirer toute citation ou référence introuvable.
  • Refaire les calculs et contrôler les dates.
  • Contrôler l’absence de données personnelles ou d’informations internes avant diffusion.
  • Conserver la trace des sources consultées et de la personne ayant vérifié.

Références

Voir aussi : Guide – Bonnes et mauvaises pratiques de l’IA générative au travail ; Bibliothèque – Modèles de prompts par fonction ; Modèles – Charte d’usage de l’intelligence artificielle (entreprise, association, organisme public). Département Systèmes d’Information & Transformation Numérique.

Document d'information générale ; il ne constitue ni une consultation juridique ni un avis sur une situation particulière. Les références aux textes sont à vérifier dans leur rédaction en vigueur à la date d'utilisation.

Cabinet de conseil non inscrit au barreau ; aucune représentation devant les juridictions ni acte réservé aux professions réglementées du droit.