« IA agentique » proposée aux TPME : ce que recouvrent les offres

Note d'expertise

Asmaa EL FORKANI 4 min de lecture

Les offres d’« agents IA » destinées aux petites entreprises se multiplient. En pratique, la plupart reposent sur un modèle de langage encadré par des consignes et relié à quelques outils, selon un enchaînement prédéfini. Or, la distinction entre un flux automatisé et un agent qui décide lui-même de ses actions n’est pas un débat de vocabulaire. Elle détermine en effet les risques, le niveau de contrôle et le prix justifié.

ASKonsult – Strategy & Operations

Constat : sous le nom d’agents, des réalités différentes

Le terme « agent » recouvre des réalités différentes. Il peut s’agir d’un assistant conversationnel doté d’instructions ou d’un enchaînement automatisé de tâches (lire un courriel, en extraire des informations, rédiger une réponse). Il peut aussi s’agir d’un système capable de choisir lui-même les étapes et les outils pour atteindre un objectif. Or, les offres commerciales emploient souvent le même mot pour les trois.

Le règlement européen sur l’IA définit le système d’IA comme un système automatisé conçu pour fonctionner à différents niveaux d’autonomie, qui peut faire preuve d’une capacité d’adaptation après son déploiement et qui, pour des objectifs explicites ou implicites, déduit des entrées qu’il reçoit la manière de générer des sorties, telles que des prédictions, du contenu, des recommandations ou des décisions, pouvant influencer les environnements physiques ou virtuels (article 3, point 1). L’autonomie y est ainsi une question de degré, non une catégorie à part.

Analyse : flux prédéfinis et agents

Un éditeur de modèles distingue, dans une publication technique de décembre 2024, les flux de travail et les agents. Dans les premiers, des chemins de code prédéfinis orchestrent les modèles et les outils. Dans les agents, en revanche, le modèle dirige lui-même son processus et l’usage des outils. Cet éditeur recommande de retenir la solution la plus simple qui réponde au besoin. Il préconise également de n’ajouter de l’autonomie que lorsque des solutions plus simples ne suffisent pas.

Pour une TPME, la plupart des besoins exprimés (tri du courrier, préparation de devis, réponses aux questions fréquentes, publication sur les réseaux sociaux) relèvent du flux prédéfini. Ce n’est pas une faiblesse. En effet, un flux prédéfini est plus prévisible, plus facile à vérifier et moins coûteux qu’un agent autonome.

Analyse : les risques propres à l’autonomie des agents

Le référentiel de sécurité de l’OWASP porte sur les applications fondées sur des modèles de langage. Il désigne sous le nom d’« agentivité excessive » la vulnérabilité qui permet des actions dommageables à partir de sorties imprévues, ambiguës ou manipulées. Ce référentiel en identifie trois causes : des fonctions excessives, des permissions excessives et une autonomie excessive. Cette dernière tient à l’absence de validation pour les actions à fort impact.

Ainsi, un agent qui lit des courriels ou des documents peut recevoir, dans ces contenus, des consignes dissimulées destinées à le détourner. S’il dispose du droit d’envoyer des messages, de modifier des fichiers ou de passer des commandes, le dommage change alors de nature. Il ne s’agit plus d’une réponse erronée, mais d’une action exécutée au nom de l’entreprise.

Implications : lire une offre

Cinq questions permettent de qualifier une offre avant tout engagement :

  • Quelles actions le système peut-il exécuter sans validation humaine, et sur quels systèmes ?
  • Le déroulé est-il prédéfini ou le modèle choisit-il lui-même ses étapes ?
  • Quelles données sont transmises, à quel éditeur de modèle, et où sont-elles traitées ?
  • Quelles traces sont conservées des actions et de leurs motifs ?
  • Comment le système est-il arrêté, corrigé ou mis à jour lorsque les consignes ou le modèle changent ?

Par conséquent, une offre qui ne permet pas de répondre à ces questions vend une promesse plutôt qu’un service. En définitive, le prix se justifie par le travail d’encadrement (consignes, périmètre, contrôles, traces), non par le mot « agent ».

Points de vigilance

  • Exiger la liste des actions exécutables sans validation humaine.
  • Limiter les permissions du système aux seules fonctions nécessaires.
  • Soumettre à validation humaine toute action à effet externe : envoi, paiement, publication, suppression.
  • Vérifier le lieu de traitement des données transmises au modèle.
  • Conserver une trace des actions exécutées et des consignes appliquées.

Références

Voir aussi : Guide – Configurer un assistant d’IA ; Checklist – Sécurité des usages de l’IA ; Grille – Évaluer un fournisseur d’IA. Département Systèmes d’Information & Transformation Numérique.

Document d'information générale ; il ne constitue ni une consultation juridique ni un avis sur une situation particulière. Les références aux textes sont à vérifier dans leur rédaction en vigueur à la date d'utilisation.

Cabinet de conseil non inscrit au barreau ; aucune représentation devant les juridictions ni acte réservé aux professions réglementées du droit.