L’autonomie croissante des agents d’intelligence artificielle crée un risque de cybersécurité majeur, le « tiercé létal », alerte un expert de Meritis.

L’ère des intelligences artificielles simplement génératrices de texte est révolue. Les nouveaux agents IA, de plus en plus autonomes, peuvent désormais consulter des documents, accéder aux bases de données internes d’une entreprise, interagir avec des applications métiers, envoyer des messages et exécuter des actions concrètes. Si cette évolution ouvre des perspectives de productivité inédites, elle élargit aussi de manière spectaculaire la surface d’attaque des systèmes d’information, exposant les organisations à des menaces d’un nouveau genre.

Le « tiercé létal » : une combinaison explosive

Le principal danger émerge lorsqu’un seul et même agent IA cumule trois capacités spécifiques, une combinaison qualifiée de « tiercé létal » par les experts en cybersécurité. Ce cocktail à haut risque se compose de : l’accès à des données sensibles ou confidentielles, le traitement de contenus externes non fiables (e-mails, pièces jointes, pages web) et la capacité à communiquer ou à agir vers l’extérieur du système.

Réunies, ces trois fonctions créent une faille critique. Une simple instruction malveillante, habilement dissimulée dans un document PDF ou un courriel anodin, peut suffire à corrompre l’agent. Ce dernier pourrait alors être détourné de sa mission initiale pour exfiltrer des informations stratégiques, modifier des fichiers importants ou exécuter des transactions non autorisées, le tout en parfaite autonomie.

« L’intégration de l’IA générative dans les applications, qu’elle prenne la forme de modèles de langage ou d’agents autonomes, augmente la surface d’attaque du système d’information. Le risque devient particulièrement important lorsqu’un même agent peut accéder à des données sensibles, traiter des contenus non fiables et communiquer avec l’extérieur », explique Gaëtan Eleouet, Directeur de l’ingénierie logicielle chez Meritis.

Casser la chaîne du risque dès la conception

Face à cette menace, la seule réponse viable est préventive. Pour Gaëtan Eleouet, il est impératif de « casser ce tiercé dès la conception » en érigeant des barrières logicielles et organisationnelles strictes entre les différentes capacités de l’agent.

« Un agent ayant accès à des informations confidentielles ne doit pas pouvoir être détourné par une entrée corrompue et incité à les transmettre. Cela suppose une gouvernance rigoureuse des droits, des données et des outils, mais également un véritable travail d’ingénierie logicielle », poursuit-il.

Cette approche de « security by design » repose sur plusieurs piliers. Il s’agit notamment d’appliquer le principe du moindre privilège, en ne donnant à l’agent que les accès strictement nécessaires à sa mission. La séparation des fonctions est également cruciale : un agent qui analyse des documents externes ne devrait pas être le même que celui qui peut initier un virement bancaire. D’autres mesures, comme l’obligation d’une validation humaine pour les opérations les plus sensibles, un contrôle strict des flux de données sortants et une traçabilité complète des actions de l’IA, sont indispensables pour maîtriser le risque.

Une nouvelle ère pour la gouvernance et l’ingénierie

L’intégration sécurisée de ces technologies ne se résume donc pas à l’installation d’un antivirus ou d’un pare-feu. Elle impose une refonte de la gouvernance des données et des accès, ainsi qu’une montée en compétence des équipes de développement. L’ingénierie logicielle joue un rôle central pour construire des systèmes où l’autonomie des agents IA est encadrée et contrôlée, sans pour autant brider leur potentiel d’innovation.

Fort de son expérience en architecture des systèmes d’information, Gaëtan Eleouet, qui intervient régulièrement sur la sécurisation des modèles d’IA, insiste sur cette double exigence : intégrer l’IA pour rester compétitif, mais le faire de manière réfléchie pour ne pas accorder une autonomie excessive et incontrôlée qui pourrait se retourner contre l’entreprise.

via Presse Agence (rédigé à partir d’un communiqué de presse transmis à la rédaction).