Retour
Quel que soit votre métier, si vous travaillez dans la tech ou la sécurité, vous n’avez sans doute pas échappé aux débats sur l’IA agentique, qu’il s’agisse de son potentiel pour dynamiser vos effectifs ou de sa propension à multiplier vos risques de sécurité.
Avec plusieurs années d’expérience derrière moi, je souhaitais partager quelques conseils sur la manière d’appréhender et de protéger la toute dernière innovation technologique… cependant, saison des fêtes oblige, il serait dommage de ne pas se prêter au jeu d’une analogie de Noël.
C’est pourquoi je vous propose ces quelques conseils de saison sur la sécurisation et l’intégration de l’IA agentique au sein de vos équipes.
Préparez votre liste et vérifiez-la par deux fois
Pour bien débuter, il est essentiel de prêter l’oreille aux attentes de l’entreprise en matière d’outils et d’usages.
Tout comme chacun d’entre nous dresse sa liste pour Noël, il est impératif d’identifier les applications et les solutions que vos collaborateurs ont envie d’adopter. Comme c’est souvent le cas avec les nouvelles technologies en vogue, les utilisateurs trouvent le moyen d’utiliser les solutions de leur choix, que l’équipe sécurité en soit informée ou non. Cette année, il y a fort à parier que l’IA agentique soit tout en haut de ces listes de cadeaux.
Comme l’a prouvé l’avènement de l’IA générative il y a peu, bloquer ces technologies sans discernement est une approche totalement vaine. Au lieu de cela, il vaut mieux chercher comment autoriser leur usage de façon sécurisée et appropriée. Gardez toutefois à l’esprit que si l’espoir est le moteur des enfants le soir de Noël, il ne saurait constituer une stratégie viable en matière de cybersécurité. En tant que responsable de la sécurité, vous devez avoir un plan pour activer et sécuriser ces outils et applications. Et cela commence par la visibilité.
Savoir qui est sur la liste des enfants sages ou celle des garnements
S’il y a bien une chose que nous savons sur cet homme à la barbe blanche, c’est qu’il garde toujours un œil sur tout. À l’image du Père Noël qui garde un œil constant sur les listes des enfants sages et dissipés, vous devez bénéficier d’une visibilité équivalente pour accompagner l’adoption de chaque nouvel outil dans votre structure.
Ce point est d’autant plus essentiel pour l’IA agentique qu’elle gagne très vite en autonomie après son déploiement ; sans un paramétrage rigoureux, elle peut rapidement devenir une source de vulnérabilité ou d’usage malveillant.
Il est primordial de garder une visibilité claire sur les applications ayant accès à vos données et sur la manière dont elles les exploitent. Une fois ce constat établi, vous devez définir des politiques adaptées pour garantir le contrôle des accès et la protection de vos données confidentielles ou sensibles.
Imaginez que je déploie un ensemble d’agents dans une organisation et que l’un d’entre eux soit incité à effectuer une opération inappropriée. S’assurer une bonne visibilité n’est que la première étape ; nous devons ensuite nous aventurer en terre inconnue pour évaluer précisément l’ampleur de l’impact réel.
Pour cela, il vous faut les bonnes recrues en première ligne… ce qui nous conduit à mon conseil suivant :
Laissez les rennes tirer le traîneau
En ma qualité de RSSI, je prône une approche axée sur les développeurs pour identifier les meilleures méthodes de sécurisation et d’activation des outils d’IA.
Quand on s’attaque à une technologie aussi novatrice et changeante, on ne peut pas prétendre tout savoir par soi-même. C’est pourquoi vous devez pouvoir vous appuyer sur une équipe de confiance pour faire avancer les choses, tout comme le Père Noël compte sur ses fidèles rennes pour tirer son traîneau.
Je compte sur mes développeurs pour m’aider à soulever les problématiques complexes et à trouver les solutions adaptées. Comme par exemple : « Que se passerait-il si un agent malveillant venait à agir de manière autonome et néfaste ? » Il est impératif de savoir comment réagir : comment mener l’investigation ? Faut-il aller sur le serveur pour analyser la mémoire ? Est-ce que les caractéristiques habituelles de l’analyse forensique et de la réponse aux incidents s’appliquent, ou devons-nous réinventer tout le processus ? Doit-on s’appuyer sur des outils totalement inédits ?
Ce ne sont pas des questions simples. Mais hé, être un renne volant n’est pas une tâche facile non plus ! Cependant, engager l’équipe dans cette réflexion dès aujourd’hui — avant que l’IA agentique ne devienne ingérable dans l’entreprise — leur donne les clés pour anticiper et aborder sereinement ces problématiques le jour où ils y seront confrontés.
Constituez une équipe d'elfes travailleurs
Dans le même esprit, nous savons que la jovialité du Père Noël doit beaucoup à sa fidèle équipe de lutins, qui s’activent en coulisses pour que tout se déroule sans accroc.
En plus de s’appuyer sur les développeurs, je recommande à chaque équipe de sécurité de développer son propre programme d’ambassadeurs de l’IA. Ce sont des éléments moteurs au sein de chaque direction qui s’attachent à diffuser, au plus près du terrain, les informations et les décisions prises par l’équipe de sécurité et le comité de gouvernance de l’IA. À l’instar des lutins, ces ambassadeurs peuvent alléger la charge de travail globale en effectuant une première revue des projets avant que le comité de gouvernance de l’IA et l’équipe de sécurité ne soient sollicités.
Une équipe solide d’ambassadeurs de l’IA vous permettra d’obtenir une visibilité interne accrue, tout en facilitant l’appropriation, par chaque département, des règles d’usage fondamentales liées aux nouveaux outils d’intelligence artificielle.
Je vous souhaite des journées radieuses, pleines de joie et placées sous le signe de la sécurité
La saison des fêtes peut s’avérer éprouvante, tout particulièrement si vous devez assurer l’intégration et la sécurité des nouveaux outils sollicités par vos services internes. Cependant, en identifiant clairement vos outils, en plaçant la visibilité au cœur de votre stratégie dès le départ et en adoptant une approche guidée par les développeurs, vous mettez toutes les chances de votre côté pour bien commencer l’année.
N’oubliez surtout pas de prévoir du lait et des biscuits (ou des pizzas et des boissons énergisantes) pour récompenser les équipes qui se démènent pour concrétiser ces plans.
Lire le blog