Netskope est à nouveau reconnu comme leader dans le Magic Quadrant de Gartner®™ pour les plates-formes SASE. Obtenir le rapport

fermer
fermer
Le réseau de demain
Le réseau de demain
Planifiez votre chemin vers un réseau plus rapide, plus sûr et plus résilient, conçu pour les applications et les utilisateurs que vous prenez en charge.
          Essayez Netskope
          Mettez la main à la pâte avec la plateforme Netskope
          C'est l'occasion de découvrir la plateforme Netskope One single-cloud de première main. Inscrivez-vous à des laboratoires pratiques à votre rythme, rejoignez-nous pour des démonstrations mensuelles de produits en direct, faites un essai gratuit de Netskope Private Access ou participez à des ateliers dirigés par un instructeur.
            Un leader sur SSE. Désormais leader en matière de SASE à fournisseur unique.
            Netskope est reconnu comme le leader le plus avancé dans sa vision pour les plateformes SSE et SASE.
            2X a Leader in the Gartner® Magic Quadrant for SASE Platforms
            One unified platform built for your journey
              Sécuriser l’IA générative pour les nuls
              Sécuriser l’IA générative pour les nuls
              Découvrez comment votre organisation peut concilier le potentiel d'innovation de l'IA générative avec des pratiques robustes en matière de sécurité des données.
                Prévention des pertes de données (DLP) pour les Nuls eBook
                La prévention moderne des pertes de données (DLP) pour les Nuls
                Obtenez des conseils et des astuces pour passer à un système de prévention des pertes de données (DLP) dans le nuage.
                  Réseau SD-WAN moderne avec SASE pour les nuls
                  SD-WAN moderne pour les nuls en SASE
                  Cessez de rattraper votre retard en matière d'architecture de réseau
                    Identification des risques
                    Advanced Analytics transforme la façon dont les équipes chargées des opérations de sécurité utilisent les données pour mettre en œuvre de meilleures politiques. Avec Advanced Analytics, vous pouvez identifier les tendances, cibler les domaines préoccupants et utiliser les données pour prendre des mesures.
                        Les 6 cas d'utilisation les plus convaincants pour le remplacement complet des VPN obsolètes
                        Les 6 cas d'utilisation les plus convaincants pour le remplacement complet des VPN obsolètes
                        Netskope One Private Access est la seule solution qui vous permet d'abandonner définitivement votre VPN.
                          Colgate-Palmolive protège sa "propriété intellectuelle" "grâce à une protection des données intelligente et adaptable
                          Colgate-Palmolive protège sa "propriété intellectuelle" "grâce à une protection des données intelligente et adaptable
                            Netskope GovCloud
                            Netskope obtient l'autorisation FedRAMP High Authorization
                            Choisissez Netskope GovCloud pour accélérer la transformation de votre agence.
                              Faisons de grandes choses ensemble
                              La stratégie de commercialisation de Netskope privilégie ses partenaires, ce qui leur permet de maximiser leur croissance et leur rentabilité, tout en transformant la sécurité des entreprises.
                                «  »
                                Netskope Cloud Exchange
                                Netskope Cloud Exchange (CE) fournit aux clients de puissants outils d'intégration pour tirer parti des investissements dans leur dispositif de sécurité.
                                  Support technique de Netskope
                                  Support technique de Netskope
                                  Nos ingénieurs d'assistance qualifiés sont répartis dans le monde entier et possèdent des expériences diverses dans les domaines de la sécurité du cloud, des réseaux, de la virtualisation, de la diffusion de contenu et du développement de logiciels, afin de garantir une assistance technique rapide et de qualité
                                    Vidéo Netskope
                                    Formation Netskope
                                    Grâce à Netskope, devenez un expert de la sécurité du cloud. Nous sommes là pour vous aider à achever votre transformation digitale en toute sécurité, pour que vous puissiez profiter pleinement de vos applications cloud, Web et privées.

                                      L'adoption de l'IA générative connaît une forte croissance, avec les applications SaaS d'IA, les plateformes d'IA générative, les infrastructures d'IA sur site et, désormais, les agents IA personnalisés qui deviennent des piliers des entreprises. Les dernières tendances, notamment les infrastructures d'IA sur site, les plateformes d'IA générique et les agents personnalisés, introduisent des risques supplémentaires en matière de données et de sécurité pour l'organisation, tout en restant largement invisibles pour les équipes de sécurité. Ce rapport vous aidera à mettre en lumière l'infrastructure IA fantôme au sein de votre organisation, vous permettant ainsi de commencer à atténuer ces risques.

                                      18 minutes de lecture

                                      Introduction lien lien

                                      Il s'agit de notre quatrième rapport Netskope sur le cloud et les menaces consacré au domaine émergent de l'IA générative. Notre premier rapport en 2023 a mis en évidence la croissance exponentielle de la popularité de ChatGPT au sein des entreprises. Notre deuxième rapport en 2024 a souligné que presque toutes les entreprises utilisaient des applications SaaS genAI et mettaient en œuvre des politiques pour protéger les données sensibles. Notre dernier rapport poursuivait dans cette veine tout en introduisant les concepts d'IA fantôme, d'utilisation indirecte de l'IA générique et d'IA locale. Ce dernier volet examine les nouvelles tendances en matière d'IA fantôme et d'IA agentique au sein des entreprises, où certains utilisateurs se tournent vers des plateformes d'IA générique et des solutions sur site pour développer des applications personnalisées et des agents autonomes, ce qui crée un nouvel ensemble de défis en matière de cybersécurité.

                                      Ce rapport se concentre sur l'IA cachée et l'IA agentive, et explore comment les organisations peuvent mettre en lumière les zones d'ombre tout au long du processus. Nous commencerons par examiner les applications SaaS genAI, où nous constatons encore une quantité considérable d'IA fantôme. Une tendance claire à la centralisation se dessine, les organisations s'orientant vers quelques écosystèmes clés gérés par les entreprises, notamment Gemini et Copilot. Cependant, la majorité des utilisateurs (60%) continuent d'utiliser des applications personnelles non gérées, ce qui représente une part importante de l'IA fantôme qui continue de se propager dans les nouvelles applications à mesure de leur sortie.

                                      Nous poursuivons avec les plateformes genAI, telles qu'Azure OpenAI, Amazon Bedrock et Google Vertex AI, qui gagnent rapidement en popularité grâce à leur simplicité, leur flexibilité, leur personnalisation et leur évolutivité. Ils permettent aux utilisateurs de créer des applications ou des agents personnalisés à l'aide des modèles de leur choix. Et surtout, elles offrent certaines garanties en matière de sécurité et de confidentialité qui les distinguent de nombreuses applications SaaS et solutions sur site. À ce stade, l'adoption des plateformes d'IA générique est menée par des individus qui expérimentent cette technologie relativement nouvelle, ce qui fait des plateformes d'IA générique la catégorie d'IA fantôme qui connaît la croissance la plus rapide.

                                      L'exécution d'une infrastructure IA sur site est également une tendance croissante, les utilisateurs installant des outils tels qu'Ollama pour fournir une interface à une grande variété de modèles ou utilisant des frameworks tels que LangChain pour créer des agents personnalisés, créant ainsi une nouvelle infrastructure IA parallèle sur site. L'IA sur site connaît une croissance plus lente que les plateformes d'IA générique, car ces dernières sont plus accessibles et offrent une meilleure sécurité prête à l'emploi, comme nous le verrons plus loin dans ce rapport.

                                      Nous concluons ce rapport en examinant le domaine des agents IA, qui sont des systèmes utilisant l'IA pour atteindre un objectif spécifique avec une intervention humaine minimale. Il s'agit d'un domaine dans lequel nous commençons à observer une activité significative au sein des entreprises, les utilisateurs explorant divers frameworks d'agents, tant sur site que dans le cloud, et développant encore davantage d'IA fantôme étroitement liée aux données et aux workflows critiques de l'entreprise.

                                       

                                      Points saillants lien lien

                                      • L'IA fantôme représente la majorité de l'utilisation de l'IA dans l'entreprise, stimulée par l'adoption individuelle d'applications SaaS d'IA, de plateformes d'IA, de déploiements d'IA sur site et, désormais, d'agents d'IA personnalisés.
                                      • L'utilisation de l'IA en mode SaaS continue de croître rapidement au sein des entreprises moyennes, avec 50% personnes supplémentaires interagissant avec des applications d'IA et 6,5% de données supplémentaires téléchargées vers des applications d'IA en mode SaaS au cours des trois derniers mois, soit une moyenne de 8,2 Go par entreprise et par mois.
                                      • ChatGPT a connu sa première baisse de popularité auprès des entreprises depuis que nous avons commencé à la suivre en 2023, alors que l'utilisation de l'IA dans le domaine de l'SaaS se consolide autour de solutions spécialement conçues, telles que Gemini et Copilot, qui s'intègrent parfaitement aux flux de travail existants des entreprises.
                                      • Les plateformes d'IA (telles qu'Amazon Bedrock, Azure OpenAI et Google Vertex AI) gagnent rapidement en popularité, permettant aux utilisateurs de créer des applications et des agents personnalisés qui interagissent directement avec les bases de données des entreprises, ce qui pose de nouveaux défis en matière d'IA fantôme auxquels les entreprises doivent faire face.
                                      • Des agents IA sont développés, testés et déployés sur site à l'aide de frameworks d'agents tels que LangChain, créant ainsi un nouveau type d'IA fantôme particulièrement difficile à détecter, car les déploiements sur site sont généralement les plus difficiles à découvrir et à sécuriser.

                                       

                                      Définitions lien lien

                                      • Les frameworks d'agents sont des bibliothèques logicielles et des outils qui simplifient la création d'agents IA autonomes en fournissant des composants pré-construits pour la planification, la mémoire et l'intégration d'outils (par exemple, LangChain, OpenAI Agent Framework).
                                      • L'IA agentique désigne des systèmes dans lesquels un agent peut planifier et exécuter de manière autonome une série d'actions afin d'atteindre un objectif de haut niveau, accomplissant ainsi des tâches complexes sans intervention humaine étape par étape.
                                      • Les plateformes GenAI sont des services cloud gérés qui fournissent les modèles, les outils et l'infrastructure de base nécessaires pour créer, personnaliser, former et déployer des modèles, des applications et des agents d'IA (par exemple, Amazon Bedrock, Azure OpenAI, Google Vertex AI).
                                      • Les interfaces LLM sont des applications frontales qui permettent aux utilisateurs d'interagir avec les LLM et sont généralement utilisées sur site (par exemple, Ollama, LM Studio).
                                        Les applications SaaS genAI sont des applications spécialement conçues et hébergées dans le cloud qui utilisent la genAI comme fonctionnalité principale pour créer du nouveau contenu ou résumer du contenu existant (par exemple, ChatGPT, Gemini, Copilot).

                                       

                                      Poursuite de la croissance des applications SaaS genAI lien lien

                                      L'adoption des applications SaaS genAI continue de croître de manière exponentielle dans les entreprises. Bien que le pourcentage d'entreprises utilisant des applications SaaS genAI ait atteint un plateau, avec 89% d'entreprises utilisant activement au moins une application SaaS genAI, la croissance de l'adoption du SaaS genAI continue de se manifester de multiples façons au sein des entreprises. Tout d'abord, le nombre de personnes utilisant des applications SaaS genAI au sein de chaque organisation a augmenté de plus de 50%, avec une moyenne de 7,6% de personnes dans chaque organisation utilisant des applications SaaS genAI en mai, contre 5% en février (comme le montre le graphique ci-dessous). Le graphique montre également les premier et troisième quartiles, le troisième quartile soulignant que 25% des organisations ont plus d'un quart (25,6%) de leur population d'utilisateurs qui utilisent activement des applications SaaS genAI. % Dans le 90e centile (non illustré), au moins 47 % des utilisateurs de ces organisations utilisent des applications SaaS genAI.

                                      Diagramme illustrant le pourcentage médian d'utilisateurs de GenAI par mois, avec une zone ombrée représentant les 1er et 3e quartiles.

                                      Deuxièmement, le nombre d'applications d'IA générique utilisées continue d'augmenter, atteignant une moyenne de 7 par organisation, contre 5,6 en février. Nous avons observé une croissance similaire dans le troisième quartile, où les organisations utilisent désormais 15,4 applications, contre 13,3 en février. Nous avions prédit cette croissance dans notre rapport de février, car les investissements importants dans les start-ups spécialisées dans l'IA se traduisent par le lancement de nombreuses nouvelles applications SaaS d'IA, créant ainsi encore plus d'utilisations cachées de l'IA qui doivent être identifiées et sécurisées. Aujourd'hui, Netskope suit plus de 1 550 applications SaaS génératives basées sur l'IA, contre seulement 317 en février, ce qui témoigne de la rapidité avec laquelle de nouvelles applications sont lancées et adoptées dans les environnements d'entreprise.

                                      Diagramme illustrant la médiane des applications GenAI par organisation, avec une zone ombrée indiquant les 1er et 3e quartiles.

                                      La troisième manière dont la croissance des applications SaaS genAI se manifeste dans l'entreprise réside dans la quantité de données qui transitent par ces applications. Pour une organisation moyenne, la quantité de données téléchargées chaque mois a augmenté de 6,5%, passant de 7,7 Go à 8,2 Go au cours des trois derniers mois. Au 75e centile, cette augmentation était encore plus significative, passant de 20 Go à 22,8 Go (soit une augmentation de 14% ). Au 90e centile, la tendance se poursuit, avec une augmentation de 15%, passant de 46 Go à 53 Go. Au rythme actuel, nous prévoyons que le 90e centile dépassera les 100 Go au troisième trimestre 2026. Même dans les organisations qui enregistrent déjà un volume important de données téléchargées vers des applications SaaS genAI, la croissance rapide se poursuit sans signe de ralentissement. Comme indiqué dans notre précédent rapport sur l'IA générative, les données que les utilisateurs téléchargent vers les applications genAI comprennent la propriété intellectuelle, les données réglementées, le code source et les secrets, ce qui souligne l'importance d'identifier l'utilisation cachée de genAI dans le SaaS et de mettre en œuvre des contrôles pour empêcher les fuites de données indésirables.

                                      Un autre changement notable qui s'est produit au cours des quatre derniers mois est la diminution du nombre d'organisations utilisant ChatGPT. Depuis son lancement en novembre 2022, le pourcentage d'organisations utilisant ChatGPT n'a jamais diminué. En février, nous avions signalé que près de 80% d'organisations utilisaient ChatGPT, un chiffre qui a légèrement baissé depuis pour atteindre 78%. Cette baisse intervient alors que Gemini et Copilot (Microsoft Copilot, Microsoft 365 Copilot, GitHub Copilot) continuent de gagner du terrain, grâce à leur intégration transparente dans les écosystèmes de produits Google et Microsoft déjà omniprésents dans l'entreprise. ChatGPT est la seule application du top 10 à avoir enregistré une baisse depuis février, comme le montre le graphique ci-dessous. Les autres applications du top 10, notamment Anthropic Claude, Perplexity AI, Grammarly et Gamma, ont toutes enregistré une augmentation de leur adoption par les entreprises.

                                      Diagramme illustrant les applications les plus populaires en pourcentage d'organisations

                                      Un autre changement notable depuis notre dernier rapport est que Grok gagne rapidement en popularité, entrant dans le top 10 pour la première fois en mai. Il est intéressant de noter que Grok figure actuellement à la fois dans le top 10 des applications les plus utilisées (illustré ci-dessus) et dans le top 10 des applications les plus bloquées (illustré ci-dessous). Par rapport au mois de février, moins d'organisations bloquent Grok et l'autorisent désormais pour des cas d'utilisation spécifiques (généralement personnels). Le nombre d'organisations bloquant Grok a atteint un pic en avril et tend à diminuer alors que le nombre d'utilisateurs de Grok continue d'augmenter. Cela intervient alors que les organisations optent pour des contrôles plus granulaires, utilisant la prévention des pertes de données (DLP) et l'accompagnement des utilisateurs en temps réel afin d'empêcher tout envoi de données sensibles vers Grok. Cela dit, les blocages restent plus nombreux que les autorisations, avec 25% d'organisations bloquant toutes les tentatives d'utilisation de Grok en mai, tandis que seulement 8,5% d'organisations constatent une utilisation de Grok. Il ne s'agit pas d'une tendance inhabituelle, car les organisations ont tendance à bloquer les nouvelles applications dans un premier temps, le temps de procéder à des contrôles de sécurité et de mettre en place des mesures visant à restreindre leur utilisation. D'autre part, certaines applications SaaS de génération d'IA, telles que DeepSeek, restent fortement bloquées et ne sont donc pas utilisées de manière significative par les entreprises.

                                      Diagramme des applications d'IA les plus bloquées, en pourcentage d'organisations ayant mis en place une interdiction générale de l'application.

                                      L'IA fantôme est un terme relativement nouveau qui désigne l'utilisation de solutions d'IA à l'insu ou sans l'accord des services informatiques et de cybersécurité centralisés. Au début, près de 100% d'utilisation du SaaS genAI étaient des IA fantômes. Au fil du temps, les organisations ont commencé à examiner et à approuver des solutions d'entreprise spécifiques (généralement ChatGPT, Gemini ou Copilot), et les utilisateurs ont migré vers ces solutions approuvées. Les politiques de coaching en temps réel qui rappellent aux utilisateurs employant une solution non approuvée de passer à une solution approuvée ont joué un rôle déterminant dans cette transition. Ces contrôles restent efficaces, puisque seulement 60% des entreprises utilisaient des applications SaaS genAI personnelles en mai, soit une baisse de 12 points de pourcentage depuis février. Nous prévoyons que cette tendance se poursuivra au cours des prochains mois, avec un taux qui devrait passer sous la barre des 40% d'ici la fin de l'année. Parallèlement, de nouveaux défis liés à l'IA fantôme (plateformes genAI, genAI sur site et agents IA) ont fait leur apparition. Nous les examinerons plus en détail dans les sections suivantes.

                                      Diagramme illustrant la répartition de l'utilisation de GenAI entre les comptes personnels et les comptes d'organisation.

                                      Pour les lecteurs souhaitant découvrir l'étendue de l'utilisation de l'IA fantôme dans le SaaS au sein de leurs environnements, Netskope suit plus de 1 550 applications SaaS génératives distinctes basées sur l'IA. Les clients Netskope peuvent identifier l'IA fantôme en recherchant toute activité d'application classée comme « IA générative » et en se concentrant sur les applications non approuvées et les connexions personnelles. Bien que le blocage des applications non approuvées puisse constituer une stratégie efficace, les politiques d'accompagnement des utilisateurs constituent un moyen plus nuancé de les orienter vers des solutions gérées et approuvées par l'entreprise plutôt que vers des solutions non approuvées. Ces politiques sont souvent associées à des politiques de prévention des pertes de données (DLP) afin de limiter les risques de fuite de données sensibles vers des applications d'SaaS s non approuvées, comme détaillé dans notre précédent rapport sur le cloud et les menaces.

                                       

                                      Adoption croissante des plateformes d'IA générique lien lien

                                      Alors que les applications SaaS genAI ont gagné en popularité grâce à leur facilité d'utilisation, les plateformes genAI sont désormais de plus en plus appréciées pour leur flexibilité et leurs avantages en matière de confidentialité. Leur flexibilité réside dans le fait que vous pouvez rapidement et facilement déployer les modèles de votre choix à l'aide d'une interface unique. Leur avantage en matière de confidentialité réside dans le fait que vous hébergez vous-même les modèles et ne partagez aucune de vos données avec des tiers. Par ailleurs, le modèle de responsabilité partagée d'une plateforme genAI transfère davantage de responsabilités en matière de sécurité à l'utilisateur par rapport à une solution SaaS.

                                      L'utilisation des plateformes d'IA générative connaît une croissance fulgurante. Au cours des trois derniers mois, nous avons constaté une augmentation de 50% du nombre d'utilisateurs et de 73% du trafic réseau sur ces plateformes. En mai, 41% d'organisations utilisaient au moins une plateforme d'IA générique, tandis que 14% en utilisaient au moins deux et 2,7% en utilisaient au moins trois. L'une des raisons qui expliquent la prolifération de multiples solutions réside dans le fait que l'adoption des plateformes d'IA générique constitue un autre problème lié à l'IA fantôme : les individus choisissent les cadres qui leur sont les plus familiers ou qui semblent les mieux adaptés à leurs cas d'utilisation spécifiques. L'utilisation d'une plateforme genAI est également presque aussi accessible que celle d'une application SaaS genAI, car les principaux fournisseurs de services cloud proposent tous leurs propres offres. La plateforme d'IA générique la plus populaire est Microsoft Azure OpenAI, utilisée par 29% d'organisations. Amazon Bedrock suit de près avec 22%, tandis que Google Vertex AI occupe la troisième place avec 7,2%. Ces trois plateformes gagnent en popularité à mesure que les utilisateurs se familiarisent avec elles et découvrent les possibilités qu'elles offrent.

                                      Diagramme illustrant l'adoption du cadre IA dans le cloud en pourcentage d'organisations

                                      La croissance rapide de l'IA fantôme impose aux organisations de déterminer qui crée des infrastructures d'IA générique dans le cloud à l'aide de plateformes d'IA générique, où elles les développent et si elles respectent les meilleures pratiques en matière de sécurité de l'IA. L'une des fonctionnalités les plus puissantes de ces plateformes d'IA générique réside dans leur capacité à connecter directement les bases de données d'entreprise aux applications d'IA, ce qui nécessite des contrôles et une surveillance supplémentaires afin de garantir que ces applications ne compromettent pas la sécurité des données de l'entreprise. Les clients Netskope peuvent obtenir des informations sur les utilisateurs de ces outils et leur utilisation en examinant leurs journaux à la recherche de l'un des noms de ces plateformes d'IA générique. Savoir qui les utilise et comment ils sont utilisés constitue la première étape pour garantir leur utilisation sécurisée.

                                       

                                      Adoption croissante de l'IA générique sur site lien lien

                                      Une autre pratique qui gagne en popularité est l'utilisation de l'IA générique sur site. L'utilisation de l'IA générique sur site prend plusieurs formes, allant de l'utilisation de ressources GPU sur site pour former ou héberger des modèles au développement d'outils sur site qui interagissent avec des applications SaaS d'IA générique ou des plateformes d'IA générique. L'utilisation locale de genAI constitue un excellent moyen pour les organisations de tirer parti de leurs investissements existants en ressources GPU ou de créer des outils qui interagissent avec les systèmes et les ensembles de données sur site. Cependant, le déploiement sur site implique également que l'organisation est seule responsable de la sécurité de son infrastructure genAI. De plus, il est désormais essentiel de comprendre et d'appliquer des cadres tels que le Top 10 de l'OWASP pour les applications utilisant des modèles linguistiques de grande envergure ou Mitre Atlas.

                                      L'une des façons les plus courantes d'utiliser l'IA générique localement consiste à déployer une interface LLM. À l'instar des plateformes genAI, les interfaces LLM permettent d'interagir avec divers modèles à partir d'une seule interface. Les interfaces LLM ne sont pas aussi répandues que les plateformes genAI, avec seulement 34% d'organisations utilisant des interfaces LLM, contre 41% utilisant des plateformes genAI. Ollama est de loin le framework le plus populaire et constitue également un excellent exemple de l'une des principales différences en matière de sécurité entre le travail sur site et sur une plateforme genAI : Ollama n'inclut aucune authentification intégrée. Par conséquent, si vous utilisez Ollama, il est impératif de le déployer derrière un proxy inverse ou une solution d'accès privé dotée de mécanismes d'authentification appropriés afin de vous prémunir contre toute utilisation non autorisée. En outre, alors que les plateformes genAI fournissent généralement un dispositif de protection contre l'utilisation abusive des modèles eux-mêmes, celles qui utilisent des frameworks tels qu'Ollama doivent prendre des mesures supplémentaires pour prévenir les abus et les utilisations inappropriées. Par rapport à Ollama, d'autres interfaces LLM, notamment LM Studio et Ramalama, disposent d'une base d'utilisateurs professionnels beaucoup plus restreinte.

                                      Diagramme illustrant les principales interfaces LLM en pourcentage d'organisations

                                      En raison des préoccupations accrues en matière de sécurité liées à l'utilisation des interfaces d'IA, les organisations doivent s'efforcer de manière proactive d'identifier les utilisateurs de ces interfaces et les endroits où elles sont utilisées. Les clients Netskope peuvent identifier l'utilisation des interfaces LLM courantes grâce à leurs chaînes User-Agent dans les journaux de transactions. Par exemple, les chaînes User-Agent des trois interfaces principales commencent par ollama, LM Studio et llama-cpp.

                                      Une autre façon de découvrir qui expérimente les outils d'IA consiste à surveiller l'accès aux marchés de l'IA, tels que Hugging Face. Hugging Face est une communauté très populaire pour le partage d'outils d'IA, de modèles d'IA et d'ensembles de données. Les utilisateurs téléchargent des ressources depuis Hugging Face dans 67% d'organisations. Bien que la population d'utilisateurs concernés soit faible (seulement 0,3% en moyenne), il est essentiel d'identifier ces utilisateurs pour mettre au jour l'IA cachée, car ils peuvent déployer une infrastructure d'IA sur site ou dans le cloud. De plus, Hugging Face étant une plateforme communautaire conçue pour faciliter le partage, les organisations doivent être conscientes des risques liés à la chaîne d'approvisionnement associés aux ressources téléchargées à partir de cette plateforme. Outre les risques évidents liés aux codes malveillants intégrés dans les outils, certains formats de fichiers à haut risque (tels que Python Pickles, qui sont vulnérables à des attaques dangereuses par exécution de code arbitraire) sont couramment partagés sur Hugging Face. Les clients Netskope peuvent identifier les utilisateurs de Hugging Face en recherchant l'application « Hugging Face » dans leurs journaux. Il est important de vérifier que les ressources téléchargées depuis Hugging Face sont bien couvertes par vos politiques de protection contre les menaces.

                                       

                                      Agents IA lien lien

                                      Alors que l'utilisation des applications genAI d'SaaS s se consolide autour d'applications spécialement conçues et bien intégrées aux flux de travail existants des entreprises (par exemple, Gemini et Copilot), une autre tendance émerge, qui englobe les applications d'IA d'SaaS, les plateformes genAI et l'utilisation de l'IA sur site : les agents IA. Un agent IA est un système chargé d'un objectif spécifique et doté d'une autonomie limitée pour atteindre cet objectif sans nécessiter l'intervention de l'utilisateur. Grâce principalement aux progrès réalisés dans les modèles de base, nous commençons à observer une masse critique d'utilisateurs issus de plusieurs organisations qui développent des agents IA et utilisent les fonctionnalités agenturielles des solutions SaaS. Par exemple, GitHub Copilot (utilisé dans 39% d'organisations) propose un mode agent, dans lequel vous pouvez fournir une tâche de codage, et il modifie votre code de manière itérative et le teste jusqu'à ce qu'il estime avoir atteint l'objectif (ou atteint un autre critère d'arrêt). Il existe deux caractéristiques notables d'un agent IA :

                                      1. Il a accès à certaines données appartenant à l'organisation.
                                      2. Il est capable d'exécuter certaines actions de manière autonome.

                                      Dans le cas de GitHub Copilot, il a accès à votre code source et peut exécuter les commandes nécessaires pour compiler et exécuter ce code au sein de votre infrastructure. Ces deux caractéristiques des agents IA soulignent l'importance de garantir que leur utilisation est sécurisée de manière adéquate afin de protéger les données sensibles et les infrastructures.

                                      Une option pour créer des agents IA consiste à utiliser l'un des nombreux frameworks d'agents disponibles. % Au total, 5,5 % des organisations ont des utilisateurs qui exécutent des agents créés à l'aide de frameworks d'agents IA populaires sur site. Parmi ces frameworks, LangChain est de loin le plus populaire (il existe depuis octobre 2022), tandis que l'OpenAI Agent Framework gagne rapidement en popularité (il vient d'être lancé en mars 2025). Bien qu'il existe de nombreux autres cadres, aucun d'entre eux n'a encore été adopté de manière significative par les entreprises. Pydantic-ai, en troisième position, est utilisé dans 3 organisations sur 1 000. Les agents IA sur site présentent un risque important en matière d'IA fantôme, car ils sont très accessibles (faciles à créer et à exécuter), ont souvent accès à des données sensibles et peuvent exécuter du code de manière autonome. Les organisations doivent s'efforcer de manière proactive d'identifier les utilisateurs qui créent et utilisent des agents IA sur site.

                                      Diagramme illustrant les principaux cadres d'agents en pourcentage d'organisations

                                      Lorsque l'agent s'exécute sur site, les modèles d'IA qui le sous-tendent peuvent fonctionner n'importe où, y compris dans des environnements SaaS, sur des plateformes genAI ou sur site. Lorsque les agents sur site accèdent aux services SaaS, ils utilisent généralement des points de terminaison API différents de ceux du navigateur. Par exemple, les conversations avec ChatGPT d'OpenAI dans le navigateur seront redirigées vers chatgpt.com, tandis que les interactions programmatiques avec les modèles d'OpenAI seront redirigées vers api.openai.com. Le graphique ci-dessous présente les principaux domaines d'API d'applications SaaS IA, classés en fonction du pourcentage d'organisations qui les utilisent. L'interprétation des données est la suivante : 66% des organisations ont des utilisateurs qui effectuent des appels API vers api.openai.com, indiquant une interaction non liée au navigateur avec les services OpenAI. Cette interaction peut provenir d'outils tiers, d'outils personnalisés ou d'agents IA. OpenAI dispose d'une avance significative sur les autres services SaaS à cet égard, et compte tenu de la croissance rapide de la popularité du cadre OpenAI Agent Framework, nous prévoyons que cette tendance s'intensifiera dans les mois à venir.

                                      Diagramme présentant les 10 principaux domaines d'API SaaS IA en pourcentage d'organisations

                                      Les clients Netskope peuvent identifier les utilisateurs des frameworks d'agent courants en recherchant les chaînes User-Agent pertinentes dans leurs journaux. Par exemple, les trois principaux frameworks ont des chaînes User-Agent commençant par langchain, Agents/Python et pydantic-ai. Ils peuvent trouver des interactions non liées au navigateur avec des applications SaaS IA en recherchant les domaines pertinents dans leurs journaux de transactions. Les chaînes User-Agent et les noms de processus fourniront des indices sur la nature de l'interaction. De manière plus générale, les clients Netskope doivent rechercher toute interaction GenAI provenant de l'extérieur du navigateur Web.

                                      Une autre option pour créer des agents IA consiste à utiliser l'une des plateformes genAI. Pour cette discussion, nous nous concentrerons spécifiquement sur Amazon Bedrock, car il fournit des points de terminaison de service distincts pour la gestion des modèles, la gestion des agents, la formulation de demandes d'inférence aux modèles et l'invocation d'agents. Plus haut dans ce rapport, nous avons indiqué que 22% d'organisations utilisent Amazon Bedrock. En décomposant davantage ce chiffre, nous constatons que les 22 entreprises d'% l'utilisent pour gérer des modèles et effectuer des inférences sur ces modèles, tandis que 14 entreprises d'% l'utilisent pour développer, déployer ou invoquer des agents. % Nous avons également indiqué plus haut dans cette section que 5,5 % des organisations utilisent des agents IA sur site, ce qui signifie que 2,5 fois plus d'organisations utilisent Amazon Bedrock pour leurs agents IA que des agents sur site.

                                      Pourquoi les frameworks tels que Bedrock sont-ils plus populaires pour l'IA agentielle que les frameworks sur site ?

                                      • Ils simplifient le développement, en particulier pour ceux qui ont déjà investi dans l'écosystème AWS.
                                      • Ils réduisent les frais généraux opérationnels en tant que service géré.
                                      • Ils bénéficient de l'évolutivité intégrée d'une plateforme IaaS mature.

                                      En d'autres termes, un environnement stable et géré, avec une sécurité et une assistance intégrées, est plus attrayant pour les organisations que de devoir gérer tous ces aspects de manière indépendante. Compte tenu des tendances actuelles, nous prévoyons que cette fracture va se creuser et qu'un nombre encore plus important d'entreprises privilégieront les plateformes d'IA générique plutôt que les solutions sur site dans les mois à venir. Les solutions sur site resteront pertinentes pour certaines organisations, en particulier celles qui ont des cas d'utilisation spécifiques à volume élevé, prévisibles, continus et à long terme, pour lesquels une solution sur site peut s'avérer plus rentable. Et, bien entendu, tout membre de l'organisation peut commencer à développer et à utiliser des agents sur site pendant la phase de développement ou à des fins personnelles, ce qui souligne la nécessité pour les organisations de surveiller en permanence l'IA fantôme.

                                      Les utilisateurs Netskope qui souhaitent identifier les personnes utilisant Amazon Bedrock pour déployer ou invoquer des agents doivent rechercher dans leurs journaux de transactions les domaines de compilation Bedrock (bedrock-agent.*.amazonaws.com) et les domaines d'exécution Bedrock (bedrock-agent-runtime.*.amazonaws.com).

                                      Le point de vue du RSSI lien lien

                                      Afin de gérer efficacement les risques liés à la sécurité des données posés par l'utilisation croissante des technologies d'IA générative, les RSSI et les responsables de la sécurité doivent mettre en œuvre les recommandations pratiques suivantes :

                                      1. Évaluez votre environnement genAI :
                                        • Identifiez l'utilisation : déterminez quelles applications SaaS genAI, plateformes genAI et outils genAI hébergés localement sont utilisés au sein de votre organisation.
                                        • Identification des utilisateurs : identifiez précisément qui utilise ces outils et comment ils sont exploités au sein des différents services et workflows.
                                      2. Renforcement des contrôles de l'application genAI :
                                        • Applications approuvées : établissez et appliquez une politique qui autorise uniquement l'utilisation d'applications d'IA générique approuvées par l'entreprise.
                                        • Bloquer les applications non approuvées : mettre en place des mécanismes de blocage robustes pour empêcher l'utilisation d'applications d'IA générique non approuvées.
                                        • DLP (Prévention des pertes de données) pour les données sensibles : utilisez des stratégies de prévention des pertes de données (DLP) pour empêcher le partage de données sensibles avec des applications genAI non autorisées.
                                        • Accompagnement des utilisateurs en temps réel : déployez un accompagnement des utilisateurs en temps réel afin de les guider vers des solutions approuvées et de les former aux pratiques sécurisées en matière de génération d'IA. Vérifiez régulièrement ces contrôles par rapport aux meilleures pratiques du secteur.
                                      3. Inventaire de l'infrastructure locale de génération automatique d'IA :
                                      4. Surveillance et sensibilisation continues :
                                        • Surveillez l'utilisation de l'IA générative : mettez en place une surveillance continue de l'utilisation de l'IA générative au sein de votre organisation afin de détecter les nouvelles instances d'IA fantôme, que ce soit via des applications SaaS, des plateformes d'IA générative ou des déploiements sur site.
                                        • Restez informé : restez au courant des dernières évolutions en matière d'éthique de l'IA, des changements réglementaires et des attaques adversaires afin d'ajuster votre posture de sécurité de manière proactive.
                                      5. Comprendre et proposer des mesures relatives au risque lié à l'IA fantôme agentielle :
                                        • Employé non vérifié : L'IA ombre agentique est comparable à une personne qui se rend dans votre bureau tous les jours, traite des données, effectue des actions sur les systèmes, sans faire l'objet d'une vérification des antécédents ni d'une surveillance de sécurité.
                                        • Définir des lignes directrices : établir des lignes directrices pour l'organisation et ses membres. Utilisez les détections décrites dans ce rapport pour identifier les personnes qui sont à la pointe de l'adoption de l'IA agentielle et collaborez avec elles pour élaborer une politique, une norme ou une ligne directrice réaliste et applicable.

                                      En prenant ces mesures proactives, les organisations peuvent gérer efficacement les défis en constante évolution posés par les technologies d'IA générique et garantir leur adoption sûre et responsable.

                                       

                                      Netskope Threat Labs lien lien

                                      Composé des meilleurs chercheurs du secteur en matière de menaces et de logiciels malveillants, Netskope Threat Labs découvre, analyse et conçoit des défenses contre les dernières menaces qui pèsent sur les entreprises. Nos chercheurs présentent régulièrement des exposés et participent bénévolement aux principales conférences sur la sécurité, notamment DefCon, BlackHat et RSA.

                                       

                                      À propos de ce rapport lien lien

                                      Netskope fournit une protection contre les menaces à des millions d'utilisateurs dans le monde entier. Les informations présentées dans ce rapport sont basées sur des données d'utilisation anonymes collectées par la plateforme Netskope One concernant un sous-ensemble de clients de Netskope ayant reçu une autorisation préalable.

                                      Ce rapport contient des informations sur les détections signalées par Netskope One Next Generation Secure Web Gateway (NG-SWG), sans tenir compte de l'importance de l'impact de chaque menace individuelle. Les statistiques présentées dans ce rapport se réfèrent à la période comprise entre le 1er février 2025 et le 31 mai 2025. Les statistiques reflètent les tactiques des attaquants, le comportement des utilisateurs et la politique de l'organisation.