Applications d’IA dans l’entreprise

Découvrez pourquoi Netskope a été classé parmi les leaders de l'édition 2024 du Gartner® Magic Quadrant™️ pour le Secure Access Service Edge à fournisseur unique.

Recevoir le rapport

Découvrez comment des clients innovants naviguent avec succès dans le paysage évolutif de la mise en réseau et de la sécurité d’aujourd’hui grâce à la plateforme Netskope One.

Obtenir l'EBook

Pleins feux sur les clients visionnaires

En savoir plus sur les partenaires de Netskope

Groupe de jeunes professionnels diversifiés souriant

Plate-forme Netskope One
Netskope One est une plate-forme convergente de sécurité et de réseau en tant que service.
Caractéristiques de la plate-forme Netskope One
Netskope One permet une plus grande agilité de l’entreprise à la vitesse de l’éclair et une résilience fiable.
NewEdge
NewEdge est le nuage privé de sécurité le plus important et le plus performant au monde.
Partenaires technologiques et intégrations
Netskope s'associe aux sociétés les plus performantes en matière de technologies destinées aux entreprises.

Planifiez votre chemin vers un réseau plus rapide, plus sûr et plus résilient, conçu pour les applications et les utilisateurs que vous prenez en charge.

Obtenir le livre blanc

Netskope One est une plate-forme cloud native qui offre des services de sécurité et de mise en réseau convergents pour faciliter votre transformation SASE et Zero Trust.

En savoir plus sur Netskope One

Netskope NewEdge est le nuage privé de sécurité le plus grand et le plus performant au monde. Il offre aux clients une couverture de service, des performances et une résilience inégalées.

Découvrez NewEdge

Le Netskope Cloud Exchange (CE) fournit aux clients des outils d'intégration puissants pour optimiser les investissements dans l'ensemble de leur infrastructure de sécurité.

En savoir plus sur Cloud Exchange

Intelligent Security Service Edge (SSE), Cloud Access Security Broker (CASB), Cloud Firewall, Next Generation Secure Web Gateway (SWG), et Private Access for ZTNA intégrés nativement dans une solution unique pour aider chaque entreprise dans son cheminement vers l'architecture Secure Access Service Edge (SASE).

Présentation des produits

Netskope Next Gen SASE Branch fait converger Context-Aware SASE Fabric, Zero-Trust Hybrid Security et SkopeAI-Powered Cloud Orchestrator dans une offre cloud unifiée, ouvrant la voie à une expérience de succursale entièrement modernisée pour l'entreprise sans frontières.

En savoir plus Next Gen SASE Branch

Obtenez votre exemplaire gratuit du seul guide consacré à la conception d'une architecture SASE dont vous aurez jamais besoin.

Obtenir l'EBook

Découvrez NewEdge

Autoroute éclairée traversant des lacets à flanc de montagne

Découvrez comment nous sécurisons l'utilisation de l'IA générative

Autorisez ChatGPT et l’IA générative en toute sécurité

En savoir plus sur la confiance zéro

Choisissez Netskope GovCloud pour accélérer la transformation de votre agence.

En savoir plus sur Netskope GovCloud

Ressources
Découvrez comment Netskope peut vous aider à sécuriser votre migration vers le Cloud.
Blog
Découvrez comment Netskope permet la transformation de la sécurité et de la mise en réseau grâce à l'accès sécurisé à la périphérie des services (SASE).
Événements et ateliers
Restez à l'affût des dernières tendances en matière de sécurité et créez des liens avec vos pairs.
Définition de la sécurité
Tout ce que vous devez savoir dans notre encyclopédie de la cybersécurité.

L'avenir de la sécurité : Quantum, IA et changements macropolitiques
Emily Wearmouth et Max Havey s'entretiennent avec Sanjay Beri, PDG de Netskope, et Krishna Narayanaswamy, directeur technique, sur l'avenir de la sécurité.

Écouter le podcast Parcourir tous les podcasts

Découvrez comment Netskope peut faciliter le parcours Zero Trust et SASE grâce à des capacités d'accès sécurisé à la périphérie des services (SASE).

Lire le blog

Apprenez à naviguer dans les dernières avancées en matière de SASE et de confiance zéro et découvrez comment ces cadres s'adaptent pour répondre aux défis de la cybersécurité et de l'infrastructure.

Explorer les sessions

Découvrez la future convergence des outils réseau et sécurité dans le modèle économique actuel, dominé par le cloud.

En savoir plus sur SASE

Netskope est fière de participer à Vision 2045 : une initiative visant à sensibiliser au rôle de l'industrie privée dans le développement durable.

Soutenir le développement durable grâce à la sécurité des données

At Netskope, founders and leaders work shoulder-to-shoulder with their colleagues, even the most renowned experts check their egos at the door, and the best ideas win.

Rejoignez l’équipe

En savoir plus sur les services professionnels

En savoir plus sur les formations et les certifications

Groupe de jeunes professionnels travaillant

Netskope Threat LabsJuillet 2023

Points clés du rapport Résumé Les applications d’IA gagnent en popularité Risques liés à l’IA - Données sensibles Attaquants opportunistes Contrôles d’entreprise Recommandations À propos de ce rapport Netskope Threat Labs

9 min read

Points clés du rapport

L’utilisation des applications d’IA dans l’entreprise augmente de manière exponentielle, en hausse de 22,5 % au cours des deux derniers mois.
ChatGPT est l’application d’IA la plus populaire dans l’entreprise et Google Bard est l’application d’IA à la croissance la plus rapide de l’entreprise, toutes deux de loin.
Le code source est publié sur ChatGPT plus que tout autre type de données sensibles, à un taux de 158 incidents pour 10 000 utilisateurs d’entreprise par mois.
Les attaquants créent des escroqueries aux applications d’IA et des sites de phishing pour tenter de tirer parti du battage médiatique autour de ChatGPT.
La DLP (Prévention des pertes de données) et le coaching utilisateur sont les types de contrôles les plus populaires utilisés par les entreprises pour permettre l’utilisation d’applications d’IA tout en empêchant l’exposition de données sensibles.

test answer

Résumé

La conversation autour de l’IA se concentre souvent sur des questions existentielles, telles que les opportunités potentielles et les menaces que l’IA peut apporter à l’humanité. Pourtant, les organisations du monde entier et leurs dirigeants sont confrontés à une préoccupation plus immédiate : comment peuvent-elles utiliser les applications d’IA en toute sécurité ?

Les organisations s’efforcent de tirer parti des applications d’IA pour améliorer les opérations, améliorer l’expérience client et faciliter la prise de décision basée sur les données. La clé est de le faire tout en assurant la sûreté et la sécurité. Cependant, le principal obstacle à la sécurité réside dans la façon dont certains utilisateurs peuvent utiliser ces applications.

Prenez ChatGPT, par exemple, qui peut être utilisé pour examiner le code source à la recherche de failles de sécurité ou aider à modifier le contenu écrit. ChatGPT a été utilisé pour modifier ce résumé. Inévitablement, certaines personnes téléchargeront du code source propriétaire ou du texte contenant des données réglementées ou de la propriété intellectuelle. Le défi consiste à dissuader un tel comportement sans entraver la productivité de l’organisation dans son ensemble. Un blocage pur et simple des applications d’IA pourrait résoudre ce problème, mais le ferait au détriment des avantages potentiels qu’offrent les applications d’IA.

Alors que nous continuons d’être entourés par le battage médiatique centré sur les possibilités de l’IA, il est évident que ChatGPT et d’autres applications d’IA sont en passe de devenir des piliers de l’entreprise. Parmi les clients de Netskope, leur popularité augmente de façon exponentielle et devrait doubler au cours des sept prochains mois s’ils continuent de croître au rythme actuel. Ce rapport se penche sur l’importance croissante des applications d’IA dans les entreprises, décrit les risques associés, y compris les fuites de données et l’activité potentielle des attaquants, et propose des stratégies pour intégrer en toute sécurité ChatGPT et d’autres outils d’IA dans le cadre de l’entreprise.

sdofjsfojefgejelosij

Les applications d’IA gagnent en popularité

Le nombre d’utilisateurs accédant aux applications d’IA dans l’entreprise augmente de manière exponentielle. Au cours des deux derniers mois, le pourcentage d’utilisateurs d’entreprise accédant à au moins une application d’IA chaque jour a augmenté de 2,4 % par semaine, pour une augmentation totale de 22,5 % au cours de cette période. Au rythme de croissance actuel, le nombre d’utilisateurs accédant aux applications d’IA doublera au cours des sept prochains mois. Au cours de la même période, le nombre d’applications d’IA utilisées dans l’entreprise est resté stable, les organisations de plus de 1 000 utilisateurs utilisant en moyenne 3 applications d’IA différentes par jour et les organisations de plus de 10 000 utilisateurs utilisant en moyenne 5 applications d’IA par jour. À la fin du mois de juin, 1 utilisateur d’entreprise sur 100 interagissait chaque jour avec une application d’IA.

Popularité des applications d’IA en fonction du nombre d’utilisateurs d’entreprise

L’application d’IA d’entreprise la plus populaire est de loin ChatGPT, avec plus de 8 fois plus d’utilisateurs actifs quotidiens que toute autre application d’IA. ChatGPT a été au centre d’un grand battage médiatique au cours des six derniers mois et est également très polyvalent, ce qui contribue probablement à sa popularité. La deuxième application la plus populaire est Grammarly, qui se concentre exclusivement sur l’aide à la rédaction. Bard, le chatbot de Google, se situe juste en dessous de Grammarly. Toutes les autres applications d’IA combinées (dont nous suivons plus de 60, y compris Jasper, Chatbase et Copy.ai) sont moins populaires que Google Bard.

Applications d’IA les plus populaires en pourcentage du total des utilisateurs quotidiens d’IA

Au cours des deux derniers mois, l’application d’IA qui a connu la croissance la plus rapide dans l’entreprise a été Google Bard. Bien qu’il soit encore loin derrière ChatGPT en termes de popularité, Google Bard ajoute actuellement des utilisateurs à un taux de 7,1 % par semaine, contre 1,6 % pour ChatGPT. Au rythme actuel, Google Bard est sur le point de rattraper ChatGPT dans un peu plus d’un an. Cependant, comme l’espace des applications d’IA est très dynamique, nous nous attendons à voir beaucoup plus de changements au cours de cette période, ce qui perturbera les taux de croissance actuels.

Netskope Threat Labs suit la popularité des applications d’IA dans les environnements d’entreprise, plutôt que la popularité globale des applications auprès des consommateurs. Par exemple, alors que la popularité de ChatGPT a grimpé en flèche parmi les consommateurs avant de se refroidir en juin, son adoption dans l’entreprise a été plus mesurée et continue de croître de manière exponentielle. Le reste de ce rapport met en évidence certaines des raisons de l’augmentation mesurée, notamment les risques de fuite de données et les contrôles liés à leur utilisation.

Applications d’IA à la croissance la plus rapide en termes de nombre d’utilisateurs quotidiens actifs ajoutés chaque semaine

Risques liés à l’IA - Données sensibles

Ce segment se concentre sur ChatGPT, la principale application d’IA de l’entreprise, et de loin. Un utilisateur moyen de ChatGPT interagit avec l’application en publiant 6 invites par jour. Le niveau d’activité varie selon l’utilisateur, les 10 % les plus performants publiant 22 invites et les 1 % les plus performants 68 invites par jour. Pour 10 000 utilisateurs, une organisation peut s’attendre à recevoir environ 660 invites quotidiennes sur ChatGPT. Mais la vraie question réside dans le contenu de ces invites : s’agit-il de requêtes inoffensives ou révèlent-elles par inadvertance des données sensibles ?

Une étude de Netskope a révélé que le code source était le type de données sensibles le plus fréquemment exposé, avec 22 utilisateurs d’entreprise sur 10 000 publiant du code source sur ChatGPT par mois. Au total, ces 22 utilisateurs sont responsables d’une moyenne de 158 messages contenant le code source par mois. Cette tendance n’est pas tout à fait inattendue, compte tenu de la capacité de ChatGPT à examiner et à expliquer le code et à identifier les bogues et les vulnérabilités de sécurité. Bien que ces services soient bénéfiques, le partage de code source confidentiel avec ChatGPT présente des risques, notamment des violations potentielles de données, la divulgation accidentelle de données et des risques juridiques et réglementaires.

Nombre d’utilisateurs publiant des données sensibles pour 10 000 000 utilisateurs d’entreprise par mois

Par rapport au code source, les messages contenant d’autres formes de données sensibles sont relativement moins courants. Pour 10 000 utilisateurs d’entreprise, il y a généralement 18 incidents de partage de données réglementées (englobant des données financières, des informations de santé et des informations personnellement identifiables) sur une base mensuelle. La propriété intellectuelle (hors code source) est encore plus rare, avec une moyenne de 4 incidents par mois pour 10 000 utilisateurs. Il est intéressant de noter que les mots de passe et les clés figurent également parmi les types de données sensibles partagées, généralement intégrées dans le code source. Malgré sa relative rareté (environ 4 incidents pour 10 000 utilisateurs par mois), cette pratique sert de rappel crucial aux ingénieurs logiciels sur les risques de codage en dur des secrets dans le code source.

Incidents d’utilisateurs publiant des données sensibles pour 10 000 000 utilisateurs d’entreprise par mois

Attaquants opportunistes

Avec tout le battage médiatique autour de ChatGPT et des applications d’IA en général, il n’est pas surprenant que les escrocs, les cybercriminels et d’autres attaquants tentent d’exploiter le battage médiatique à des fins illicites. C’est une pratique courante avec les attaquants. Par exemple, le rapport Netskope Threat Labs Cloud and Threat Report du printemps 2023 a mis en évidence les attaquants qui tentaient de tirer parti de la guerre russo-ukrainienne, du tremblement de terre en Turquie et en Syrie et de l’effondrement de la Silicon Valley Bank. Le battage médiatique et la popularité de ChatGPT attirent l’attention des attaquants et des escrocs en raison du grand nombre de cibles et du potentiel de profit, combinés aux compétences variées des utilisateurs sur la plateforme.

Tout au long du premier semestre 2023, Netskope Threat Labs a suivi plusieurs campagnes de phishing, des campagnes de distribution de logiciels malveillants et des sites Web de spam et de fraude cherchant à tirer parti de l’engouement pour ChatGPT. Netskope Threat Labs suit même plusieurs proxys ChatGPT, des sites qui semblent offrir l’avantage d’un accès gratuit et non authentifié au chatbot, mais au prix de la révélation de toutes vos invites et réponses à l’opérateur du proxy.

Un proxy ChatGPT où l’opérateur proxy voit toutes les invites et réponses

Au total, Netskope Threat Labs suit actuellement plus de 1 000 URL et domaines malveillants cherchant à tirer parti de l’engouement pour ChatGPT et l’IA. Ce chiffre à lui seul rappelle l’importance d’utiliser une approche à plusieurs niveaux pour protéger les utilisateurs contre les attaquants qui tentent de tirer parti du battage médiatique et de la popularité entourant tout événement ou tendance important. Une telle approche doit inclure le filtrage de domaine, le filtrage d’URL et l’inspection du contenu pour se protéger contre les attaques connues et inconnues.

Contrôles d’entreprise

Alors que l’une des pratiques courantes lorsque ChatGPT a commencé à gagner en popularité était de bloquer complètement le chatbot, les organisations ont depuis accepté le fait que ChatGPT et d’autres applications d’IA peuvent offrir des avantages à l’organisation, notamment l’amélioration des opérations, l’amélioration de l’expérience client et la facilitation de la prise de décision basée sur les données. Au lieu de bloquer ChatGPT, les organisations sont passées à un modèle plus permissif qui comprend généralement une combinaison de DLP (Prévention des pertes de données) et de coaching utilisateur. La DLP (Prévention des pertes de données) peut être utilisée pour identifier les données potentiellement sensibles publiées sur les applications d’IA, y compris ChatGPT, et le coaching utilisateur peut laisser à l’utilisateur le soin de décider de donner ou non suite à une invite.

Organisations mettant en place des contrôles autour de ChatGPT

Les contrôles spécifiques autour de ChatGPT varient selon le secteur vertical. Dans l’ensemble, les entreprises de services financiers, de santé et de technologie ont mené la charge dans la mise en œuvre de contrôles autour de ChatGPT. Cependant, l’approche adoptée par chaque industrie varie considérablement. Dans les secteurs des services financiers et de la santé, deux secteurs hautement réglementés, près d’une organisation sur 5 a mis en place une interdiction générale. Aucun utilisateur n’est autorisé à utiliser ChatGPT. Dans le secteur de la technologie, seulement 1 entreprise sur 20 a mis en place une interdiction générale. Au lieu de cela, 1 entreprise sur 4 utilise les contrôles DLP (Prévention des pertes de données) pour détecter des types spécifiques d’informations sensibles (en particulier le code source) publiées sur ChatGPT. De plus, 1 entreprise technologique sur 5 met en œuvre un coaching utilisateur en temps réel pour rappeler aux utilisateurs la politique de l’entreprise et les risques associés à ChatGPT et à d’autres applications d’IA. En fin de compte, de plus en plus d’organisations sont susceptibles d’adopter des contrôles DLP (Prévention des pertes de données) et un coaching utilisateur en temps réel au fil du temps pour permettre l’utilisation d’applications d’IA comme ChatGPT tout en se protégeant contre l’exposition de données indésirables.

Type de contrôles ChatGPT par secteur d’activité

Rapport sur le cloud et les menaces : Les applications d'IA dans l'entreprise