Rapport sur le cloud et les menaces : Les applications d'IA dans l'entreprise

Ce rapport examine comment les organisations équilibrent les avantages des outils d’IA tout en gérant les risques associés, en mettant en évidence une stratégie de plus en plus populaire qui implique la DLP (Prévention des pertes de données) et le coaching utilisateur interactif.

Netskope Threat LabsJuillet 2023

Points clés du rapport Résumé Les applications d’IA gagnent en popularité Risques liés à l’IA - Données sensibles Attaquants opportunistes Contrôles d’entreprise Recommandations À propos de ce rapport Netskope Threat Labs

9 min read

Points clés du rapport

L’utilisation des applications d’IA dans l’entreprise augmente de manière exponentielle, en hausse de 22,5 % au cours des deux derniers mois.
ChatGPT est l’application d’IA la plus populaire dans l’entreprise et Google Bard est l’application d’IA à la croissance la plus rapide de l’entreprise, toutes deux de loin.
Le code source est publié sur ChatGPT plus que tout autre type de données sensibles, à un taux de 158 incidents pour 10 000 utilisateurs d’entreprise par mois.
Les attaquants créent des escroqueries aux applications d’IA et des sites de phishing pour tenter de tirer parti du battage médiatique autour de ChatGPT.
La DLP (Prévention des pertes de données) et le coaching utilisateur sont les types de contrôles les plus populaires utilisés par les entreprises pour permettre l’utilisation d’applications d’IA tout en empêchant l’exposition de données sensibles.

test answer

Résumé

La conversation autour de l’IA se concentre souvent sur des questions existentielles, telles que les opportunités potentielles et les menaces que l’IA peut apporter à l’humanité. Pourtant, les organisations du monde entier et leurs dirigeants sont confrontés à une préoccupation plus immédiate : comment peuvent-elles utiliser les applications d’IA en toute sécurité ?

Les organisations s’efforcent de tirer parti des applications d’IA pour améliorer les opérations, améliorer l’expérience client et faciliter la prise de décision basée sur les données. La clé est de le faire tout en assurant la sûreté et la sécurité. Cependant, le principal obstacle à la sécurité réside dans la façon dont certains utilisateurs peuvent utiliser ces applications.

Prenez ChatGPT, par exemple, qui peut être utilisé pour examiner le code source à la recherche de failles de sécurité ou aider à modifier le contenu écrit. ChatGPT a été utilisé pour modifier ce résumé. Inévitablement, certaines personnes téléchargeront du code source propriétaire ou du texte contenant des données réglementées ou de la propriété intellectuelle. Le défi consiste à dissuader un tel comportement sans entraver la productivité de l’organisation dans son ensemble. Un blocage pur et simple des applications d’IA pourrait résoudre ce problème, mais le ferait au détriment des avantages potentiels qu’offrent les applications d’IA.

Alors que nous continuons d’être entourés par le battage médiatique centré sur les possibilités de l’IA, il est évident que ChatGPT et d’autres applications d’IA sont en passe de devenir des piliers de l’entreprise. Parmi les clients de Netskope, leur popularité augmente de façon exponentielle et devrait doubler au cours des sept prochains mois s’ils continuent de croître au rythme actuel. Ce rapport se penche sur l’importance croissante des applications d’IA dans les entreprises, décrit les risques associés, y compris les fuites de données et l’activité potentielle des attaquants, et propose des stratégies pour intégrer en toute sécurité ChatGPT et d’autres outils d’IA dans le cadre de l’entreprise.

sdofjsfojefgejelosij

Les applications d’IA gagnent en popularité

Le nombre d’utilisateurs accédant aux applications d’IA dans l’entreprise augmente de manière exponentielle. Au cours des deux derniers mois, le pourcentage d’utilisateurs d’entreprise accédant à au moins une application d’IA chaque jour a augmenté de 2,4 % par semaine, pour une augmentation totale de 22,5 % au cours de cette période. Au rythme de croissance actuel, le nombre d’utilisateurs accédant aux applications d’IA doublera au cours des sept prochains mois. Au cours de la même période, le nombre d’applications d’IA utilisées dans l’entreprise est resté stable, les organisations de plus de 1 000 utilisateurs utilisant en moyenne 3 applications d’IA différentes par jour et les organisations de plus de 10 000 utilisateurs utilisant en moyenne 5 applications d’IA par jour. À la fin du mois de juin, 1 utilisateur d’entreprise sur 100 interagissait chaque jour avec une application d’IA.

Popularité des applications d’IA en fonction du nombre d’utilisateurs d’entreprise

L’application d’IA d’entreprise la plus populaire est de loin ChatGPT, avec plus de 8 fois plus d’utilisateurs actifs quotidiens que toute autre application d’IA. ChatGPT a été au centre d’un grand battage médiatique au cours des six derniers mois et est également très polyvalent, ce qui contribue probablement à sa popularité. La deuxième application la plus populaire est Grammarly, qui se concentre exclusivement sur l’aide à la rédaction. Bard, le chatbot de Google, se situe juste en dessous de Grammarly. Toutes les autres applications d’IA combinées (dont nous suivons plus de 60, y compris Jasper, Chatbase et Copy.ai) sont moins populaires que Google Bard.

Applications d’IA les plus populaires en pourcentage du total des utilisateurs quotidiens d’IA

Au cours des deux derniers mois, l’application d’IA qui a connu la croissance la plus rapide dans l’entreprise a été Google Bard. Bien qu’il soit encore loin derrière ChatGPT en termes de popularité, Google Bard ajoute actuellement des utilisateurs à un taux de 7,1 % par semaine, contre 1,6 % pour ChatGPT. Au rythme actuel, Google Bard est sur le point de rattraper ChatGPT dans un peu plus d’un an. Cependant, comme l’espace des applications d’IA est très dynamique, nous nous attendons à voir beaucoup plus de changements au cours de cette période, ce qui perturbera les taux de croissance actuels.

Netskope Threat Labs suit la popularité des applications d’IA dans les environnements d’entreprise, plutôt que la popularité globale des applications auprès des consommateurs. Par exemple, alors que la popularité de ChatGPT a grimpé en flèche parmi les consommateurs avant de se refroidir en juin, son adoption dans l’entreprise a été plus mesurée et continue de croître de manière exponentielle. Le reste de ce rapport met en évidence certaines des raisons de l’augmentation mesurée, notamment les risques de fuite de données et les contrôles liés à leur utilisation.

Applications d’IA à la croissance la plus rapide en termes de nombre d’utilisateurs quotidiens actifs ajoutés chaque semaine

Risques liés à l’IA - Données sensibles

Ce segment se concentre sur ChatGPT, la principale application d’IA de l’entreprise, et de loin. Un utilisateur moyen de ChatGPT interagit avec l’application en publiant 6 invites par jour. Le niveau d’activité varie selon l’utilisateur, les 10 % les plus performants publiant 22 invites et les 1 % les plus performants 68 invites par jour. Pour 10 000 utilisateurs, une organisation peut s’attendre à recevoir environ 660 invites quotidiennes sur ChatGPT. Mais la vraie question réside dans le contenu de ces invites : s’agit-il de requêtes inoffensives ou révèlent-elles par inadvertance des données sensibles ?

Une étude de Netskope a révélé que le code source était le type de données sensibles le plus fréquemment exposé, avec 22 utilisateurs d’entreprise sur 10 000 publiant du code source sur ChatGPT par mois. Au total, ces 22 utilisateurs sont responsables d’une moyenne de 158 messages contenant le code source par mois. Cette tendance n’est pas tout à fait inattendue, compte tenu de la capacité de ChatGPT à examiner et à expliquer le code et à identifier les bogues et les vulnérabilités de sécurité. Bien que ces services soient bénéfiques, le partage de code source confidentiel avec ChatGPT présente des risques, notamment des violations potentielles de données, la divulgation accidentelle de données et des risques juridiques et réglementaires.

Nombre d’utilisateurs publiant des données sensibles pour 10 000 000 utilisateurs d’entreprise par mois

Par rapport au code source, les messages contenant d’autres formes de données sensibles sont relativement moins courants. Pour 10 000 utilisateurs d’entreprise, il y a généralement 18 incidents de partage de données réglementées (englobant des données financières, des informations de santé et des informations personnellement identifiables) sur une base mensuelle. La propriété intellectuelle (hors code source) est encore plus rare, avec une moyenne de 4 incidents par mois pour 10 000 utilisateurs. Il est intéressant de noter que les mots de passe et les clés figurent également parmi les types de données sensibles partagées, généralement intégrées dans le code source. Malgré sa relative rareté (environ 4 incidents pour 10 000 utilisateurs par mois), cette pratique sert de rappel crucial aux ingénieurs logiciels sur les risques de codage en dur des secrets dans le code source.

Incidents d’utilisateurs publiant des données sensibles pour 10 000 000 utilisateurs d’entreprise par mois

Attaquants opportunistes

Avec tout le battage médiatique autour de ChatGPT et des applications d’IA en général, il n’est pas surprenant que les escrocs, les cybercriminels et d’autres attaquants tentent d’exploiter le battage médiatique à des fins illicites. C’est une pratique courante avec les attaquants. Par exemple, le rapport Netskope Threat Labs Cloud and Threat Report du printemps 2023 a mis en évidence les attaquants qui tentaient de tirer parti de la guerre russo-ukrainienne, du tremblement de terre en Turquie et en Syrie et de l’effondrement de la Silicon Valley Bank. Le battage médiatique et la popularité de ChatGPT attirent l’attention des attaquants et des escrocs en raison du grand nombre de cibles et du potentiel de profit, combinés aux compétences variées des utilisateurs sur la plateforme.

Tout au long du premier semestre 2023, Netskope Threat Labs a suivi plusieurs campagnes de phishing, des campagnes de distribution de logiciels malveillants et des sites Web de spam et de fraude cherchant à tirer parti de l’engouement pour ChatGPT. Netskope Threat Labs suit même plusieurs proxys ChatGPT, des sites qui semblent offrir l’avantage d’un accès gratuit et non authentifié au chatbot, mais au prix de la révélation de toutes vos invites et réponses à l’opérateur du proxy.

Un proxy ChatGPT où l’opérateur proxy voit toutes les invites et réponses

Au total, Netskope Threat Labs suit actuellement plus de 1 000 URL et domaines malveillants cherchant à tirer parti de l’engouement pour ChatGPT et l’IA. Ce chiffre à lui seul rappelle l’importance d’utiliser une approche à plusieurs niveaux pour protéger les utilisateurs contre les attaquants qui tentent de tirer parti du battage médiatique et de la popularité entourant tout événement ou tendance important. Une telle approche doit inclure le filtrage de domaine, le filtrage d’URL et l’inspection du contenu pour se protéger contre les attaques connues et inconnues.

Contrôles d’entreprise

Alors que l’une des pratiques courantes lorsque ChatGPT a commencé à gagner en popularité était de bloquer complètement le chatbot, les organisations ont depuis accepté le fait que ChatGPT et d’autres applications d’IA peuvent offrir des avantages à l’organisation, notamment l’amélioration des opérations, l’amélioration de l’expérience client et la facilitation de la prise de décision basée sur les données. Au lieu de bloquer ChatGPT, les organisations sont passées à un modèle plus permissif qui comprend généralement une combinaison de DLP (Prévention des pertes de données) et de coaching utilisateur. La DLP (Prévention des pertes de données) peut être utilisée pour identifier les données potentiellement sensibles publiées sur les applications d’IA, y compris ChatGPT, et le coaching utilisateur peut laisser à l’utilisateur le soin de décider de donner ou non suite à une invite.

Organisations mettant en place des contrôles autour de ChatGPT

Les contrôles spécifiques autour de ChatGPT varient selon le secteur vertical. Dans l’ensemble, les entreprises de services financiers, de santé et de technologie ont mené la charge dans la mise en œuvre de contrôles autour de ChatGPT. Cependant, l’approche adoptée par chaque industrie varie considérablement. Dans les secteurs des services financiers et de la santé, deux secteurs hautement réglementés, près d’une organisation sur 5 a mis en place une interdiction générale. Aucun utilisateur n’est autorisé à utiliser ChatGPT. Dans le secteur de la technologie, seulement 1 entreprise sur 20 a mis en place une interdiction générale. Au lieu de cela, 1 entreprise sur 4 utilise les contrôles DLP (Prévention des pertes de données) pour détecter des types spécifiques d’informations sensibles (en particulier le code source) publiées sur ChatGPT. De plus, 1 entreprise technologique sur 5 met en œuvre un coaching utilisateur en temps réel pour rappeler aux utilisateurs la politique de l’entreprise et les risques associés à ChatGPT et à d’autres applications d’IA. En fin de compte, de plus en plus d’organisations sont susceptibles d’adopter des contrôles DLP (Prévention des pertes de données) et un coaching utilisateur en temps réel au fil du temps pour permettre l’utilisation d’applications d’IA comme ChatGPT tout en se protégeant contre l’exposition de données indésirables.

Type de contrôles ChatGPT par secteur d’activité

Recommandations

Permettre l’adoption en toute sécurité des applications d’IA dans l’entreprise est un défi à multiples facettes. Il s’agit d’identifier les applications autorisées et de mettre en œuvre des contrôles qui permettent aux utilisateurs de les utiliser à leur plein potentiel tout en protégeant l’organisation contre les risques. Cette section comprend des recommandations techniques générales pour les organisations qui souhaitent activer en toute sécurité les applications d’IA. Pour plus d’informations sur la façon dont Netskope peut vous aider, veuillez consulter la présentation de la solution ChatGPT et Generative AI Data Protection.

→ Examinez régulièrement l’activité, les tendances, les comportements et la sensibilité des applications d’IA afin d’identifier les risques pour l’organisation.

→ Bloquez l’accès aux applications qui ne servent pas à des fins commerciales légitimes ou qui présentent un risque disproportionné. Un bon point de départ est une politique visant à autoriser les applications réputées actuellement utilisées tout en bloquant toutes les autres.

→ Utilisez des politiques DLP (Prévention des pertes de données) pour détecter les publications contenant des informations potentiellement sensibles, notamment le code source, les données réglementées, les mots de passe et les clés, ainsi que la propriété intellectuelle.

→ Utiliser le coaching utilisateur en temps réel (combiné à la DLP (Prévention des pertes de données)) pour rappeler aux utilisateurs la politique de l’entreprise concernant l’utilisation des applications d’IA au moment de l’interaction.

Bloquez les attaquants opportunistes qui tentent de tirer parti de la popularité croissante des applications d’IA en bloquant les domaines et les URL malveillants connus et en inspectant tout le contenu HTTP et HTTPS.

→ Utilisez la technologieRemote Browser Isolation (RBI) pour fournir une protection supplémentaire lorsqu’il est nécessaire de visiter des sites Web dans des catégories qui peuvent présenter un risque plus élevé, comme les domaines nouvellement observés et nouvellement enregistrés.

→ Assurez-vous que toutes les défenses de sécurité partagent des renseignements et travaillent ensemble pour rationaliser les opérations de sécurité. Netskope clients peuvent utiliser Cloud Exchange pour partager des IOC, importer des informations sur les menaces, exporter des journaux d’événements, automatiser le flux de travail et échanger des scores de risque.

À propos de ce rapport

Netskope Threat Labs publie un rapport trimestriel sur le cloud et les menaces pour mettre en évidence un ensemble spécifique de défis en matière de cybersécurité. L’objectif de ce rapport est de fournir une visibilité sur les risques de cybersécurité présentés par les applications d’IA et sur la manière dont les organisations gèrent ces risques. L’analyse présentée dans ce rapport est basée sur une étude portant sur des millions d’utilisateurs de milliers d’organisations dans le monde entier, pour la période allant du 1er mai 2023 au 30 juin 2023. Les statistiques sont le reflet des tactiques des attaquants, du comportement des utilisateurs et de la politique de l’organisation. Les informations présentées dans ce rapport sont basées sur des données d’utilisation anonymisées collectées par la plate-forme Netskope Security Cloud concernant un sous-ensemble de clients Netskope disposant d’une autorisation préalable.

Netskope Threat Labs

Composé des plus grands chercheurs du secteur des menaces et des logiciels malveillants dans le cloud, Netskope Threat Labs découvre, analyse et conçoit des défenses contre les dernières menaces Web, cloud et données affectant les entreprises. Nos chercheurs interviennent régulièrement et font du bénévolat lors de conférences de haut niveau sur la sécurité, notamment DEF Con, Black Hat et RSA.

Rapports sur l'informatique en nuage et les menaces

Le rapport cloud et menaces de Netskope vous fournit des renseignements uniques sur l'adoption des applications cloud, les évolutions du paysage des menaces liées au cloud et les risques qui pèsent sur les données des entreprises.

Parcourir les rapports

Accélérez le développement de votre programme de sécurité avec le leader du SASE.

Commencez