Netskope
Rapport Threat Labs :
Banque 2024

Les risques de sécurité les plus urgents pour les organisations qui utilisent des applications de genAI sont liés aux données, et les utilisateurs sont les acteurs essentiels pour causer et prévenir ces risques. Ces risques se présentent sous deux angles.

• Entrée : Quelles données les utilisateurs envoient-ils aux applications genAI ?
• Résultats : Comment les utilisateurs exploitent-ils les résultats qu'ils reçoivent des applications genAI ?

Pour les intrants, le risque principal est la fuite de données. En ce qui concerne les résultats, les risques portent sur l'exactitude (les applications genAI sont très douées pour fournir des hallucinations et des informations erronées) et sur les aspects juridiques (de nombreuses entreprises ont formé leurs applications genAI à partir de contenus protégés par des droits d'auteur ou des licences). Le présent rapport se concentre sur les données d'entrée, car la protection des données sensibles est généralement la première priorité de la plupart des organisations.

Adoption par les conservateurs

Le secteur bancaire a réussi à ralentir l'adoption de la GenAI en adoptant des politiques plus agressives pour en restreindre l'utilisation. 93 % des organismes bancaires bloquent au moins une application genAI, alors que la moyenne mondiale n'est que de 77 %. En outre, les organismes bancaires qui bloquent les apps genAI ont tendance à bloquer plus d'apps genAI que leurs homologues d'autres secteurs. La figure suivante montre que le nombre moyen d'applications genAI bloquées par une organisation bancaire est passé de 5 il y a un an à près de 9 aujourd'hui, les 25 % d'organisations les plus performantes bloquant au moins 24 applications. En revanche, la moyenne mondiale n'est que de 2,6 applications, avec 12 applications dans les 25 % d'organisations les plus performantes.

Les apps les plus bloquées comprennent des apps de plusieurs catégories, notamment des assistants d'écriture, des chatbots, des générateurs d'images et des générateurs audio, présentant de nombreuses similitudes avec les tendances mondiales.

D'autre part, les applications genAI les plus populaires dans le secteur bancaire comprennent les chatbots, les assistants d'écriture, les copilotes et les applications de prise de notes, reflétant ainsi de nombreuses tendances mondiales.

Les organisations du secteur bancaire contrôlent l'accès aux applications genAI autorisées à l'aide d'une combinaison de contrôles, notamment la prévention des pertes de données (DLP) et l'accompagnement des utilisateurs en temps réel. La prévention des pertes de données (DLP) en tant que contrôle de la genAI est populaire dans le secteur bancaire, avec plus de la moitié des organisations qui l'utilisent pour empêcher les informations sensibles de circuler dans les applications de genAI, contre une moyenne mondiale de 43 %. Dans le secteur bancaire, très réglementé, le type le plus courant de données sensibles téléchargées vers les applications genAI est sans surprise les données réglementées, pour lesquelles les contrôles DLP (Prévention des pertes de données) permettent d'éviter que ces données ne soient divulguées à des fournisseurs genAI tiers.

Les contrôles genAI utilisés dans le secteur bancaire ont été très efficaces. Le secteur connaît une adoption de la genAI généralement plus faible que les autres secteurs, avec 87 % des organisations utilisant la genAI contre une moyenne mondiale de 97 %. Bien que l'adoption continue d'augmenter, elle le fait modestement, avec une hausse de 7 points au cours de l'année écoulée. De même, le nombre moyen d'applications de genAI utilisées dans chaque organisation, 6, est inférieur à la moyenne mondiale de 9,6.