Los riesgos de seguridad más urgentes para las organizaciones que utilizan aplicaciones genAI están relacionados con los datos, y los usuarios son los actores críticos para causar y prevenir esos riesgos. Hay dos ángulos para estos riesgos.
- Entrada: ¿Qué datos envían los usuarios a las aplicaciones de genAI?
- Salida: ¿Cómo aprovechan los usuarios los resultados que reciben de las aplicaciones genAI?
Para la entrada, el riesgo principal es la fuga de datos. Para el resultado, los riesgos incluyen la corrección (las aplicaciones de genAI son muy buenas para proporcionar alucinaciones y desinformación) y preocupaciones legales (muchas empresas entrenaron sus aplicaciones de genAI con contenido con derechos de autor o con licencia). Este Informe se centra en los insumos, ya que la protección de los datos sensibles suele ser la máxima prioridad para la mayoría de las Organizaciones.
Adopción conservadora
El sector bancario ha logrado frenar la adopción de GenAI mediante la adopción de políticas más agresivas para restringir su uso. El 93% de las organizaciones bancarias bloquean al menos una aplicación genAI, mientras que el promedio mundial es solo del 77%. Además, las organizaciones bancarias que bloquean aplicaciones genAI tienden a bloquear más aplicaciones genAI que sus contrapartes en otros sectores. La siguiente figura muestra que el número promedio de aplicaciones genAI que una organización bancaria bloquea ha aumentado de 5 hace un año a casi 9 en la actualidad, con el 25% superior de la organización bloqueando al menos 24 aplicaciones. En contraste, el promedio global es de solo 2.6 aplicaciones, con 12 aplicaciones en el 25% superior de Organización.
Las aplicaciones con más bloqueos incluyen aplicaciones de múltiples categorías, incluidos asistentes de escritura, chatbots, generadores de imágenes y generadores de audio, que tienen muchas similitudes con las tendencias globales.
Por otro lado, las aplicaciones genAI más populares en el sector bancario incluyen chatbots, asistentes de escritura, copilotos y aplicaciones para tomar notas, reflejando muchas tendencias globales.
Las organizaciones del sector bancario controlan el acceso a las aplicaciones genAI permitidas mediante una combinación de controles, incluida la prevención de pérdida de datos (DLP) y el entrenamiento de usuarios en tiempo real. DLP como control genAI es popular en el sector bancario, ya que más de la mitad de todas las organizaciones lo utilizan para restringir el flujo de información confidencial a las aplicaciones genAI, en comparación con un promedio mundial del 43%. En la banca, un sector altamente regulado, el tipo más común de datos confidenciales cargados en las aplicaciones de genAI son, como era de esperar, los datos regulados, donde los controles de DLP ayudan a evitar que dichos datos se divulguen a proveedores externos de genAI.