Informe sobre la nube y las amenazas:
IA generativa 2025

Este informe detalla el aumento de la adopción de la IA generativa (GenAI), señalando un aumento significativo en el uso y el volumen de datos durante el año pasado. Si bien GenAI ofrece muchos beneficios, también introduce riesgos de seguridad para los datos, principalmente a través de la TI en la sombra y la fuga de información confidencial; sin embargo, Organización puede mitigar estos riesgos mediante la implementación de controles sólidos, como bloqueo, DLP y entrenamiento de usuarios en tiempo real.

Informe sobre la nube y las amenazas
IA generativa 2025

Introducción Riesgos de los datos de IA generativa IA generativa en todas partes La IA generativa va en aumento

Volumen de datos Recuento de usuarios Recuento de aplicaciones

Shadow IT/IA de sombra DeepSeek: Un estudio de Caso sobre la adopción temprana de la IA generativa Adopción local de IA generativa Reducción de riesgos de IA generativa

Bloqueante Asesoramiento a usuarios en tiempo real Prevención de Fuga de Datos (DLP)

La perspectiva de un CISO Netskope Threat Labs Acerca de este informe

19 minutos de lectura

Introducción

El Informe 2025 Generative AI Cloud and Threat destaca la creciente adopción de la genAI, el creciente riesgo que representa la genAI y las estrategias que Organización ha adoptado para reducir ese riesgo. Cuando publicamos por primera vez un Informe de Nube y Amenazas de IA Generativa en 2023, genAI todavía era una tecnología incipiente prácticamente sinónimo de ChatGPT. El recientemente lanzado Bard (Ahora Gemini) de Google agregó usuarios rápidamente, pero estaba lejos de desafiar el dominio de ChatGPT. Solo 1 de cada 100 usuarios empresariales eran aplicaciones Usar genAI. Avancemos hasta 2025: casi 1 de cada 20 usuarios empresariales son aplicaciones Usar genAI, y aún más son indirectamente Usar genAI o contribuyen con datos para entrenar modelos de IA. Netskope está rastreando actualmente el uso de 317 aplicaciones genAI distintas en nuestra base de más de 3.500 clientes.

Este informe tiene como objetivo proporcionar una contabilidad basada en datos de las principales tendencias de la generación de IA, destacando la adopción, el riesgo y la reducción del riesgo. Comienza examinando qué tan omnipresente se ha vuelto la genIA, destaca los riesgos que rodean su adopción y analiza los diferentes tipos de controles para reducir el riesgo. Dado el momento de este informe, unos pocos meses después de que el lanzamiento de DeepSeek-V3 hiciera olas con respecto a su costo y eficiencia informados, también incluye un estudio de Caso en torno a DeepSeek. El estudio de Caso ilustra lo que sucede cuando se lanza una nueva e intrigante herramienta genAI y destaca las mejores prácticas para reducir los riesgos asociados.

El resto de este informe proporciona una inmersión más profunda en lo siguiente:

GenAI es un riesgo de seguridad cada vez mayor: La cantidad de datos enviados a las aplicaciones genAI en avisos y cargas se ha multiplicado por más de 30 en el último año, lo que ha aumentado los volúmenes de exposición a datos confidenciales, especialmente el código fuente, los datos regulados, la propiedad intelectual y los secretos.
GenAI es En todas partes: Mientras que la mayoría de las aplicaciones de Usar genAI (90%) son aún más (98%) las que incorporan funciones de genAI. Mientras que las aplicaciones de genAI son Usar por una población relativamente pequeña (4,9% de los usuarios), la mayoría de las aplicaciones Usar incorporan funciones de genAI (75% de los usuarios).
GenAI es TI en la sombra: La mayoría de los Usar de genAI en la empresa (72%) son TI en la sombra, impulsados por cuentas personales de individuos que usan para acceder a las aplicaciones de genAI.
La reducción del riesgo de GenAI es posible: el bloqueo, la prevención de pérdidas de datos (DLP) y el entrenamiento de usuarios en tiempo real se encuentran entre los controles más populares para reducir el riesgo de genAI.

test answer

Riesgos de los datos de IA generativa

La seguridad de los datos es el principal riesgo al que se enfrentan las organizaciones cuando sus usuarios adoptan aplicaciones de inteligencia artificial. Este riesgo surge de dos de los Casos Usar más populares para genAI en la empresa:

Resumen: Las aplicaciones de GenAI sobresalen en el resumen de grandes documentos, grandes conjuntos de datos y código fuente, lo que genera el riesgo de que las personas envíen datos confidenciales a las aplicaciones de GenAI para su resumen.
Generación: Las aplicaciones de GenAI sobresalen en la generación de texto, imágenes, videos y código fuente, lo que genera el riesgo de que las personas que trabajan en proyectos confidenciales pasen datos confidenciales a las aplicaciones de GenAI para generar o mejorar contenido.

La fuente principal de los riesgos de Datos que rodean a su Usar es que el resumen y la generación de Usar Caso requieren que el usuario envíe Datos a las aplicaciones genAI para proporcionar valor. A estos riesgos se suman factores adicionales, como el número de aplicaciones en el mercado y la proliferación de aplicaciones de genAI como TI en la sombra dentro de la empresa, de los que hablaremos con más detalle más adelante en este informe. Las organizaciones Netskope para proteger sus datos confidenciales generalmente se preocupan por cuatro tipos diferentes de datos confidenciales que fluyen hacia las aplicaciones genAI:

Propiedad intelectual: La propiedad intelectual se filtra a las aplicaciones de genAI cuando los usuarios buscan analizar listas de clientes, contratos y otros documentos que contienen secretos comerciales o datos confidenciales que una organización desea proteger.
Contraseñas y claves: Las contraseñas y las claves a menudo se filtran a las aplicaciones de genAI cuando se incrustan en fragmentos de código.
Datos regulados: Los datos regulados incluyen datos personales, sanitarios y financieros altamente sensibles, y se filtran con mayor frecuencia a las aplicaciones de genAI en los sectores que trabajan con dichos datos, especialmente los servicios sanitarios y financieros.
Código fuente: Un caso de uso popular para las aplicaciones genAI es ayudar a resumir, generar o editar el código fuente, lo que lleva a los usuarios a filtrar inadvertidamente código fuente confidencial a aplicaciones no aprobadas.

La siguiente figura muestra la frecuencia con la que estos cinco tipos de datos se envían a las aplicaciones genAI en violación de la Organización Política, con el código fuente representando casi la mitad de todas las violaciones, seguido de los datos regulados, la propiedad intelectual y las contraseñas y claves. El resto de este informe se dirige a los líderes de seguridad de la Organización preocupados por estos datos sensibles. ¿Cómo puede una organización proteger sus datos más sensibles contra la exposición no deseada y, al mismo tiempo, permitir que sus usuarios aprovechen las aplicaciones de genAI?

Informe Cloud and Threat - IA generativa 2025 - Tipo de violaciones de la política de datos para aplicaciones genAI

IA generativa en todas partes

La IA generativa está en todas partes. En 2022, la principal pregunta de Organización era si los beneficios de permitir ChatGPT superaban los riesgos. En la actualidad, Netskope está rastreando 317 aplicaciones genAI, cada una de las cuales genera una serie de preguntas un poco más matizadas: ¿Qué aplicaciones debemos permitir y qué controles debemos implementar para mitigar los riesgos de seguridad de esas aplicaciones? La siguiente figura desglosa el porcentaje de Organización Usar cada una de las 10 principales aplicaciones de genAI, lo que subraya que la mayoría de las organizaciones han decidido permitir múltiples aplicaciones de genAI.

Informe sobre la nube y las amenazas - IA generativa 2025 - Las aplicaciones genAI más populares según el porcentaje de organizaciones que usan esas aplicaciones

La siguiente figura presenta la popularidad de las mismas 10 aplicaciones durante el año pasado, lo que ilustra el panorama de la IA que cambia rápidamente y cuántas organizaciones están tomando activamente tales decisiones. Incluso aplicaciones generalmente consideradas ubicuas, como ChatGPT, se están introduciendo por primera vez en algunas organizaciones. Los recién llegados, como Microsoft 365 Copilot, se encuentran actualmente en la fase de adopción rápida, similar a lo que Microsoft Copilot vio a principios de 2024. Otras, como Google Gemini, Anthropic Claude, GitHub Copilot y Gamma, se están introduciendo gradualmente en Nuevo Organización. Google Gemini está cerrando lentamente la brecha con ChatGPT.

Informe Cloud and Threat - IA Generativa 2025 - Aplicaciones más populares por porcentaje de

Además de las decisiones que Organización tiene que tomar sobre cientos de aplicaciones genAI, también debe considerar los cientos de aplicaciones adicionales que Ahora proporcionan funciones impulsadas por genAI. Algunos ejemplos de este tipo de aplicaciones son:

Con mucho gusto: Una plataforma de experiencia de cliente que utiliza IA para agilizar la comunicación con el cliente.
Insider: Una plataforma de gestión de crecimiento Usar AI para analizar los datos de los clientes y optimizar la mensajería granular.
Enrejado: Software de RRHH que utiliza IA para resumir los datos de los empleados, ofrecer asistencia en la redacción y crear vídeos de incorporación personalizados para los nuevos empleados.
LinkedIn: Una red social que utiliza genAI para ayudar a sus usuarios en la creación de contenidos (posts, perfiles, descripción de trabajos, etc.) y aprovecha los datos de los usuarios para entrenar modelos de Nuevo.
Moveworks: Una plataforma de soporte de TI que utiliza IA para la automatización de tareas, la recuperación de información, el soporte multilingüe y la optimización del flujo de trabajo impulsada por IA en todos los sistemas empresariales.

La siguiente figura muestra que la mayoría de las organizaciones Usar genAI de alguna manera en la actualidad.

El 90% de las organizaciones tienen usuarios que acceden directamente a aplicaciones de genAI como ChatGPT, Google Gemini y GitHub Copilot.
El 98% de las organizaciones tienen usuarios que acceden a aplicaciones que brindan funciones impulsadas por genAI, como Gladly, Insider, Lattice, LinkedIn y Moveworks.

Informe sobre la nube y las amenazas - IA generativa 2025 - Porcentaje de organizaciones

A nivel de usuario, estas diferencias son aún más pronunciadas. A pesar de que la mayoría de las organizaciones usan aplicaciones genAI de forma directa, la población de usuarios dentro de esas organizaciones sigue siendo relativamente pequeña (4,9% de los usuarios). Por otro lado, las aplicaciones que incorporan funciones impulsadas por genAI son mucho más comunes (75% de los usuarios).

Informe sobre la nube y las amenazas - IA generativa 2025 - Porcentaje medio de usuarios

El propósito de las dos cifras anteriores es subrayar que genAI Usar en la empresa está aún más extendido de lo que puede parecer a primera vista. Las aplicaciones que incorporan indirectamente funciones de genAI conllevan los mismos riesgos que las aplicaciones de genAI. Para ayudar a proporcionar una visibilidad completa del riesgo de la IA generativa, Netskope proporciona Cloud Confidence Index el, que rastrea estos y muchos otros atributos para más de 82.000 aplicaciones en la nube.

La IA generativa va en aumento

La adopción de la IA generativa está aumentando en la empresa según muchas medidas diferentes. Aun así, ninguno es tan importante desde el punto de vista de la seguridad de los Datos como la cantidad de Datos enviados a las aplicaciones de genAI: Cada publicación o subida es una oportunidad para la exposición de los Datos. Esta sección destaca que la cantidad de datos enviados a las aplicaciones de genAI se ha multiplicado por más de 30 en el último año. Eso es 30 veces el número de publicaciones y cargas y 30 veces las oportunidades de exposición sensible a los datos que hace un año. Además, esperamos que el volumen de datos que fluye hacia las aplicaciones de genAI siga aumentando a un ritmo similar a lo largo de 2025.

El crecimiento en la cantidad de datos enviados a las aplicaciones genAI supera con creces el aumento en el número de usuarios de genAI y el número de aplicaciones genAI. Si bien la base de usuarios de las aplicaciones genAI seguirá siendo relativamente pequeña en el futuro previsible, los riesgos aumentarán drásticamente a medida que aumente la cantidad de Usar genAI entre esa población. El resto de esta sección proporciona información más detallada sobre el aumento del volumen de Datos, el recuento de usuarios y el recuento de aplicaciones que observamos durante el año pasado.

Volumen de datos

Aunque la población de usuarios de genAI es bastante pequeña en relación con la población total de la empresa, la cantidad de datos que estos usuarios envían a las aplicaciones de genAI está aumentando rápidamente. Durante el último año, la cantidad promedio de datos enviados a las aplicaciones de genAI cada mes (principalmente en avisos y cargas) se ha multiplicado por más de 30, de solo 250 MB por mes a 7,7 GB. El 25% superior de Organización experimentó un aumento similar, de más de 790 MB por mes a más de 20 GB por mes. El rápido aumento en el volumen de Datos enviado a las aplicaciones genAI aumenta significativamente el riesgo de seguridad de Datos. Más datos significa más posibilidades de que estas aplicaciones expongan o manejen mal la información confidencial. Esperamos que se envíen más de 15 GB a las aplicaciones genAI en promedio cada mes para fines de 2025.

Informe de Nube y Amenazas - IA generativa 2025 - Datos enviados a las aplicaciones genAI por organización Volumen medio de datos con área sombreada que muestra el 1er y 3er cuartil

Recuento de usuarios

Si bien la mayoría de los usuarios usan aplicaciones genAI, un porcentaje pequeño pero en continuo crecimiento de usuarios usan activamente aplicaciones genAI. El número de personas que usan aplicaciones genAI en la empresa casi se ha duplicado en el último año, con un promedio del 4,9% de las personas en cada organización Usar aplicaciones genAI, como se muestra en la figura a continuación. Usar activo en el contexto de genAI significa enviar indicaciones a los chatbots o interactuar de manera significativa con la aplicación. El 25% superior de la organización tiene al menos el 17% de su población de usuarios usando activamente aplicaciones genAI, mientras que el 10% superior tiene más de un tercio (35%) de sus usuarios usando activamente aplicaciones genAI. Esperamos que esta tendencia continúe a lo largo de 2025.

Informe sobre la nube y las amenazas - IA generativa 2025 - Porcentaje medio de usuarios de GenAI por mes con área sombreada que muestra el 1er y 3er cuartil

Recuento de aplicaciones

El número de aplicaciones genAI en cada organización Usar sigue aumentando gradualmente, y ahora hay casi seis aplicaciones genAI diferentes en Usar en promedio. El 25% superior de Organización Usar al menos 13 aplicaciones, y el 1% superior (no en la foto) Usar al menos 40. A medida que Netskope está rastreando 317 aplicaciones de IA distintas en total y continúa la inversión agresiva en nuevas empresas de IA, esperamos que la cantidad de aplicaciones de cada Organización Usar continúe aumentando a lo largo de 2025. El aumento en el número de aplicaciones subraya la importancia de implementar controles para limitar los riesgos asociados con las aplicaciones Nuevo. Más adelante en este Informe, proporcionamos un estudio detallado de Caso de DeepSeek-R1 para mostrar cómo varias organizaciones respondieron durante la rápida adopción del chatbot Nuevo.

Informe de Nube y Amenazas - IA Generativa 2025 - Aplicaciones GenAI por Organización mediana con área sombreada que muestra el 1er y 3er cuartil

Shadow IT/IA de sombra

La adopción de la aplicación GenAI en la empresa ha seguido el patrón típico de Nuevo Servicios en la nube: los usuarios individuales utilizan cuentas personales para acceder a la aplicación. El resultado es que la mayoría de las aplicaciones de genAI en la empresa se pueden clasificar como TI en la sombra, un término Usar para describir soluciones que son Usar sin el conocimiento o la aprobación del departamento de TI. Un nuevo término, shadow AI, fue acuñado específicamente para el caso especial de las soluciones de IA. El término "sombra" en shadow IT e shadow AI pretende evocar la idea de que las aplicaciones están ocultas, no son oficiales y operan fuera de los procesos estándar. Incluso hoy, más de dos años después de que el lanzamiento de ChatGPT iniciara la locura de la genAI, la mayoría (72%) de los usuarios de genAI siguen usando cuentas personales para acceder a ChatGPT, Google Gemini, Grammarly y otras aplicaciones populares de genAI en el trabajo.

La siguiente figura muestra cuántas personas tienen cuentas personales de genAI en el trabajo durante el último año. Este número ha disminuido gradualmente del 82% hace un año al 72% en la actualidad. Si bien esta es una tendencia alentadora, todavía queda un largo camino por recorrer antes de que la mayoría de los usuarios hayan cambiado a cuentas administradas por su organización. Al ritmo actual, la mayoría de los usuarios seguirán siendo cuentas personales Usar hasta 2026. Una pequeña fracción de los usuarios (5,4%) usa una combinación de cuentas personales y cuentas administradas por Organización, lo que indica que incluso en Organización, donde existen aplicaciones administradas por la empresa, muchos usuarios siguen siendo cuentas personales Usar.

Informe de Nube y Amenazas - IA Generativa 2025 - Desglose de cuentas personales vs. Organización

Debido a que la mayoría de los usuarios de genAI usan cuentas personales, la distribución de las violaciones de la Política de Datos para las cuentas personales no es sustancialmente diferente de la distribución más amplia. En la siguiente figura se muestra la distribución, siendo las violaciones de código fuente las más comunes, seguidas de los datos regulados, la propiedad intelectual y las contraseñas y claves.

$Informe Cloud and Threat - IA generativa 2025 - Tipo de datos Infracciones de política para aplicaciones personales de genAI$

DeepSeek: Un estudio de Caso sobre la adopción temprana de la IA generativa

El 20 de enero de 2025, la empresa china DeepSeek lanzó su primer chatbot basado en su modelo DeepSeek-R1. DeepSeek afirma haber entrenado el modelo a un costo significativamente menor que OpenAI-o1 y con una potencia de cálculo sustancialmente menor que Llama-3.1. Estas afirmaciones plantearon preguntas sobre si había una barrera de entrada más baja en el campo de la genAI, si DeepSeek-R1 aceleraría la innovación de la genAI y si DeepSeek-R1 alteraría el panorama competitivo. Estas preguntas dieron lugar a una importante cobertura mediática y despertaron el interés de los entusiastas de la gen AI en todo el mundo.

La siguiente figura muestra el porcentaje de organizaciones en las que las personas usaron o intentaron usar DeepSeek en las semanas posteriores al lanzamiento de DeepSeek-R1. En su apogeo, el 91% de las organizaciones en todo el mundo tenían usuarios que intentaban acceder a DeepSeek, con un 75% bloqueando todos los accesos, un 8% utilizando el control de acceso granular y un 8% permitiendo todos los accesos. Ese 75% de la Organización que bloqueaba el acceso tenía una Política Preventiva para bloquear aplicaciones genAI que la Organización de seguridad no había aprobado. Política de bloqueo preferente mitigó con éxito los riesgos de seguridad de los datos de los usuarios de Nuevo que probaron DeepSeek. En las semanas siguientes, el interés disminuyó y el porcentaje de usuarios de Organización con DeepSeek disminuyó semana tras semana.

Informe sobre la nube y las amenazas - IA generativa 2025 - Porcentaje de organizaciones con usuarios de DeepSeek por semana

En la siguiente figura se muestra una vista aún más granular, que analiza el número diario de usuarios en toda la plataforma y desglosa quién estaba bloqueado y permitido. En el pico, el 0,16% de los usuarios en el promedio de Organización intentaron usar DeepSeek y fueron bloqueados, mientras que el 0,002% de los usuarios fueron permitidos. Después del pico inicial, el número de usuarios que intentaron usar DeepSeek disminuyó a medida que el interés disminuyó y los usuarios cambiaron su comportamiento en respuesta a los bloqueos.

El gráfico también muestra que, si bien el 91% de Organización tenía usuarios que intentaban usar DeepSeek, la población total de usuarios era bastante pequeña. La adopción temprana limitada es típica de las nuevas tecnologías. La baja población de usuarios pioneros significa que los riesgos de poner en marcha una política de bloqueo preventivo tendrán poco impacto negativo en el negocio.

Informe de Nube y Amenazas - IA Generativa 2025 - Porcentaje medio de personas Usar DeepSeek

Este estudio de DeepSeek Caso presenta lecciones críticas para las organizaciones que buscan reducir los riesgos de seguridad de sus datos en torno a las aplicaciones de IA recién lanzadas:

Los primeros usuarios de las aplicaciones de Nueva genAI están presentes en casi todas las organizaciones (91%). Los primeros usuarios plantean un riesgo de seguridad considerable cuando envían datos confidenciales a estas aplicaciones.
La mayoría de las organizaciones han adoptado una política de "bloquear primero y preguntar después" para las aplicaciones de Nueva GenAI. En lugar de jugar al whack-a-mole bloqueando las aplicaciones Nuevo que sus usuarios podrían intentar, permiten explícitamente ciertas aplicaciones y bloquean todas las demás. Este tipo de Política es excelente para la reducción de riesgos, ya que le da a la Organización visibilidad sobre quién está probando la aplicación y les da tiempo para completar una revisión adecuada. Debido a que la población de usuarios pioneros es pequeña, los posibles impactos negativos en el negocio son limitados.

Adopción local de IA generativa

Una forma de gestionar los riesgos de datos creados por las aplicaciones de genAI basadas en la nube es ejecutar la infraestructura de genAI localmente. La ejecución local es cada vez más accesible, lo que es posible gracias a organizaciones como DeepSeek y Meta que han puesto sus modelos a disposición para su descarga, gracias a herramientas como Ollama y LM Studio que proporcionan herramientas para permitir la ejecución de modelos localmente, y comunidades como Hugging Face que facilitan el intercambio de modelos y datos. Algunas organizaciones incluso entrenan sus propios modelos, Usar retrieval-augmented generation (RAG) para combinar genAI y recuperación de información, o construyen sus propias herramientas en torno a modelos existentes.

Durante el último año, el número de organizaciones que ejecutan localmente la infraestructura genAI ha aumentado drásticamente, de menos del 1% al 54%. La mayor parte del crecimiento se produjo en el primer semestre de 2024 y desde entonces se ha estabilizado. Esperamos que esta tendencia continúe, con solo ganancias modestas en el próximo año. Como era de esperar, la población de usuarios que ejecuta la infraestructura genAI local es bastante pequeña, menos del 0,1% de los usuarios en promedio. Entre esta población de usuarios, Ollama es la herramienta más popular para habilitar la ejecución de modelos localmente, y Hugging Face es el lugar más popular para descargar modelos, herramientas y otros recursos.

Informe Cloud y Amenazas - IA Generativa 2025 - Organización Usar genAI localmente

El cambio de aplicaciones Usar genAI a modelos genAI locales cambia el panorama de riesgos, introduciendo varios riesgos adicionales. El OWASP Top 10 for Large Language Model Applications proporciona un marco para pensar en dichos riesgos, que incluyen:

Cadena de suministro: ¿Puedes confiar en todas las herramientas y modelos que utilizas?
Fuga de datos: ¿Su sistema expone información confidencial de entrenamiento, fuentes de datos conectadas u otros usuarios?
Manejo inadecuado de la salida: ¿Hay algún sistema que procese las salidas de genAI y lo haga de forma segura?

Mitre Atlas es otro marco para considerar los riesgos de la IA. Proporciona una visión granular de los ataques contra los sistemas de IA. Aquellos que ejecutan sistemas genAI autogestionados también deben tener en cuenta estos ataques, que incluyen:

Inyección inmediata: ¿Pueden los adversarios crear mensajes para hacer que el modelo proporcione salidas no deseadas?
Cárcel: ¿Pueden los adversarios eludir los controles, las restricciones y las barreras de seguridad?
Extracción de metaprompts: ¿Pueden los adversarios revelar detalles del funcionamiento interno del sistema?

En otras palabras, el cambio de aplicaciones genAI basadas en la nube a modelos genAI alojados localmente reduce el riesgo de exposición no deseada a un tercero, pero introduce múltiples riesgos adicionales. Entrenar sus propios modelos o Usar RAG expande aún más esos riesgos. Sin embargo, lo que estamos viendo hasta ahora no es una tendencia alejada de Usar Servicios en la nube. Como destacamos anteriormente en este informe, el número de personas que usan aplicaciones en la nube de genAI, el número de aplicaciones en Usar y la cantidad de datos que se envían a estas aplicaciones están aumentando. En su lugar, estamos viendo la adición de una infraestructura genAI alojada localmente además de las aplicaciones genAI basadas en la nube que ya están en Usar. El alojamiento local de los modelos genAI representa un riesgo aditivo.

Reducción de riesgos de IA generativa

Más del 99% de las organizaciones están aplicando políticas para reducir los riesgos asociados con las aplicaciones de genAI. Estas políticas incluyen el bloqueo de todas o la mayoría de las aplicaciones genAI para todos los usuarios, el control de qué poblaciones de usuarios específicas pueden usar aplicaciones genAI y el control de los datos permitidos en las aplicaciones genAI. En las siguientes secciones se desglosan las políticas concretas más populares.

Bloqueante

El bloqueo es la estrategia más sencilla para reducir el riesgo y, por lo tanto, la más popular. El desafío con el bloqueo es doble. En primer lugar, el bloqueo puede afectar al negocio al limitar la productividad de los usuarios. En segundo lugar, el bloqueo puede hacer que los usuarios sean creativos, como Usar dispositivo personal o redes móviles personales para evadir los bloqueos. Si bien el 83% de las organizaciones Usar bloquean la Política para algunas aplicaciones, el alcance de estas políticas está dirigido. La siguiente figura muestra el número de aplicaciones bloqueadas activamente (esto significa que hay una política para bloquear la aplicación y los usuarios intentan usar la aplicación de todos modos) en toda la organización (esto significa que nadie en la organización puede usarla) está aumentando gradualmente, con cuatro aplicaciones bloqueadas en promedio hoy. El 25% superior de Organización bloquea al menos 20 aplicaciones, mientras que el 1% superior (no se muestra en la foto) bloquea más de 100 aplicaciones.

Informe sobre la nube y las amenazas - IA generativa 2025 - Número de aplicaciones bloqueadas por organización mediana con área sombreada que muestra los cuartiles 1 y 3

El desglose de las 10 aplicaciones bloqueadas con más frecuencia en la figura siguiente proporciona información sobre las estrategias de bloqueo en toda la organización. Las aplicaciones más populares (ChatGPT, Gemini, Copilot) no aparecen en esta lista, y las aplicaciones que sí aparecen en esta lista tienen muchas alternativas en el mercado. En el caso de que haya muchas alternativas, Organización Usar bloquea la Política para dirigir a sus usuarios hacia aplicaciones aprobadas específicas y alejarlos de las aplicaciones no aprobadas. En algunos casos, como Stable Diffusion (un generador de imágenes), es posible que la aplicación no sirva para ningún propósito comercial legítimo.

Informe de Nube y Amenazas - IA generativa 2025 - Aplicaciones de IA más bloqueadas por porcentaje de Organización que promulgó una prohibición general de la aplicación

Asesoramiento a usuarios en tiempo real

En la sección anterior se mencionó esta noción de alejar a los usuarios de ciertas aplicaciones y acercarlas a otras. El coaching de usuarios en tiempo real ofrece una alternativa más matizada a la política de bloques, una que puede recordar a los usuarios que una aplicación específica no está aprobada para manejar datos confidenciales, pero permite al usuario final decidir si la usa o no. El coaching de usuarios en tiempo real es eficaz porque permite al usuario tomar la decisión correcta en el momento. También ayuda a moldear el comportamiento del usuario al proporcionar comentarios y orientación inmediatos.

El coaching, una política más matizada que el bloqueo, es menos frecuente pero sigue creciendo. El 35% de la Organización Usar coaching en tiempo real para reducir los riesgos de la genIA. Esperamos que ese porcentaje aumente a más del 40% en el próximo año. Las organizaciones a menudo combinan el coaching con otras Políticas, como la prevención de pérdidas de Datos.

Informe Cloud y Amenazas - IA Generativa 2025 - Porcentaje de Organización Usar coaching de usuarios en tiempo real para controlar el acceso a las aplicaciones genAI

Prevención de Fuga de Datos (DLP)

La prevención de pérdida de datos (DLP) reduce los riesgos asociados con las aplicaciones genAI al inspeccionar los avisos y los datos enviados a las aplicaciones genAI en tiempo real. DLP puede decidir si permitir o bloquear el contenido en función de las reglas configuradas por los administradores. La propiedad intelectual, los secretos, los datos regulados y el código fuente son los cuatro tipos más comunes de datos que la organización restringe compartir con las aplicaciones genAI. En la imagen de abajo, la política de DLP para genAI creció en popularidad a principios de 2025 y recientemente se ha estabilizado, con el 47% de la Organización Usar DLP para controlar el acceso a las aplicaciones de genAI.

Informe Cloud y Threat - IA Generativa 2025 - Porcentaje de Organización Usar DLP para controlar el acceso a las aplicaciones genAI

La perspectiva de un CISO

Los CISO y los líderes de seguridad que lean esto deberían estar profundamente preocupados por los riesgos de seguridad asociados con el rápido crecimiento de Usar de las tecnologías genAI. Las aplicaciones genAI basadas en la nube y los modelos genAI alojados localmente presentan un riesgo creciente de exposición no deseada a Datos y un conjunto Nuevo de vulnerabilidades de seguridad.

La organización debe tomar medidas inmediatas para gestionar estos riesgos de manera efectiva. Animo a los líderes a revisar el Marco de Gestión de Riesgos de IA del NIST, que proporciona una valiosa hoja de ruta para que la organización gobierne, mapee, mida y gestione los riesgos de la inteligencia artificial.

Los pasos específicos que la Organización puede tomar incluyen los siguientes:

Evalúe su panorama de genAI: Comprenda qué aplicaciones de genAI y la infraestructura de genAI alojada localmente está Usar, quién las está Usar y cómo se están Usar.
Refuerce los controles de su aplicación genAI: Revise y compare periódicamente sus controles con las prácticas recomendadas, como permitir solo aplicaciones aprobadas, bloquear aplicaciones no aprobadas, usar DLP para evitar que los datos confidenciales se compartan con aplicaciones no autorizadas y aprovechar el entrenamiento de usuarios en tiempo real.
Realice un inventario de sus controles locales: Si está ejecutando cualquier infraestructura de genAI localmente, revise los marcos relevantes, como OWASP Top 10 para aplicaciones de modelos de lenguaje grandes, NIST AI Risk Management Framework y Mitre Atlas para garantizar una protección adecuada de los datos, los usuarios y las redes.
Es crucial monitorear continuamente el uso de genAI dentro de su organización y mantenerse informado de los nuevos desarrollos en la ética de la IA, los cambios regulatorios y los ataques adversarios.

Todos los líderes cibernéticos y de riesgo deben priorizar la gobernanza y los programas de riesgo de IA para abordar los desafíos cambiantes que plantean las tecnologías de genAI y su adopción a través de prácticas de IA en la sombra. Al tomar medidas proactivas para gestionar estos riesgos, podemos garantizar la adopción segura y responsable y el uso de genAI en beneficio de su organización.

Netskope Threat Labs

Con el personal de los principales investigadores de amenazas en la nube y malware del sector, Netskope Threat Labs descubre, analiza y diseña defensas contra las últimas amenazas en la nube que afectan a las empresas. Nuestros investigadores son presentadores y voluntarios habituales en las principales conferencias de seguridad, como DefCon, BlackHat y RSA.

Acerca de este informe

Netskope proporciona protección contra amenazas a millones de usuarios en todo el mundo. La información presentada en este Informe se basa en el uso anónimo de los Datos recopilados por la PlataformaNetskope One en relación con un subconjunto de Netskope clientes con autorización previa.

Este Informe contiene información sobre las detecciones generadas por Netskope'Next Generation Secure Web Gateway (SWG), sin considerar la importancia del impacto de cada amenaza individual. Las estadísticas de este Informe se basan en el período comprendido entre el 1 de febrero de 2024 y el 28 de febrero de 2025. Las estadísticas reflejan las tácticas de los atacantes, el comportamiento de los usuarios y la organización política.

Informes de nube y amenazas

El informe Netskope Cloud and Threat Report ofrece una visión única sobre la adopción de aplicaciones en la nube, los cambios en el panorama de las amenazas en la nube y los riesgos para los datos de la empresa.

Examinar informes

Tormenta con relámpagos sobre la ciudad por la noche

Acelere su programa de seguridad en la nube, datos, IA y red con Netskope

¡Empezar!

Informe sobre la nube y las amenazas: IA generativa 2025

Informe sobre la nube y las amenazasIA generativa 2025