Netskope vuelve a ser reconocido como Líder en el Cuadrante™ Mágico de Gartner® para plataformas SASE. Obtener el Informe

cerrar
cerrar
Su red del mañana
Su red del mañana
Planifique su camino hacia una red más rápida, más segura y más resistente diseñada para las aplicaciones y los usuarios a los que da soporte.
Descubra Netskope
Ponte manos a la obra con la plataforma Netskope
Esta es su oportunidad de experimentar de primera mano la Netskope One plataforma de una sola nube. Regístrese para participar en laboratorios prácticos a su propio ritmo, únase a nosotros para una demostración mensual del producto en vivo, realice una prueba de manejo gratuita de Netskope Private Accesso únase a nosotros para talleres en vivo dirigidos por instructores.
Líder en SSE. Ahora es líder en SASE de un solo proveedor.
Netskope ha sido reconocido como Líder con mayor visión tanto en plataformas SSE como SASE
2X líder en el Cuadrante Mágico de Gartner® para SASE Plataforma
Una plataforma unificada creada para tu viaje
Protección de la IA generativa para principiantes
Protección de la IA generativa para principiantes
Descubra cómo su organización puede equilibrar el potencial innovador de la IA generativa con sólidas prácticas de seguridad de Datos.
Prevención de pérdida de datos (DLP) moderna para dummies eBook
Prevención moderna de pérdida de datos (DLP) para Dummies
Obtenga consejos y trucos para la transición a una DLP entregada en la nube.
Libro SD-WAN moderno para principiantes de SASE
SD-WAN moderna para maniquíes SASE
Deje de ponerse al día con su arquitectura de red
Entendiendo dónde está el riesgo
Advanced Analytics transforma la forma en que los equipos de operaciones de seguridad aplican los conocimientos basados en datos para implementar una mejor política. Con Advanced Analytics, puede identificar tendencias, concentrarse en las áreas de preocupación y usar los datos para tomar medidas.
Soporte técnico Netskope
Soporte técnico Netskope
Nuestros ingenieros de soporte cualificados ubicados en todo el mundo y con distintos ámbitos de conocimiento sobre seguridad en la nube, redes, virtualización, entrega de contenidos y desarrollo de software, garantizan una asistencia técnica de calidad en todo momento
Vídeo de Netskope
Netskope Training
La formación de Netskope le ayudará a convertirse en un experto en seguridad en la nube. Estamos aquí para ayudarle a proteger su proceso de transformación digital y aprovechar al máximo sus aplicaciones cloud, web y privadas.

La adopción de GenAI está aumentando rápidamente, con aplicaciones SaaS de IA, plataformas GenAI, infraestructura de IA local y, ahora, agentes de IA personalizados que se están convirtiendo en pilares fundamentales de las empresas. Las últimas tendencias, como la infraestructura de IA local, las plataformas genAI y los agentes personalizados, introducen riesgos adicionales para los datos y la seguridad de la organización, al tiempo que pasan en gran medida desapercibidas para los equipos de seguridad. Este informe lo ayudará a arrojar luz sobre la infraestructura de IA en la sombra en su organización, lo que le permitirá comenzar a mitigar esos riesgos.

18 minutos de lectura

Introducción enlace enlace

Este es nuestro cuarto Informe Netskope Cloud and Threat dedicado al campo emergente de la IA generativa. Nuestro primer Informe en 2023 destacó el crecimiento exponencial de la popularidad de ChatGPT dentro de la empresa. Nuestro segundo Informe en 2024 destacó que casi todas las empresas estaban usando aplicaciones SaaS genAI e implementando políticas para proteger datos sensibles. Nuestro Informe más reciente continuó con esa narrativa al introducir conceptos como la IA en la sombra, el uso indirecto de la IA generativa y la IA local. Esta nueva entrega examina las tendencias emergentes en la IA en la sombra y la IA con agentes dentro de la empresa, donde algunos usuarios están cambiando hacia plataformas genAI y soluciones locales a medida que crean aplicaciones personalizadas y agentes autónomos, creando un nuevo conjunto de desafíos de ciberseguridad.

Este Informe se centra en la IA en la sombra y la IA con agentes, explorando cómo las organizaciones pueden arrojar luz sobre las sombras en el camino. Comenzamos examinando las aplicaciones SaaS genAI, donde todavía estamos viendo una cantidad considerable de IA en la sombra. Está surgiendo una clara tendencia a la centralización, con Organización gravitando hacia unos pocos ecosistemas clave administrados por empresas, especialmente Gemini y Copilot. Sin embargo, la mayoría de los usuarios (60%) siguen siendo aplicaciones personales no administradas, lo que representa una cantidad significativa de IA en la sombra que continúa extendiéndose a las aplicaciones de Nuevo a medida que se lanzan.

Continuamos con plataformas genAI, como Azure OpenAI, Amazon Bedrock y Google Vertex AI, que están ganando popularidad rápidamente debido a su simplicidad, flexibilidad, personalización y escalabilidad. Permiten a los usuarios crear aplicaciones personalizadas o agentes que usen los modelos de su elección. Y quizás lo más importante, brindan algunas garantías de seguridad y privacidad que los diferencian de muchas aplicaciones SaaS y soluciones locales. En esta etapa, la adopción de plataformas genAI está liderada por personas que experimentan con la tecnología relativamente nueva, lo que hace que plataformas genAI represente la categoría de IA en la sombra de más rápido crecimiento.

La ejecución de la infraestructura de IA en las instalaciones también es una tendencia creciente, donde los usuarios están instalando herramientas como Ollama para proporcionar una interfaz a una amplia variedad de modelos o marcos Usar como LangChain para crear agentes personalizados, creando una nueva infraestructura de IA en la sombra en las instalaciones. La IA local está creciendo a un ritmo más lento que la plataforma genAI, ya que estas últimas son más accesibles y ofrecen una mejor seguridad lista para usar, como exploraremos más adelante en este Informe.

Concluimos el Informe examinando el área de los agentes de IA, que son sistemas que Usar IA para lograr un objetivo específico con la mínima intervención humana. Esta es un área en la que ahora estamos comenzando a ver una actividad significativa en la empresa, con usuarios que exploran una variedad de marcos de agentes, tanto en las instalaciones como en la nube, y construyendo aún más IA en la sombra que está estrechamente entrelazada con los datos empresariales y el flujo de trabajo crítico.

 

Resúmenes enlace enlace

  • Shadow AI representa la mayoría del uso de IA en la empresa, impulsada por la adopción individual de aplicaciones de IA SaaS , AI Plataforma, implementaciones de IA locales y agentes de IA personalizados de Ahora.
  • El uso de SaaS IA continúa creciendo rápidamente dentro de la organización promedio, con un 50% más de personas que interactúan con aplicaciones de IA y un 6.5% más de datos cargados en aplicaciones SaaS de IA en los últimos tres meses, con un promedio de 8.2 GB por organización por mes.
  • ChatGPT experimentó su primer descenso de popularidad empresarial desde que empezamos a seguirlo en 2023, ya que el uso de SaaS IA se consolida en torno a soluciones especialmente diseñadas, como Gemini y Copilot, que están bien integradas con el flujo de trabajo empresarial existente.
  • Plataformas IA (como por ejemplo, Amazon Bedrock, Azure OpenAI y Google Vertex AI) están ganando popularidad rápidamente, lo que permite a los usuarios crear aplicaciones y agentes personalizados que interactúan directamente con almacenes de datos empresariales, lo que presenta nuevos desafíos de IA en la sombra para que las empresas los aborden.
  • Los agentes de IA se están desarrollando, probando e implementando en las instalaciones utilizando marcos de agentes como LangChain, lo que crea un nuevo tipo de IA en la sombra especialmente difícil de detectar, ya que las implementaciones en las instalaciones suelen ser las más difíciles de descubrir y proteger.

 

Definiciones enlace enlace

  • Los marcos de agentes son bibliotecas de software y herramientas que simplifican la creación de agentes de IA autónomos al proporcionar componentes prediseñados para la planificación, la memoria y la integración de herramientas (por ejemplo, LangChain, OpenAI Agent Framework).
  • La IA con agentes se refiere a sistemas en los que un agente puede planificar y ejecutar de forma autónoma una serie de acciones para lograr un objetivo de alto nivel, completando tareas complejas sin guía humana paso a paso.
  • plataformas genAI son Servicios en la nube administrados que proporcionan los modelos, las herramientas y la infraestructura fundamentales para crear, personalizar, entrenar e implementar modelos, aplicaciones y agentes de IA (por ejemplo, Amazon Bedrock, Azure OpenAI, Google Vertex AI).
  • Las interfaces LLM son aplicaciones front-end que permiten a los usuarios interactuar con los LLM y que suelen utilizarse en instalaciones locales (por ejemplo, Ollama, LM Studio). SaaS aplicaciones genAI son aplicaciones especialmente diseñadas y alojadas en la nube que usan genAI como característica principal para crear contenido Nuevo o resumir contenido existente (por ejemplo, ChatGPT, Gemini, Copilot).

 

Crecimiento continuo de la aplicación SaaS genAI enlace enlace

La adopción de aplicaciones SaaS genAI continúa disparándose en la empresa. Aunque el porcentaje de organizaciones que utilizan aplicaciones SaaS genAI se ha estabilizado, con un 89 % de las organizaciones utilizando activamente al menos una aplicación SaaS genAI, el crecimiento de la adopción de SaaS genAI sigue manifestándose de múltiples formas dentro de la empresa. En primer lugar, el número de personas que usan aplicaciones de SaaS genAI dentro de cada Organización aumentó en más del 50%, con un promedio del 7,6% de personas en cada organización que usan aplicaciones de SaaS genAI en mayo, en comparación con el 5% en febrero (como se muestra en la siguiente figura). La figura también muestra el primer y tercer cuartil, y el tercer cuartil destaca que el 25% de Organización tiene más de una cuarta parte (25,6%) de su población de usuarios activamente usando aplicaciones SaaS genAI. En el percentil 90 (no ilustrado), al menos el 47 % de los usuarios de esas organizaciones utilizan aplicaciones SaaS genAI.

Diagrama que muestra el porcentaje medio de usuarios de GenAI por mes con área sombreada que muestra los cuartiles 1 y 3

En segundo lugar, el número de aplicaciones genAI en uso sigue creciendo, alcanzando una media de 7 por organización, frente a las 5,6 de febrero. Observamos un crecimiento similar en el tercer cuartil, donde las organizaciones utilizan ahora 15,4 aplicaciones, frente a las 13,3 de febrero. Previmos este crecimiento en nuestro informe del 1 de febrero porque la inversión agresiva en nuevas empresas de IA se traduce en el lanzamiento de muchas nuevas aplicaciones SaaS de IA, lo que genera un uso aún mayor de IA en la sombra que es necesario descubrir y proteger. Hoy, Netskope está rastreando más de 1,550 aplicaciones distintas de IA generativa SaaS , frente a solo 317 en febrero, lo que indica el rápido ritmo al que se lanzan y adoptan las nuevas aplicaciones en entornos empresariales.

Diagrama que muestra las aplicaciones GenAI por mediana de Organización con área sombreada que muestra los cuartiles 1 y 3

La tercera forma en que el crecimiento de las aplicaciones genAI de SaaS se manifiesta en la empresa es en la cantidad de datos que fluyen hacia estas aplicaciones. Para la Organización promedio, la cantidad de Datos cargados cada mes ha aumentado un 6,5% de 7,7 GB a 8,2 GB en los últimos tres meses. En el percentil 75, este aumento fue aún más significativo, de 20 GB a 22,8 GB (un aumento del 14%). En el percentil 90, el patrón continúa, con un aumento del 15% de 46 GB a 53 GB. Al ritmo actual, esperamos que el percentil 90 supere los 100 GB en el tercer trimestre de 2026. Incluso en Organización, que ya está viendo una cantidad significativa de datos que se cargan en SaaS aplicaciones genAI, el rápido crecimiento continúa sin signos de desaceleración. Como se cubrió en nuestro Informe de IA generativa anterior, los usuarios de Datos que cargan en las aplicaciones de genAI incluyen propiedad intelectual, datos regulados, código fuente y secretos, lo que subraya la importancia de identificar SaaS en la sombra de genAI Usar e implementar controles para evitar fugas de datos no deseadas.

Otro cambio notable que se ha producido en los últimos cuatro meses es una disminución en el número de Organización Usar ChatGPT. Desde su introducción en noviembre de 2022, el porcentaje de Organización Usar ChatGPT nunca ha disminuido. En febrero, informamos que casi el 80% de Organización eran Usar ChatGPT, que ahora ha caído modestamente al 78%. Esta disminución se produce a medida que Gemini y Copilot (Microsoft Copilot, Microsoft 365 Copilot, GitHub Copilot) continúan ganando terreno, gracias a su perfecta integración en los ecosistemas de productos de Google y Microsoft que ya son omnipresentes en la empresa. ChatGPT fue la única de las 10 principales aplicaciones que experimentó una disminución desde febrero, como se muestra en la siguiente figura. Otras 10 aplicaciones principales, incluidas Anthropic Claude, Perplexity AI, Grammarly y Gamma, experimentaron ganancias en la adopción empresarial.

Diagrama que muestra las aplicaciones más populares por porcentaje de Organización

Otro cambio digno de mención desde nuestro último Informe es que Grok está ganando popularidad rápidamente, entrando en el top 10 por primera vez en mayo. Curiosamente, Grok está Ahora simultáneamente en el top 10 de las aplicaciones más Usar (en la foto de arriba) y también en el top 10 de las aplicaciones más bloqueadas (en la foto de abajo). En comparación con febrero, menos Organización está bloqueando Grok y, en cambio, lo está permitiendo para Usar Caso específico (generalmente personal). El número de Organización que bloquea Grok alcanzó su punto máximo en abril y tiene una tendencia a la baja a medida que el número de usuarios de Grok continúa aumentando. Esto se produce cuando Organización está optando por controles más granulares, Usar DLP y entrenamiento de usuarios en tiempo real para evitar que se envíen datos confidenciales a Grok. Dicho esto, los bloqueos aún superan en número a los permitidos, con el 25% de Organización bloqueando todos los intentos de Usar Grok en mayo, mientras que solo el 8.5% de Organización está viendo algo de Grok Usar. Esta no es una tendencia inusual, ya que la Organización tiende a bloquear las aplicaciones de Nuevo inicialmente mientras realizan revisiones de seguridad e implementan controles para restringir su Usar. Por otro lado, hay algunas aplicaciones SaaS genAI, como DeepSeek, que permanecen fuertemente bloqueadas y, por lo tanto, no ven ningún Usar empresarial significativo.

Diagrama de las aplicaciones de IA más bloqueadas por porcentaje de Organización que promulga una prohibición general de la aplicación

Shadow AI es un término relativamente nuevo que describe el uso de soluciones de IA sin el conocimiento o la aprobación de los departamentos centralizados de TI y ciberseguridad. En los primeros días, casi el 100% de SaaS genAI Usar era IA en la sombra. Con el tiempo, Organización comenzó a revisar y aprobar soluciones empresariales específicas (generalmente ChatGPT, Gemini o Copilot), y los usuarios hicieron la transición a esas soluciones aprobadas. El coaching en tiempo real que recuerda a los usuarios que usan una solución no aprobada para cambiar a una solución aprobada ha sido fundamental en esta transición. Esos controles siguen siendo efectivos, con solo el 60% de la población empresarial SaaS en mayo, una disminución de 12 puntos porcentuales desde febrero. Esperamos que esta tendencia continúe en los próximos meses, con la tasa cayendo por debajo del 40% para fin de año. Al mismo tiempo, han surgido nuevos desafíos de IA en la sombra (plataformas genAI, genAI local y agentes de IA), que exploraremos con más detalle en las siguientes secciones.

Diagrama que muestra el uso de GenAI personal frente al desglose de la cuenta de la Organización

Para los lectores interesados en descubrir el alcance de SaaS AI Usar en la sombra en sus entornos, Netskope está rastreando más de 1,550 aplicaciones distintas de IA generativa SaaS . Los clientes de Netskope pueden identificar la IA en la sombra buscando cualquier actividad de la aplicación categorizada como "IA generativa" y centrándose en aplicaciones no aprobadas e inicios de sesión personales. Si bien bloquear aplicaciones no aprobadas puede ser una estrategia efectiva, las políticas de coaching de usuarios son una forma más matizada de guiar a los usuarios lejos de las soluciones no aprobadas y hacia las administradas y aprobadas por la empresa. Dichas políticas a menudo se combinan con DLP Política para mitigar los riesgos de que los datos confidenciales se filtren a aplicaciones de SaaS genAI no aprobadas, como se detalla en nuestro Informe anterior sobre la nube y las amenazas.

 

Aumento de la adopción de plataformas genAI enlace enlace

Si bien SaaS aplicaciones genAI ganaron popularidad por su facilidad de Usar, plataformas genAI ahora está ganando popularidad debido a su flexibilidad y beneficios de privacidad. Su flexibilidad se debe al hecho de que puede implementar rápida y fácilmente los modelos de su elección en una sola interfaz. Sus beneficios de privacidad surgen del hecho de que usted mismo aloja los modelos y no comparte ninguno de sus Datos con un tercero. Al mismo tiempo, el modelo de responsabilidad compartida en una plataforma genAI transfiere más responsabilidad de seguridad al usuario en comparación con una solución SaaS .

El Usar de plataformas genAI se está disparando. Hemos visto un aumento del 50% en el número de usuarios y un aumento del 73% en el tráfico de red en estas plataformas en los últimos tres meses. A partir de mayo, el 41% de las organizaciones son Usar al menos una plataformas genAI, mientras que el 14% son Usar al menos dos y el 2.7% son Usar al menos tres. Una de las razones detrás de la proliferación de múltiples soluciones es que la adopción de plataformas genAI es otro problema de IA en la sombra; las personas eligen los marcos con los que están más familiarizados o que parecen más adecuados para su Usar Caso específico. Usar a plataformas genAI también es casi tan accesible como la aplicación Usar a SaaS genAI, ya que los principales proveedores de Servicios en la nube tienen sus propias ofertas. La plataforma genAI más popular es Microsoft Azure OpenAI, Usar por el 29% de la organización. Amazon Bedrock le sigue de cerca con un 22%, con Google Vertex AI en un distante tercer lugar con un 7,2%. Las tres plataformas están ganando popularidad a medida que más usuarios se familiarizan con ellas y exploran las oportunidades que ofrecen.

Diagrama que muestra la adopción del marco de IA en la nube por porcentaje de la Organización.

El rápido crecimiento de la IA en la sombra hace que la Organización tenga la responsabilidad de identificar quién está creando la infraestructura de nube genAI Usar plataformas genAI, dónde la están construyendo y si están siguiendo las mejores prácticas para la seguridad de la IA. Una de las poderosas características de estas plataformas genAI es que permiten la conexión directa de los almacenes de datos empresariales a las aplicaciones de IA, lo que requiere revisiones y monitoreo adicionales para garantizar que estas aplicaciones no comprometan la seguridad de los datos empresariales. Netskope clientes pueden obtener información sobre quién es Usar estas herramientas y cómo las están usando revisando sus registros para cualquiera de estas plataformas genAI por nombre. Saber quién es Usar y cómo los usa es el primer paso para garantizar su Usar seguro.

 

Aumento de la adopción de genAI local enlace enlace

Otra práctica que está ganando popularidad es el Usar de genAI en las instalaciones. GenAI Usar local adopta múltiples formas, que van desde recursos de GPU locales de Usar para entrenar o alojar modelos hasta desarrollar herramientas locales que interactúan con SaaS aplicaciones genAI o plataformas genAI. Usar genAI localmente es una buena manera para que Organización aproveche su inversión existente en recursos de GPU o cree herramientas que interactúen con sistemas y conjuntos de datos locales. Sin embargo, la implementación local también significa que la Organización es la única responsable de la seguridad de su infraestructura genAI. Además, comprender y aplicar marcos como el OWASP Top 10 para aplicaciones de modelos de lenguaje grandes o Mitre Atlas es ahora esencial.

Una de las formas más populares de usar genAI localmente es implementar una interfaz LLM. Al igual que plataformas genAI, las interfaces LLM permiten la interacción con varios modelos Usar una sola interfaz. Las interfaces LLM no son tan ampliamente Usar como plataformas genAI, con solo el 34% de las interfaces LLM de Organización Usar en comparación con el 41% de Usar plataformas genAI. Ollama es el framework más popular por un amplio margen, y también sirve como un excelente ejemplo de una de las principales diferencias de seguridad entre trabajar en las instalaciones y en una plataforma genAI: Ollama no incluye ninguna autenticación integrada. Por lo tanto, si es Usar Ollama, debe implementarlo detrás de una solución de proxy inverso o acceso privado con los mecanismos de autenticación adecuados para protegerse contra Usar no autorizado. Además, mientras que la plataforma genAI generalmente proporciona un AI Proteja para proteger contra el abuso de los propios modelos, los marcos Usar como Ollama deben tomar medidas adicionales para evitar el abuso y el uso indebido. En comparación con Ollama, otras interfaces LLM, incluidas LM Studio y Ramalama, tienen una base de usuarios empresariales mucho más pequeña.

Diagrama que muestra las principales interfaces LLM por porcentaje de Organización

Debido a las crecientes preocupaciones de seguridad que rodean a las interfaces Usar de IA, Organización debe trabajar de manera proactiva para identificar quién los usa y dónde los está usando. Netskope los clientes pueden identificar el Usar de interfaces LLM populares por sus cadenas de agente de usuario en los registros de transacciones. Por ejemplo, las cadenas de agente de usuario de las tres interfaces principales comienzan con ollama, LM Studioy llama-cpp.

Otra forma de descubrir quién está experimentando con herramientas de IA es monitorear el acceso a los mercados de IA, como Hugging Face. Hugging Face es una comunidad muy popular para compartir herramientas de IA, modelos de IA y conjuntos de datos. Los usuarios están descargando recursos de Hugging Face en el 67% de Organización. Si bien la población de usuarios que lo hacen es pequeña (solo 0,3% en promedio), identificar a estos usuarios es crucial para descubrir la IA en la sombra, ya que pueden estar implementando infraestructura de IA en las instalaciones o en la nube. Además, debido a que Hugging Face es una plataforma comunitaria diseñada para facilitar el intercambio, Organización debe ser consciente de los riesgos de la cadena de suministro asociados con los recursos descargados de esta plataforma. Además de los riesgos obvios del código malicioso incrustado en las herramientas, ciertos formatos de archivo de alto riesgo (como Python Pickles, que son vulnerables a peligrosos ataques de ejecución de código arbitrario) se comparten comúnmente en Hugging Face. Los clientes de Netskope pueden identificar a los usuarios de Hugging Face buscando la aplicación "Hugging Face" en sus registros. Deben verificar que los recursos descargados de Hugging Face estén cubiertos por su Política de Protección contra Amenazas .

 

Agentes de IA enlace enlace

Si bien SaaS aplicación genAI Usar se está consolidando en torno a aplicaciones especialmente diseñadas que están bien integradas con el flujo de trabajo empresarial existente (es decir, Gemini y Copilot), está surgiendo otra tendencia, que abarca SaaS aplicaciones de IA, plataformas genAI y AI Usar: agentes de IA locales. Un agente de IA es un sistema encargado de un objetivo específico y al que se le da una autonomía limitada para lograr ese objetivo sin requerir la interacción del usuario. Gracias principalmente a los avances en los modelos de base, ahora estamos comenzando a ver una masa crítica de usuarios en múltiples agentes de IA de construcción de Organización y características de agente de Usar de SaaS soluciones. Por ejemplo, GitHub Copilot (Usar en el 39% de Organización) ofrece un modo de agente, donde puede proporcionar una tarea de codificación, y modificará iterativamente su código y lo probará hasta que crea que ha logrado el objetivo (o ha alcanzado otro criterio de detención). Hay dos características notables de un agente de IA:

  1. Tiene acceso a algunos Datos que pertenecen a la Organización.
  2. Puede ejecutar algunas acciones de forma autónoma.

En el Caso de GitHub Copilot, tiene acceso a su código fuente y puede ejecutar los comandos necesarios para compilar y ejecutar ese código dentro de su infraestructura. Estas dos características de los agentes de IA subrayan la importancia de garantizar que su Usar esté adecuadamente protegido para proteger los datos y la infraestructura confidenciales.

Una opción para crear agentes de IA es usar uno de los muchos marcos de agentes disponibles. En total, el 5,5% de Organización tiene usuarios que ejecutan agentes creados en las instalaciones. Entre esos marcos, LangChain es el más popular por un amplio margen (existe desde octubre de 2022), mientras que OpenAI Agent Framework está ganando popularidad rápidamente (acaba de lanzarse en marzo de 2025). Si bien hay muchos otros marcos disponibles, ninguno de ellos ha visto aún una adopción empresarial significativa. Pydantic-ai, en tercer lugar, es Usar en 3 de cada 1000 Organización. Los agentes de IA locales representan un riesgo significativo de IA en la sombra porque son altamente accesibles (fáciles de crear y ejecutar), a menudo tienen acceso a datos confidenciales y pueden ejecutar código de forma autónoma. Organización debe trabajar de manera proactiva para identificar a los usuarios que crean y usan agentes de IA en las instalaciones.

Diagrama que muestra los principales marcos de agentes por porcentaje de Organización

Mientras el agente se ejecuta en las instalaciones, los modelos de IA reales que sustentan el agente pueden ejecutarse en cualquier lugar, incluso en SaaS, plataformas genAI o entornos locales. Cuando los agentes locales acceden a SaaS servicios, normalmente acceden a un punto de conexión de API diferente al del navegador. Por ejemplo, las conversaciones con ChatGPT de OpenAI en el navegador irán a chatgpt.com, mientras que la interacción programática con los modelos de OpenAI irá a api.openai.com. La siguiente figura muestra los SaaS principales dominios de API de aplicaciones de IA por el porcentaje de Organización Usar. La interpretación de Datos es la siguiente: 66% de Organización tienen usuarios que realizan llamadas a la API para api.openai.com, lo que indica alguna interacción no relacionada con el navegador con los servicios de OpenAI. Esta interacción podría provenir de herramientas de terceros, herramientas personalizadas o agentes de IA. OpenAI tiene una ventaja significativa sobre otros servicios SaaS en este sentido, y dado el rápido crecimiento de la popularidad de OpenAI Agent Framework, anticipamos que esta tendencia se intensificará en los próximos meses.

Diagrama que muestra los 10 principales dominios de API de IA SaaS por porcentaje de Organización

Netskope los clientes pueden identificar quién es Usar los marcos de agentes populares buscando en sus registros las cadenas de agente de usuario relevantes. Por ejemplo, los tres marcos principales tienen cadenas de agente de usuario que comienzan con langchain, Agents/Pythony pydantic-ai. Pueden encontrar interacciones que no sean del navegador con aplicaciones SaaS de IA buscando en sus registros de transacciones los dominios relevantes. Las cadenas de agente de usuario y los nombres de los procesos proporcionarán pistas sobre la naturaleza de la interacción. En términos más generales, Netskope clientes deben buscar cualquier interacción de GenAI que provenga de fuera del navegador web.

Otra opción para construir agentes de IA es usar una de las plataformas genAI. Para esta discusión, nos centraremos específicamente en Amazon Bedrock, ya que proporciona un punto de enlace de servicio distinto para administrar modelos, administrar agentes, realizar solicitudes de inferencia a modelos e invocar agentes. Anteriormente en este Informe, informamos que el 22% de las organizaciones son Usar Amazon Bedrock. Cuando desglosamos aún más este número, encontramos que el 22% son Usar it para administrar modelos y ejecutar inferencias contra modelos, mientras que el 14% son Usar it para desarrollar, implementar o invocar agentes. También dijimos anteriormente en esta sección que el 5,5 % de Organización ejecuta agentes de IA en las instalaciones, lo que significa que 2,5 veces más Organización son Usar Amazon Bedrock para agentes de IA en comparación con los agentes locales.

¿Por qué los frameworks como Bedrock son más populares para la IA con agentes que los frameworks locales?

  • Agilizan el desarrollo, especialmente para aquellos que ya han invertido en el ecosistema de AWS.
  • Reducen los gastos generales operativos al ser un servicio gestionado.
  • Vienen con la escalabilidad incorporada de una Plataforma IaaS madura.

En otras palabras, un entorno estable y administrado con seguridad y soporte integrados es más atractivo para Organización que tener que manejar todos estos aspectos de forma independiente. Con base en las tendencias actuales, esperamos que esta brecha se amplíe, con un número aún mayor de organizaciones que favorecen a plataformas genAI sobre las soluciones locales en los próximos meses. Las soluciones locales seguirán teniendo sentido para algunas organizaciones, especialmente aquellas con un caso específico de alto volumen, predecible, continuo y a largo plazo, donde las instalaciones podrían ser más rentables. Y, por supuesto, cualquier persona dentro de la Organización puede iniciar el desarrollo y usar agentes en las instalaciones durante el desarrollo o para Usar personal, lo que subraya la necesidad de que la Organización monitoree continuamente la IA en la sombra.

Netskope los usuarios que deseen descubrir quién es Usar Amazon Bedrock para implementar o invocar agentes deben buscar en sus registros de transacciones los dominios de tiempo de compilación de Bedrock (bedrock-agent.*.amazonaws.com) y los dominios de tiempo de ejecución de Bedrock (bedrock-agent-runtime.*.amazonaws.com).

La perspectiva de un CISO enlace enlace

Para gestionar eficazmente los riesgos de seguridad de Datos que plantea el creciente uso de las tecnologías de IA generativa, los CISO y los líderes de seguridad deben implementar la siguiente guía práctica:

  1. Evalúe su panorama genAI:
    • Identificar el uso: Determine qué SaaS aplicaciones genAI, plataformas genAI y herramientas genAI alojadas localmente están en Usar en toda su organización.
    • Identificación del usuario: Identifique quién está usando estas herramientas y cómo se aprovechan dentro de los diferentes departamentos y flujos de trabajo.
  2. Reforzar los controles de la aplicación genAI:
    • Aplicaciones aprobadas: Establecer y hacer cumplir una Política que solo permita el Uso de aplicaciones genAI aprobadas por la empresa.
    • Bloquear aplicaciones no aprobadas: Implemente mecanismos de bloqueo sólidos para evitar el uso de aplicaciones genAI no aprobadas.
    • DLP para datos sensibles: Usar Datos loss prevention (DLP) Política para evitar que los datos confidenciales se compartan con aplicaciones genAI no autorizadas.
    • Entrenamiento de usuarios en tiempo real: Implemente capacitación de usuarios en tiempo real para guiar a los usuarios hacia soluciones aprobadas y educarlos sobre prácticas seguras de genAI. Comparar periódicamente estos controles con las mejores prácticas del sector.
  3. Inventario de la infraestructura genAI local:
  4. Monitoreo y concientización continuos:
    • Monitor genAI Usar: Implementa un monitoreo continuo de genAI Usar dentro de tu Organización para detectar instancias de IA en la sombra de Nuevo, ya sea a través de aplicaciones SaaS , plataformas genAI o implementaciones locales.
    • Manténgase informado: Manténgase actualizado sobre los nuevos desarrollos en ética de IA, cambios regulatorios y ataques adversarios para ajustar su postura de seguridad de manera proactiva.
  5. Comprender y proponer el riesgo de la IA en la sombra de los agentes:
    • Empleado no verificado: La IA en la sombra de Agentic es como una persona que ingresa a su oficina todos los días, maneja datos, toma medidas en los sistemas y todo sin verificar sus antecedentes ni tener monitoreo de seguridad.
    • Establecer guía: Establecer lineamientos para la Organización y sus miembros. Usar las detecciones descritas en este Informe para identificar a aquellos que lideran la adopción de la IA agencial y asociarse con ellos para desarrollar una política, estándar o directriz procesable y realista.

Al tomar estas medidas proactivas, Organización puede gestionar eficazmente los desafíos cambiantes que presentan las tecnologías genAI y garantizar su adopción segura y responsable.

 

Netskope Threat Labs enlace enlace

Con el personal de los principales investigadores de amenazas en la nube y malware del sector, Netskope Threat Labs descubre, analiza y diseña defensas contra las últimas amenazas en la nube que afectan a las empresas. Nuestros investigadores son presentadores y voluntarios habituales en las principales conferencias de seguridad, como DefCon, BlackHat y RSA.

 

Acerca de este informe enlace enlace

Netskope proporciona protección contra amenazas a millones de usuarios en todo el mundo. La información presentada en este Informe se basa en el uso anónimo de los Datos recopilados por la PlataformaNetskope One en relación con un subconjunto de Netskope clientes con autorización previa.

Este Informe contiene información sobre las detecciones generadas por el Netskope One Next Generation Secure Web Gateway (NG-SWG), sin considerar la importancia del impacto de cada amenaza individual. Las estadísticas de este Informe se basan en el período comprendido entre el 1 de febrero de 2025 y el 31 de mayo de 2025. Las estadísticas reflejan las tácticas de los atacantes, el comportamiento de los usuarios y la Organización Política.