Aplicaciones de IA en la empresa

Descubre por qué Netskope debutó como Líder en el Cuadrante Mágico de Gartner® 2024 para Secure Access Service Edge (SASE) de Proveedor Único.

Obtenga el informe

Lea cómo los clientes innovadores navegan con éxito por el cambiante panorama actual de las redes y la seguridad a través de la Plataforma Netskope One.

Obtenga el eBook

Más información sobre los socios de Netskope

Grupo de jóvenes profesionales diversos sonriendo

Planifique su camino hacia una red más rápida, más segura y más resistente diseñada para las aplicaciones y los usuarios a los que da soporte.

Obtenga el whitepaper

Netskope One es una Plataforma nativa en la nube que ofrece servicios convergentes de seguridad y redes para hacer posible su transformación SASE y de confianza cero.

Más información sobre Netskope One

Netskope NewEdge es la nube privada de seguridad más grande y de mayor rendimiento del mundo y ofrece a los clientes una cobertura de servicio, un rendimiento y una resiliencia incomparables.

Más información sobre NewEdge

Cloud Exchange (CE) de Netskope ofrece a sus clientes herramientas de integración eficaces para que saquen partido a su inversión en estrategias de seguridad.

Más información sobre Cloud Exchange

Intelligent Security Service Edge (SSE), Cloud Access Security Broker (CASB), Cloud Firewall, Next Generation Secure Web Gateway (SWG) y Private Access for ZTNA integrados de forma nativa en una única solución para ayudar a todas las empresas en su camino hacia el Servicio de acceso seguro Arquitectura perimetral (SASE).

Todos los productos

Netskope Next Gen SASE Branch converge Context-Aware SASE Fabric, Zero-Trust Hybrid Security y SkopeAI-Powered Cloud Orchestrator en una oferta de nube unificada, marcando el comienzo de una experiencia de sucursal completamente modernizada para la empresa sin fronteras.

Obtenga más información sobre Next Gen SASE Branch

Personas en la oficina de espacios abiertos.

Obtenga un ejemplar gratuito del único manual que necesitará sobre diseño de una arquitectura SASE.

Obtenga el eBook

Data Lakes, Security, & Innovation
Max Havey se sienta con el invitado Troy Wilkinson, CISO de Interpublic Group (IPG), para profundizar en el mundo de los lagos de datos.

Reproducir el pódcast Browse all podcasts

Lea cómo Netskope puede habilitar el viaje hacia Zero Trust y SASE a través de las capacidades de perímetro de servicio de acceso seguro (SASE).

Lea el blog

Aprenda a navegar por los últimos avances en SASE y Confianza Cero y explore cómo estos marcos se están adaptando para abordar los retos de la ciberseguridad y las infraestructuras.

Explorar sesiones

Infórmese sobre la futura convergencia de las herramientas de red y seguridad en el modelo de negocio actual de la nube.

Conozca el SASE

Netskope se enorgullece de participar en Vision 2045: una iniciativa destinada a crear conciencia sobre el papel de la industria privada en la sostenibilidad.

Descubra más

Apoyando la sustentabilidad a través de la seguridad de los datos

Más información sobre servicios profesionales

Infórmese sobre Capacitaciones y Certificaciones

Grupo de jóvenes profesionales que trabajan

Netskope Threat LabsJulio, 2023

Aspectos destacados del informe Resumen ejecutivo Las aplicaciones de IA son cada vez más populares Riesgos de IA: datos confidenciales Atacantes oportunistas Controles empresariales Recomendaciones Acerca de este informe Netskope Threat Labs

9 minutos de lectura

Aspectos destacados del informe

El uso de aplicaciones de IA en la empresa está aumentando exponencialmente, un 22,5% en los últimos dos meses.
ChatGPT es la aplicación de IA más popular en la empresa y Google Bard es la aplicación de IA de más rápido crecimiento en la empresa, ambas por un amplio margen.
El código fuente se publica en ChatGPT más que cualquier otro tipo de datos confidenciales, a una tasa de 158 incidentes por cada 10.000 usuarios empresariales al mes.
Los atacantes están creando estafas de aplicaciones de IA y sitios de phishing para tratar de capitalizar el bombo que rodea a ChatGPT.
DLP y entrenamiento de usuarios son los tipos de controles más populares que utilizan las empresas para permitir el uso de aplicaciones de IA y evitar la exposición de datos confidenciales.

test answer

Resumen ejecutivo

La conversación en torno a la IA a menudo se centra en cuestiones existenciales, como las posibles oportunidades y amenazas que la IA puede aportar a la humanidad. Sin embargo, las organizaciones de todo el mundo y sus dirigentes se enfrentan a una preocupación más inmediata: ¿cómo pueden utilizar las aplicaciones de IA de forma segura y protegida?

Las organizaciones se esfuerzan por aprovechar las aplicaciones de IA para mejorar las operaciones, mejorar la experiencia de los clientes y facilitar la toma de decisiones basada en datos. La clave es hacer esto mientras se garantiza la seguridad. Sin embargo, el principal obstáculo de seguridad radica en cómo algunos usuarios pueden emplear estas aplicaciones.

Tomemos como ejemplo ChatGPT, que puede utilizarse para revisar el código fuente en busca de fallos de seguridad o ayudar a editar el contenido escrito. ChatGPT se utilizó para editar este mismo resumen ejecutivo. Inevitablemente, algunas personas cargarán código fuente propietario o texto que contenga datos regulados o propiedad intelectual. El reto consiste en disuadir este tipo de comportamiento sin obstaculizar la productividad de toda la Organización. Un bloqueo total de las aplicaciones de IA podría resolver este problema, pero lo haría a expensas de los beneficios potenciales que ofrecen las aplicaciones de IA.

A medida que seguimos rodeados de exageraciones centradas en las posibilidades de la IA, es evidente que ChatGPT y otras aplicaciones de IA están en camino de convertirse en pilares de la empresa. Entre los clientes de Netskope, su popularidad está creciendo exponencialmente, y se espera que se duplique en los próximos siete meses si sigue creciendo al ritmo actual. Este Informe profundiza en el creciente protagonismo de las aplicaciones de IA en las empresas, esboza los riesgos asociados, incluidas las fugas de datos y la actividad potencial de los atacantes, y propone estrategias para integrar de forma segura ChatGPT y otras herramientas de IA en el entorno empresarial.

sdofjsfojefgejelosij

Las aplicaciones de IA son cada vez más populares

El número de usuarios que acceden a las aplicaciones de IA en la empresa está creciendo exponencialmente. En los últimos dos meses, el porcentaje de usuarios empresariales que acceden al menos a una aplicación de IA cada día ha aumentado un 2,4% semanal, lo que supone un aumento total del 22,5% en ese periodo de tiempo. Al ritmo de crecimiento actual, el número de usuarios que acceden a aplicaciones de IA se duplicará en los próximos siete meses. Durante el mismo periodo de tiempo, el número de aplicaciones de IA en uso en la empresa se mantuvo estable, con organizaciones con más de 1.000 usuarios con una media de 3 aplicaciones de IA diferentes al día, y organizaciones con más de 10.000 usuarios con una media de 5 aplicaciones de IA al día. A finales de junio, 1 de cada 100 usuarios empresariales interactuaba con una aplicación de IA cada día.

La popularidad de las aplicaciones de IA se basa en el número de usuarios empresariales

La aplicación de IA empresarial más popular por un amplio margen es ChatGPT, con más de 8 veces más usuarios activos diarios que cualquier otra aplicación de IA. ChatGPT ha sido el centro de mucha publicidad durante los últimos seis meses y también es muy versátil, lo que probablemente contribuya a su popularidad. La siguiente aplicación más popular es Grammarly, que se centra exclusivamente en la asistencia para escribir. Bard, el chatbot de Google, se encuentra justo por debajo de Grammarly. Todas las demás aplicaciones de IA combinadas (de las cuales estamos rastreando más de 60, incluidas Jasper, Chatbase y Copy.ai) son menos populares que Google Bard.

Aplicaciones de IA más populares por porcentaje del total de usuarios diarios de IA

En los últimos dos meses, la aplicación de IA de más rápido crecimiento en la empresa fue Google Bard. Aunque todavía está muy por detrás de ChatGPT en popularidad, Google Bard está sumando usuarios a un ritmo del 7,1% por semana, en comparación con el 1,6% de ChatGPT. Al ritmo actual, Google Bard está a punto de alcanzar a ChatGPT en poco más de un año. Sin embargo, dado que el espacio de las aplicaciones de IA es muy dinámico, esperamos ver muchos más cambios durante ese tiempo que interrumpirán las tasas de crecimiento actuales.

Netskope Threat Labs realiza un seguimiento de la popularidad de las aplicaciones de IA en entornos empresariales, más que de la popularidad general de las aplicaciones entre los consumidores. Por ejemplo, mientras que la popularidad de ChatGPT se disparó entre los consumidores antes de enfriarse en junio, su adopción en la empresa ha sido más mesurada y sigue aumentando exponencialmente. El resto de este Informe destaca algunas de las razones del aumento medido, que incluyen los riesgos de fuga de datos y los controles en torno a su uso.

Aplicaciones de IA de más rápido crecimiento por número de usuarios activos diarios agregados semanalmente

Riesgos de IA: datos confidenciales

Este segmento se centra en ChatGPT, la aplicación de IA líder en la empresa por un amplio margen. Un usuario promedio de ChatGPT interactúa con la aplicación publicando 6 avisos diarios. El nivel de actividad varía según el usuario, ya que el 10% de los usuarios que publican 22 mensajes y el 1% que publica 68 mensajes diarios. Por cada 10.000 usuarios, una Organización puede esperar unas 660 solicitudes diarias a ChatGPT. Pero la verdadera pregunta radica en el contenido de estas indicaciones: ¿Son consultas inofensivas o revelan inadvertidamente datos confidenciales?

Un estudio de Netskope reveló que el código fuente era el tipo de datos confidenciales expuesto con más frecuencia, ya que 22 de cada 10.000 usuarios empresariales publican código fuente en ChatGPT al mes. En total, esos 22 usuarios son responsables de un promedio de 158 publicaciones que contienen código fuente por mes. Esta tendencia no es del todo inesperada, teniendo en cuenta la capacidad de ChatGPT para revisar y explicar el código y localizar errores y vulnerabilidades de seguridad. Si bien estos servicios son beneficiosos, compartir código fuente confidencial con ChatGPT presenta riesgos que incluyen posibles violaciones de datos, divulgación accidental de datos y riesgos legales y regulatorios.

Usuarios que publican datos confidenciales por cada 10.000 mil usuarios empresariales al mes

En comparación con el código fuente, las publicaciones que contienen otras formas de datos confidenciales son relativamente menos comunes. Por cada 10.000 usuarios empresariales, suele haber 18 incidentes de intercambio de datos regulados (que abarcan datos financieros, información sanitaria e información de identificación personal) al mes. La propiedad intelectual (excluyendo el código fuente) es aún más rara, con una media de 4 incidentes al mes por cada 10.000 usuarios. Curiosamente, las contraseñas y las claves también aparecen entre los tipos de datos confidenciales compartidos, generalmente incrustados en el código fuente. A pesar de su relativa poca frecuencia (alrededor de 4 incidentes por cada 10.000 usuarios al mes), esta práctica sirve como un recordatorio crucial para los ingenieros de software sobre los riesgos de codificar secretos en el código fuente.

Incidentes de usuarios que publican datos confidenciales por cada 10.000 mil usuarios empresariales al mes

Atacantes oportunistas

Con todo el revuelo que rodea a ChatGPT y a las aplicaciones de IA en general, no es de extrañar que los estafadores, ciberdelincuentes y otros atacantes intenten explotar el bombo publicitario para obtener ganancias ilícitas. Esta es una práctica común entre los atacantes. Por ejemplo, el Informe sobre Nube y Amenazas de Netskope Threat Labs de la primavera de 2023 destacaba a los atacantes que intentaban sacar provecho de la guerra ruso-ucraniana, el terremoto en Turquía y Siria y el colapso del Silicon Valley Bank. El bombo y la popularidad de ChatGPT atraen la atención de atacantes y estafadores debido a la gran cantidad de objetivos y al potencial de beneficios, combinados con la variada competencia de los usuarios de la Plataforma.

A lo largo del primer semestre de 2023, Netskope Threat Labs ha rastreado múltiples campañas de suplantación de identidad, campañas de distribución de Malware y sitios web de spam y fraude que buscan sacar provecho del bombo publicitario del ChatGPT. Netskope Threat Labs está rastreando incluso varios proxies ChatGPT, sitios que parecen ofrecer la ventaja de un acceso gratuito y no autenticado al chatbot, pero a costa de revelar todas sus indicaciones y respuestas al operador del proxy.

Un proxy de ChatGPT en el que el operador del proxy ve todas las indicaciones y respuestas

En total, Netskope Threat Labs está rastreando actualmente más de 1.000 URL y dominios maliciosos que buscan sacar provecho del bombo publicitario de ChatGPT y la IA. El número por sí solo es un recordatorio de la importancia de utilizar un enfoque de múltiples capas para proteger a los usuarios de los atacantes que intentan capitalizar la exageración y la popularidad que rodea a cualquier evento o tendencia importante. Este enfoque debe incluir el filtrado de dominios, el filtrado de URL y la inspección de contenido para protegerse contra ataques conocidos y desconocidos.

Controles empresariales

Aunque una práctica común cuando ChatGPT empezó a ganar popularidad era que las empresas bloquearan el chatbot por completo, desde entonces las organizaciones han aceptado el hecho de que ChatGPT y otras aplicaciones de IA pueden ofrecer ventajas a la organización, como mejorar las operaciones, mejorar la experiencia de los clientes y facilitar la toma de decisiones basada en datos. En lugar de bloquear ChatGPT, las organizaciones han pasado a un modelo más permisivo que suele incluir una combinación de DLP y formación del usuario. La DLP puede utilizarse para identificar datos potencialmente sensibles que se publican en aplicaciones de IA, como ChatGPT, y el entrenamiento de los usuarios puede dejar al usuario la decisión final de si proceder o no con un mensaje.

Organización que coloca controles en torno a ChatGPT

Los controles específicos en torno al ChatGPT varían según la vertical del sector. En general, las empresas de servicios financieros, atención médica y tecnología han liderado la implementación de controles en torno a ChatGPT. Sin embargo, el enfoque que ha adoptado cada sector varía significativamente. En los servicios financieros y la sanidad, ambos sectores muy regulados, casi 1 de cada 5 organizaciones ha implantado una prohibición general. Ningún usuario puede usar ChatGPT. En el vertical tecnológico, sólo 1 de cada 20 organizaciones ha aplicado una prohibición general. En cambio, 1 de cada 4 organizaciones utiliza controles DLP para detectar tipos específicos de información sensible (especialmente código fuente) que se publica en ChatGPT. Además, 1 de cada 5 organizaciones tecnológicas implementan el coaching de usuarios en tiempo real para recordarles la Política de la empresa y los riesgos que conllevan ChatGPT y otras aplicaciones de IA. En última instancia, es probable que, con el tiempo, más organizaciones adopten controles DLP y asesoramiento de usuarios en tiempo real para permitir el uso de aplicaciones de IA como ChatGPT y, al mismo tiempo, protegerse contra la exposición de datos no deseados.

Tipo de controles ChatGPT por Sector vertical

Recomendaciones

Permitir de forma segura la adopción de aplicaciones de IA en la empresa es un desafío multifacético. Implica identificar las aplicaciones permitidas e implantar controles que permitan a los usuarios utilizarlas al máximo, al tiempo que protegen a la Organización de los riesgos. Esta sección incluye recomendaciones técnicas generales para la Organización que pretenda habilitar aplicaciones de IA de forma segura. Si desea información más detallada sobre cómo puede ayudarle Netskope, consulte el resumen de la solución ChatGPT y protección de datos de IA generativa.

→ Revise periódicamente la actividad de las aplicaciones de IA, las tendencias, los comportamientos y la sensibilidad de los datos, para identificar los riesgos para la Organización.

→ Bloquee el acceso a aplicaciones que no sirvan a ningún propósito comercial legítimo o que representen un riesgo desproporcionado. Un buen punto de partida es una Política para permitir las aplicaciones de buena reputación actualmente en uso mientras se bloquean todas las demás.

→ Utilice DLP Política para detectar los mensajes que contengan información potencialmente sensible, incluyendo código fuente, datos regulados, contraseñas y claves, y propiedad intelectual.

→ Emplee coaching de usuario en tiempo real (combinado con DLP) para recordar a los usuarios la Política de la empresa en torno al uso de apps de IA en el momento de la interacción.

Bloquee a los atacantes oportunistas que intentan aprovecharse de la creciente popularidad de las aplicaciones de IA bloqueando dominios y URL maliciosos conocidos, e inspeccionando todo el contenido HTTP y HTTPS.

→ Utilice la tecnología Remote Browser Isolation (RBI) para proporcionar una protección adicional cuando exista la necesidad de visitar sitios web de categorías que puedan presentar un mayor riesgo, como los dominios recién observados y recién registrados.

→ Asegúrese de que todas las defensas de seguridad compartan inteligencia y trabajen juntas para optimizar las operaciones de seguridad. Netskope los clientes pueden utilizar Cloud Exchange para compartir IOC, importar información sobre amenazas, exportar registros de eventos, automatizar el flujo de trabajo e intercambiar puntuaciones de riesgo.

Acerca de este informe

Netskope Threat Labs publica trimestralmente un Informe sobre Nube y Amenazas para destacar un conjunto específico de retos de ciberseguridad. El propósito de este Informe es proporcionar visibilidad sobre los riesgos de ciberseguridad que presentan las aplicaciones de IA y cómo las Organizaciones están gestionando esos riesgos. El análisis presentado en este Informe se basa en un estudio de millones de usuarios de miles de Organizaciones de todo el mundo, para el periodo comprendido entre el 1 de mayo de 2023 y el 30 de junio de 2023. Las estadísticas son un reflejo de las tácticas de los atacantes, del comportamiento de los usuarios y de la Organización Política. La información presentada en este Informe se basa en datos de uso anonimizados recopilados por la Netskope Security Cloud Plataforma relativos a un subconjunto de clientes de Netskope con autorización previa.

Netskope Threat Labs

Integrado por los investigadores más destacados del sector en materia de amenazas en la nube y Malware, Netskope Threat Labs descubre, analiza y diseña defensas contra las últimas amenazas de Web, la nube y los datos que afectan a las empresas. Nuestros investigadores son presentadores y voluntarios habituales en las principales conferencias de seguridad, incluidas DEF CON, Black Hat y RSA.

Informes de nube y amenazas

El informe Netskope Cloud and Threat Report ofrece una visión única sobre la adopción de aplicaciones en la nube, los cambios en el panorama de las amenazas en la nube y los riesgos para los datos de la empresa.

Examinar informes

Informe sobre la nube y las amenazas: aplicaciones de IA en la empresa