Informe sobre la nube y las amenazas: aplicaciones de IA en la empresa

Este Informe examina cómo las Organizaciones están equilibrando los beneficios de las herramientas de IA a la vez que gestionan los riesgos asociados, destacando una estrategia cada vez más popular que implica la DLP y la formación interactiva de los usuarios.

Netskope Threat LabsJulio, 2023

Aspectos destacados del informe Resumen ejecutivo Las aplicaciones de IA son cada vez más populares Riesgos de IA: datos confidenciales Atacantes oportunistas Controles empresariales Recomendaciones Acerca de este informe Netskope Threat Labs

9 minutos de lectura

Aspectos destacados del informe

El uso de aplicaciones de IA en la empresa está aumentando exponencialmente, un 22,5% en los últimos dos meses.
ChatGPT es la aplicación de IA más popular en la empresa y Google Bard es la aplicación de IA de más rápido crecimiento en la empresa, ambas por un amplio margen.
El código fuente se publica en ChatGPT más que cualquier otro tipo de datos confidenciales, a una tasa de 158 incidentes por cada 10.000 usuarios empresariales al mes.
Los atacantes están creando estafas de aplicaciones de IA y sitios de phishing para tratar de capitalizar el bombo que rodea a ChatGPT.
DLP y entrenamiento de usuarios son los tipos de controles más populares que utilizan las empresas para permitir el uso de aplicaciones de IA y evitar la exposición de datos confidenciales.

test answer

Resumen ejecutivo

La conversación en torno a la IA a menudo se centra en cuestiones existenciales, como las posibles oportunidades y amenazas que la IA puede aportar a la humanidad. Sin embargo, las organizaciones de todo el mundo y sus dirigentes se enfrentan a una preocupación más inmediata: ¿cómo pueden utilizar las aplicaciones de IA de forma segura y protegida?

Las organizaciones se esfuerzan por aprovechar las aplicaciones de IA para mejorar las operaciones, mejorar la experiencia de los clientes y facilitar la toma de decisiones basada en datos. La clave es hacer esto mientras se garantiza la seguridad. Sin embargo, el principal obstáculo de seguridad radica en cómo algunos usuarios pueden emplear estas aplicaciones.

Tomemos como ejemplo ChatGPT, que puede utilizarse para revisar el código fuente en busca de fallos de seguridad o ayudar a editar el contenido escrito. ChatGPT se utilizó para editar este mismo resumen ejecutivo. Inevitablemente, algunas personas cargarán código fuente propietario o texto que contenga datos regulados o propiedad intelectual. El reto consiste en disuadir este tipo de comportamiento sin obstaculizar la productividad de toda la Organización. Un bloqueo total de las aplicaciones de IA podría resolver este problema, pero lo haría a expensas de los beneficios potenciales que ofrecen las aplicaciones de IA.

A medida que seguimos rodeados de exageraciones centradas en las posibilidades de la IA, es evidente que ChatGPT y otras aplicaciones de IA están en camino de convertirse en pilares de la empresa. Entre los clientes de Netskope, su popularidad está creciendo exponencialmente, y se espera que se duplique en los próximos siete meses si sigue creciendo al ritmo actual. Este Informe profundiza en el creciente protagonismo de las aplicaciones de IA en las empresas, esboza los riesgos asociados, incluidas las fugas de datos y la actividad potencial de los atacantes, y propone estrategias para integrar de forma segura ChatGPT y otras herramientas de IA en el entorno empresarial.

sdofjsfojefgejelosij

Las aplicaciones de IA son cada vez más populares

El número de usuarios que acceden a las aplicaciones de IA en la empresa está creciendo exponencialmente. En los últimos dos meses, el porcentaje de usuarios empresariales que acceden al menos a una aplicación de IA cada día ha aumentado un 2,4% semanal, lo que supone un aumento total del 22,5% en ese periodo de tiempo. Al ritmo de crecimiento actual, el número de usuarios que acceden a aplicaciones de IA se duplicará en los próximos siete meses. Durante el mismo periodo de tiempo, el número de aplicaciones de IA en uso en la empresa se mantuvo estable, con organizaciones con más de 1.000 usuarios con una media de 3 aplicaciones de IA diferentes al día, y organizaciones con más de 10.000 usuarios con una media de 5 aplicaciones de IA al día. A finales de junio, 1 de cada 100 usuarios empresariales interactuaba con una aplicación de IA cada día.

La popularidad de las aplicaciones de IA se basa en el número de usuarios empresariales

La aplicación de IA empresarial más popular por un amplio margen es ChatGPT, con más de 8 veces más usuarios activos diarios que cualquier otra aplicación de IA. ChatGPT ha sido el centro de mucha publicidad durante los últimos seis meses y también es muy versátil, lo que probablemente contribuya a su popularidad. La siguiente aplicación más popular es Grammarly, que se centra exclusivamente en la asistencia para escribir. Bard, el chatbot de Google, se encuentra justo por debajo de Grammarly. Todas las demás aplicaciones de IA combinadas (de las cuales estamos rastreando más de 60, incluidas Jasper, Chatbase y Copy.ai) son menos populares que Google Bard.

Aplicaciones de IA más populares por porcentaje del total de usuarios diarios de IA

En los últimos dos meses, la aplicación de IA de más rápido crecimiento en la empresa fue Google Bard. Aunque todavía está muy por detrás de ChatGPT en popularidad, Google Bard está sumando usuarios a un ritmo del 7,1% por semana, en comparación con el 1,6% de ChatGPT. Al ritmo actual, Google Bard está a punto de alcanzar a ChatGPT en poco más de un año. Sin embargo, dado que el espacio de las aplicaciones de IA es muy dinámico, esperamos ver muchos más cambios durante ese tiempo que interrumpirán las tasas de crecimiento actuales.

Netskope Threat Labs realiza un seguimiento de la popularidad de las aplicaciones de IA en entornos empresariales, más que de la popularidad general de las aplicaciones entre los consumidores. Por ejemplo, mientras que la popularidad de ChatGPT se disparó entre los consumidores antes de enfriarse en junio, su adopción en la empresa ha sido más mesurada y sigue aumentando exponencialmente. El resto de este Informe destaca algunas de las razones del aumento medido, que incluyen los riesgos de fuga de datos y los controles en torno a su uso.

Aplicaciones de IA de más rápido crecimiento por número de usuarios activos diarios agregados semanalmente

Riesgos de IA: datos confidenciales

Este segmento se centra en ChatGPT, la aplicación de IA líder en la empresa por un amplio margen. Un usuario promedio de ChatGPT interactúa con la aplicación publicando 6 avisos diarios. El nivel de actividad varía según el usuario, ya que el 10% de los usuarios que publican 22 mensajes y el 1% que publica 68 mensajes diarios. Por cada 10.000 usuarios, una Organización puede esperar unas 660 solicitudes diarias a ChatGPT. Pero la verdadera pregunta radica en el contenido de estas indicaciones: ¿Son consultas inofensivas o revelan inadvertidamente datos confidenciales?

Un estudio de Netskope reveló que el código fuente era el tipo de datos confidenciales expuesto con más frecuencia, ya que 22 de cada 10.000 usuarios empresariales publican código fuente en ChatGPT al mes. En total, esos 22 usuarios son responsables de un promedio de 158 publicaciones que contienen código fuente por mes. Esta tendencia no es del todo inesperada, teniendo en cuenta la capacidad de ChatGPT para revisar y explicar el código y localizar errores y vulnerabilidades de seguridad. Si bien estos servicios son beneficiosos, compartir código fuente confidencial con ChatGPT presenta riesgos que incluyen posibles violaciones de datos, divulgación accidental de datos y riesgos legales y regulatorios.

Usuarios que publican datos confidenciales por cada 10.000 mil usuarios empresariales al mes

En comparación con el código fuente, las publicaciones que contienen otras formas de datos confidenciales son relativamente menos comunes. Por cada 10.000 usuarios empresariales, suele haber 18 incidentes de intercambio de datos regulados (que abarcan datos financieros, información sanitaria e información de identificación personal) al mes. La propiedad intelectual (excluyendo el código fuente) es aún más rara, con una media de 4 incidentes al mes por cada 10.000 usuarios. Curiosamente, las contraseñas y las claves también aparecen entre los tipos de datos confidenciales compartidos, generalmente incrustados en el código fuente. A pesar de su relativa poca frecuencia (alrededor de 4 incidentes por cada 10.000 usuarios al mes), esta práctica sirve como un recordatorio crucial para los ingenieros de software sobre los riesgos de codificar secretos en el código fuente.

Incidentes de usuarios que publican datos confidenciales por cada 10.000 mil usuarios empresariales al mes

Atacantes oportunistas

Con todo el revuelo que rodea a ChatGPT y a las aplicaciones de IA en general, no es de extrañar que los estafadores, ciberdelincuentes y otros atacantes intenten explotar el bombo publicitario para obtener ganancias ilícitas. Esta es una práctica común entre los atacantes. Por ejemplo, el Informe sobre Nube y Amenazas de Netskope Threat Labs de la primavera de 2023 destacaba a los atacantes que intentaban sacar provecho de la guerra ruso-ucraniana, el terremoto en Turquía y Siria y el colapso del Silicon Valley Bank. El bombo y la popularidad de ChatGPT atraen la atención de atacantes y estafadores debido a la gran cantidad de objetivos y al potencial de beneficios, combinados con la variada competencia de los usuarios de la Plataforma.

A lo largo del primer semestre de 2023, Netskope Threat Labs ha rastreado múltiples campañas de suplantación de identidad, campañas de distribución de Malware y sitios web de spam y fraude que buscan sacar provecho del bombo publicitario del ChatGPT. Netskope Threat Labs está rastreando incluso varios proxies ChatGPT, sitios que parecen ofrecer la ventaja de un acceso gratuito y no autenticado al chatbot, pero a costa de revelar todas sus indicaciones y respuestas al operador del proxy.

Un proxy de ChatGPT en el que el operador del proxy ve todas las indicaciones y respuestas

En total, Netskope Threat Labs está rastreando actualmente más de 1.000 URL y dominios maliciosos que buscan sacar provecho del bombo publicitario de ChatGPT y la IA. El número por sí solo es un recordatorio de la importancia de utilizar un enfoque de múltiples capas para proteger a los usuarios de los atacantes que intentan capitalizar la exageración y la popularidad que rodea a cualquier evento o tendencia importante. Este enfoque debe incluir el filtrado de dominios, el filtrado de URL y la inspección de contenido para protegerse contra ataques conocidos y desconocidos.

Controles empresariales

Aunque una práctica común cuando ChatGPT empezó a ganar popularidad era que las empresas bloquearan el chatbot por completo, desde entonces las organizaciones han aceptado el hecho de que ChatGPT y otras aplicaciones de IA pueden ofrecer ventajas a la organización, como mejorar las operaciones, mejorar la experiencia de los clientes y facilitar la toma de decisiones basada en datos. En lugar de bloquear ChatGPT, las organizaciones han pasado a un modelo más permisivo que suele incluir una combinación de DLP y formación del usuario. La DLP puede utilizarse para identificar datos potencialmente sensibles que se publican en aplicaciones de IA, como ChatGPT, y el entrenamiento de los usuarios puede dejar al usuario la decisión final de si proceder o no con un mensaje.

Organización que coloca controles en torno a ChatGPT

Los controles específicos en torno al ChatGPT varían según la vertical del sector. En general, las empresas de servicios financieros, atención médica y tecnología han liderado la implementación de controles en torno a ChatGPT. Sin embargo, el enfoque que ha adoptado cada sector varía significativamente. En los servicios financieros y la sanidad, ambos sectores muy regulados, casi 1 de cada 5 organizaciones ha implantado una prohibición general. Ningún usuario puede usar ChatGPT. En el vertical tecnológico, sólo 1 de cada 20 organizaciones ha aplicado una prohibición general. En cambio, 1 de cada 4 organizaciones utiliza controles DLP para detectar tipos específicos de información sensible (especialmente código fuente) que se publica en ChatGPT. Además, 1 de cada 5 organizaciones tecnológicas implementan el coaching de usuarios en tiempo real para recordarles la Política de la empresa y los riesgos que conllevan ChatGPT y otras aplicaciones de IA. En última instancia, es probable que, con el tiempo, más organizaciones adopten controles DLP y asesoramiento de usuarios en tiempo real para permitir el uso de aplicaciones de IA como ChatGPT y, al mismo tiempo, protegerse contra la exposición de datos no deseados.

Tipo de controles ChatGPT por Sector vertical

Recomendaciones

Permitir de forma segura la adopción de aplicaciones de IA en la empresa es un desafío multifacético. Implica identificar las aplicaciones permitidas e implantar controles que permitan a los usuarios utilizarlas al máximo, al tiempo que protegen a la Organización de los riesgos. Esta sección incluye recomendaciones técnicas generales para la Organización que pretenda habilitar aplicaciones de IA de forma segura. Si desea información más detallada sobre cómo puede ayudarle Netskope, consulte el resumen de la solución ChatGPT y protección de datos de IA generativa.

→ Revise periódicamente la actividad de las aplicaciones de IA, las tendencias, los comportamientos y la sensibilidad de los datos, para identificar los riesgos para la Organización.

→ Bloquee el acceso a aplicaciones que no sirvan a ningún propósito comercial legítimo o que representen un riesgo desproporcionado. Un buen punto de partida es una Política para permitir las aplicaciones de buena reputación actualmente en uso mientras se bloquean todas las demás.

→ Utilice DLP Política para detectar los mensajes que contengan información potencialmente sensible, incluyendo código fuente, datos regulados, contraseñas y claves, y propiedad intelectual.

→ Emplee coaching de usuario en tiempo real (combinado con DLP) para recordar a los usuarios la Política de la empresa en torno al uso de apps de IA en el momento de la interacción.

Bloquee a los atacantes oportunistas que intentan aprovecharse de la creciente popularidad de las aplicaciones de IA bloqueando dominios y URL maliciosos conocidos, e inspeccionando todo el contenido HTTP y HTTPS.

→ Utilice la tecnología Remote Browser Isolation (RBI) para proporcionar una protección adicional cuando exista la necesidad de visitar sitios web de categorías que puedan presentar un mayor riesgo, como los dominios recién observados y recién registrados.

→ Asegúrese de que todas las defensas de seguridad compartan inteligencia y trabajen juntas para optimizar las operaciones de seguridad. Netskope los clientes pueden utilizar Cloud Exchange para compartir IOC, importar información sobre amenazas, exportar registros de eventos, automatizar el flujo de trabajo e intercambiar puntuaciones de riesgo.

Acerca de este informe

Netskope Threat Labs publica trimestralmente un Informe sobre Nube y Amenazas para destacar un conjunto específico de retos de ciberseguridad. El propósito de este Informe es proporcionar visibilidad sobre los riesgos de ciberseguridad que presentan las aplicaciones de IA y cómo las Organizaciones están gestionando esos riesgos. El análisis presentado en este Informe se basa en un estudio de millones de usuarios de miles de Organizaciones de todo el mundo, para el periodo comprendido entre el 1 de mayo de 2023 y el 30 de junio de 2023. Las estadísticas son un reflejo de las tácticas de los atacantes, del comportamiento de los usuarios y de la Organización Política. La información presentada en este Informe se basa en datos de uso anonimizados recopilados por la Netskope Security Cloud Plataforma relativos a un subconjunto de clientes de Netskope con autorización previa.

Netskope Threat Labs

Integrado por los investigadores más destacados del sector en materia de amenazas en la nube y Malware, Netskope Threat Labs descubre, analiza y diseña defensas contra las últimas amenazas de Web, la nube y los datos que afectan a las empresas. Nuestros investigadores son presentadores y voluntarios habituales en las principales conferencias de seguridad, incluidas DEF CON, Black Hat y RSA.

Informes de nube y amenazas

El informe Netskope Cloud and Threat Report ofrece una visión única sobre la adopción de aplicaciones en la nube, los cambios en el panorama de las amenazas en la nube y los riesgos para los datos de la empresa.

Examinar informes

Tormenta con relámpagos sobre la ciudad por la noche

Acelere su estrategia de seguridad con el líder en SASE.

¡Empezar!