Relatório sobre nuvem e ameaças:
Generative AI 2025

Este relatório detalha o aumento da adoção da IA generativa (GenAI), observando um aumento significativo no uso e no volume de dados no ano passado. Embora o GenAI ofereça muitos benefícios, ele também apresenta riscos à segurança de dados, principalmente por meio da TI paralela e do vazamento de informações confidenciais; no entanto, as organizações podem mitigar esses riscos implementando controles robustos, como bloqueio, DLP e treinamento de usuários em tempo real.

Relatório de nuvem e ameaças
Generative AI 2025

Introdução Riscos generativos de dados de IA IA generativa em todos os lugares IA generativa em ascensão

Volume de dados Contagem de usuários Contagem de aplicativos

Shadow IT/Shadow AI DeepSeek: um estudo de caso sobre a adoção precoce da IA generativa Adoção local de IA generativa Redução generativa do risco de IA

Bloqueio Coaching do usuário em tempo real Prevenção contra a perda de dados

Uma perspectiva do CISO Netskope Threat Labs Sobre este relatório

19 minutos de leitura

Introdução

O Relatório Generativo de Nuvem e Ameaças de IA de 2025 destaca a crescente adoção do GenAI, o aumento do risco que o GenAI representa e as estratégias que as organizações adotaram para reduzir esse risco. Quando publicamos pela primeira vez um relatório generativo de nuvem e ameaças de IA em 2023, o GenAI ainda era uma tecnologia nascente, virtualmente sinônimo do ChatGPT. O recém-lançado Bard (agora Gemini) do Google adicionou usuários rapidamente, mas estava longe de desafiar o domínio do ChatGPT. Apenas 1 em cada 100 usuários corporativos estava usando aplicativos GenAI. Avançando para 2025: quase 1 em cada 20 usuários corporativos está usando aplicativos GenAI, e ainda mais estão usando o GenAI indiretamente ou contribuindo com dados para treinar modelos de IA. Atualmente, a Netskope está monitorando o uso de 317 aplicativos genAI distintos em nossa base de mais de 3.500 clientes.

Este relatório tem como objetivo fornecer uma contabilidade baseada em dados das principais tendências da GenAI, destacando a adoção, o risco e a redução do risco. Ele começa examinando o quão difundido o GenAI se tornou, destaca os riscos de dados relacionados à sua adoção e analisa os diferentes tipos de controles que as organizações usam para reduzir o risco. Dado o momento em que este relatório foi publicado — poucos meses após o lançamento do DeepSeek-v3 causar polêmica em relação ao custo e à eficiência relatados — ele também inclui um estudo de caso sobre o DeepSeek. O estudo de caso ilustra o que acontece quando uma nova e intrigante ferramenta GenAI é lançada e destaca as melhores práticas para reduzir os riscos associados.

O restante deste relatório fornece um mergulho mais profundo no seguinte:

O GenAI é um risco crescente de segurança de dados: a quantidade de dados enviados aos aplicativos GenAI em solicitações e uploads aumentou mais de 30 vezes no ano passado, aumentando os volumes de exposição de dados confidenciais, especialmente código-fonte, dados regulamentados, propriedade intelectual e segredos.
O GenAI está em toda parte: enquanto a maioria das organizações (90%) usa aplicativos GenAI, ainda mais (98%) usa aplicativos que incorporam os recursos do GenAI. Embora os aplicativos GenAI sejam usados por uma população relativamente pequena (4,9% dos usuários), a maioria usa aplicativos que incorporam recursos do GenAI (75% dos usuários).
A GenAI é a TI paralela: a maior parte do uso da GenAI na empresa (72%) é a TI paralela, conduzida por indivíduos que usam contas pessoais para acessar os aplicativos da GenAI.
A redução do risco do GenAI é possível: o bloqueio, a prevenção da perda de dados (DLP) e o treinamento do usuário em tempo real estão entre os controles mais populares para reduzir o risco do GenAI.

resposta de teste

Riscos generativos de dados de IA

A segurança dos dados é o principal risco que as organizações enfrentam quando seus usuários adotam os aplicativos GenAI. Esse risco surge de dois dos casos de uso mais populares do GenAI na empresa:

Resumo: os aplicativos GenAI se destacam em resumir grandes documentos, grandes conjuntos de dados e código-fonte, gerando o risco de que indivíduos enviem dados confidenciais aos aplicativos GenAI para resumi-los.
Geração: os aplicativos GenAI se destacam na geração de texto, imagens, vídeos e código-fonte, aumentando o risco de que indivíduos que trabalham em projetos confidenciais passem dados confidenciais aos aplicativos GenAI para gerar ou aprimorar conteúdo.

A principal fonte dos riscos de dados relacionados ao seu uso é que os casos de uso de resumo e geração exigem que o usuário envie dados aos aplicativos GenAI para fornecer valor. Para agravar esses riscos, há fatores adicionais, como o número de aplicativos no mercado e a proliferação de aplicativos GenAI como TI paralela na empresa, que abordaremos com mais detalhes posteriormente neste relatório. As organizações que usam o Netskope para proteger seus dados confidenciais geralmente se preocupam com quatro tipos diferentes de dados confidenciais que fluem para os aplicativos genAI:

Propriedade intelectual: a propriedade intelectual vaza para os aplicativos GenAI quando os usuários buscam analisar listas de clientes, contratos e outros documentos contendo segredos comerciais ou dados confidenciais que uma organização deseja proteger.
Senhas e chaves: senhas e chaves geralmente vazam para os aplicativos GenAI quando incorporadas em trechos de código.
Dados regulamentados: os dados regulamentados incluem dados pessoais, de saúde e financeiros altamente confidenciais e, com mais frequência, vazam para os aplicativos da GenAI em setores que trabalham com esses dados, especialmente serviços financeiros e de saúde.
Código-fonte: um caso de uso popular dos aplicativos GenAI é ajudar a resumir, gerar ou editar o código-fonte, fazendo com que os usuários vazem inadvertidamente código-fonte confidencial para aplicativos não aprovados.

A figura a seguir mostra a frequência com que esses cinco tipos de dados são enviados aos aplicativos GenAI violando as políticas da organização, com o código-fonte representando quase metade de todas as violações, seguido por dados regulamentados, propriedade intelectual, senhas e chaves. O restante deste relatório tem como alvo líderes de segurança em organizações preocupadas com esses dados confidenciais. Como uma organização pode proteger seus dados mais confidenciais contra exposição indesejada e, ao mesmo tempo, permitir que seus usuários aproveitem os aplicativos GenAI?

Relatório de nuvem e ameaças - Generative AI 2025 - Tipo de violação da política de dados para aplicativos GenAI

IA generativa em todos os lugares

A IA generativa está em toda parte. Em 2022, a principal questão das organizações era se os benefícios de permitir o ChatGPT superavam os riscos. Hoje, a Netskope está monitorando 317 aplicativos de genAI, cada um deles suscitando uma série de perguntas um pouco mais matizadas: Quais aplicativos devemos permitir e quais controles devemos implementar para reduzir os riscos de segurança de dados para esses aplicativos? A figura a seguir detalha a porcentagem de organizações que usam cada um dos 10 principais aplicativos GenAI, ressaltando que a maioria das organizações decidiu permitir vários aplicativos GenAI.

Relatório de nuvem e ameaças - Generative AI 2025 - Aplicativos GenAI mais populares com base na porcentagem de organizações que usam esses aplicativos

A figura a seguir apresenta a popularidade dos mesmos 10 aplicativos no ano passado, ilustrando o cenário de IA em rápida mudança e quantas organizações estão tomando essas decisões ativamente. Até mesmo aplicativos geralmente considerados onipresentes, como o ChatGPT, estão sendo introduzidos em algumas organizações pela primeira vez. Novatos como o Microsoft 365 Copilot estão atualmente na fase de adoção rápida, semelhante ao que o Microsoft Copilot viu no início de 2024. Outros, como Google Gemini, Anthropic Claude, GitHub Copilot e Gamma, estão sendo gradualmente introduzidos em novas organizações. O Google Gemini está lentamente fechando a lacuna com o ChatGPT.

Relatório de nuvem e ameaças - Generative AI 2025 - Aplicativos mais populares por porcentagem de organizações

Além das decisões que as organizações precisam tomar sobre centenas de aplicativos GenAI, as organizações também devem considerar as centenas de aplicativos adicionais que agora fornecem recursos baseados no GenAI. Exemplos desses aplicativos incluem:

Gladly: uma plataforma de experiência do cliente que usa IA para agilizar a comunicação com o cliente.
Insider: uma plataforma de gerenciamento de crescimento que usa IA para analisar dados de clientes e otimizar mensagens granulares.
Lattice: software de RH que usa IA para resumir os dados dos funcionários, oferecer assistência na redação e criar vídeos de integração personalizados para novas contratações.
LinkedIn: uma rede social que usa o GenAI para ajudar seus usuários na criação de conteúdo (postagens, perfis, descrições de cargos etc.) e aproveita os dados do usuário para treinar novos modelos.
Moveworks: uma plataforma de suporte de TI que usa IA para automação de tarefas, recuperação de informações, suporte multilíngue e otimização do fluxo de trabalho orientado por IA em todos os sistemas de negócios.

A figura a seguir mostra que a maioria das organizações usa o GenAI de alguma forma atualmente.

90% das organizações têm usuários acessando diretamente os aplicativos GenAI, como ChatGPT, Google Gemini e GitHub Copilot.
98% das organizações têm usuários acessando aplicativos que fornecem recursos baseados em GenAI, como Gladly, Insider, Lattice, LinkedIn e Moveworks.

Relatório de nuvem e ameaças - Generative AI 2025 - Porcentagem de organizações

No nível do usuário, essas diferenças são ainda mais pronunciadas. Embora a maioria das organizações use os aplicativos GenAI diretamente, a população de usuários dessas organizações ainda é relativamente pequena (4,9% dos usuários). Por outro lado, aplicativos que incorporam recursos baseados em GenAI são muito mais comuns (75% dos usuários).

Relatório de nuvem e ameaças - Generative AI 2025 - Porcentagem média de usuários

O objetivo das duas figuras anteriores é ressaltar que o uso do GenAI na empresa é ainda mais difundido do que parece à primeira vista. Os aplicativos que incorporam indiretamente os recursos do GenAI apresentam os mesmos riscos que os aplicativos do GenAI. Para ajudar a fornecer visibilidade abrangente do risco de IA generativa, a Netskope fornece o Cloud Confidence Index, que rastreia esses e muitos outros atributos para mais de 82.000 aplicativos em nuvem.

IA generativa em ascensão

A adoção generativa da IA está aumentando na empresa de acordo com muitas medidas diferentes. Ainda assim, nenhum é tão importante do ponto de vista da segurança de dados quanto a quantidade de dados enviados aos aplicativos GenAI: cada postagem ou upload é uma oportunidade de exposição de dados. Esta seção destaca que a quantidade de dados enviados aos aplicativos GenAI aumentou mais de 30 vezes no ano passado. Isso é 30 vezes o número de postagens e uploads e 30 vezes as oportunidades de exposição de dados confidenciais do que há um ano. Além disso, esperamos que o volume de dados que flui para os aplicativos GenAI continue a aumentar a uma taxa semelhante ao longo de 2025.

O crescimento na quantidade de dados enviados aos aplicativos GenAI supera em muito o aumento no número de usuários GenAI e no número de aplicativos GenAI. Embora a base de usuários dos aplicativos GenAI permaneça relativamente pequena no futuro próximo, os riscos de dados aumentarão dramaticamente à medida que a quantidade de uso do GenAI aumentar entre essa população. O restante desta seção fornece informações mais detalhadas sobre o aumento do volume de dados, da contagem de usuários e do número de aplicativos que observamos no ano passado.

Volume de dados

Embora a população de usuários da GenAI seja muito pequena em relação à população total da empresa, a quantidade de dados que esses usuários enviam para os aplicativos da GenAI está aumentando rapidamente. No ano passado, a quantidade média de dados enviados aos aplicativos GenAI a cada mês (principalmente em solicitações e uploads) aumentou mais de 30 vezes, de apenas 250 MB por mês para 7,7 GB. Os 25% principais das organizações tiveram um aumento semelhante de mais de 790 MB por mês para mais de 20 GB por mês. O rápido aumento no volume de dados enviados aos aplicativos GenAI aumenta significativamente o risco de segurança de dados. Mais dados significam maior potencial para que informações confidenciais sejam expostas ou manipuladas incorretamente por esses aplicativos. Esperamos ver mais de 15 GB enviados para os aplicativos GenAI, em média, a cada mês até o final de 2025.

Relatório de nuvem e ameaças - Generative AI 2025 - Dados enviados para aplicativos GenAI por organização, volume médio de dados com área sombreada mostrando o 1º e o 3º quartis

Contagem de usuários

Embora a maioria das organizações use o GenAI, uma porcentagem pequena, mas cada vez maior, de usuários está usando ativamente os aplicativos GenAI. O número de pessoas usando aplicativos GenAI na empresa quase dobrou no ano passado, com uma média de 4,9% das pessoas em cada organização usando aplicativos GenAI, conforme mostrado na figura abaixo. O uso ativo no contexto do GenAI significa enviar solicitações aos chatbots ou interagir de forma significativa com o aplicativo. Os 25% principais das organizações têm pelo menos 17% de sua população de usuários usando ativamente os aplicativos GenAI, enquanto os 10% principais têm mais de um terço (35%) de seus usuários usando ativamente os aplicativos GenAI. Esperamos que essa tendência continue ao longo de 2025.

Relatório de nuvem e ameaças - Generative AI 2025 - Porcentagem média de usuários GenAI por mês com área sombreada mostrando o 1º e o 3º quartis

Contagem de aplicativos

O número de aplicativos GenAI que cada organização usa continua aumentando gradualmente, e agora há quase seis aplicativos GenAI diferentes em uso, em média. Os 25% principais das organizações usam pelo menos 13 aplicativos e o 1% superior (não ilustrado) usa pelo menos 40. Como a Netskope está monitorando 317 aplicativos de IA distintos no total e o investimento agressivo em startups de IA continua, esperamos que o número de aplicativos que cada organização usa continue a aumentar ao longo de 2025. O aumento no número de aplicativos ressalta a importância de implementar controles para limitar os riscos associados a novos aplicativos. Posteriormente neste relatório, fornecemos um estudo de caso detalhado do DeepSeek-R1 para mostrar como várias organizações reagiram durante a rápida adoção do novo chatbot.

Relatório de nuvem e ameaças - Generative AI 2025 - Mediana de aplicativos GenAI por organização com área sombreada mostrando o 1º e o 3º quartis

Shadow IT/Shadow AI

A adoção do aplicativo GenAI na empresa seguiu o padrão típico dos novos serviços em nuvem: usuários individuais usando contas pessoais para acessar o aplicativo. O resultado é que a maior parte do uso de aplicativos GenAI na empresa pode ser classificada como TI paralela, um termo usado para descrever soluções usadas sem o conhecimento ou a aprovação do departamento de TI. Um novo termo, Shadow AI, foi cunhado especificamente para o caso especial das soluções de IA. O termo “sombra” em Shadow IT e Shadow AI tem como objetivo evocar a ideia de que os aplicativos estão ocultos, não oficiais e operam fora dos processos padrão. Ainda hoje, mais de dois anos após o lançamento do ChatGPT dar início à mania do GenAI, a maioria (72%) dos usuários do GenAI ainda usa contas pessoais para acessar o ChatGPT, o Google Gemini, o Grammarly e outros aplicativos populares do GenAI no trabalho.

A figura a seguir mostra quantas pessoas usaram contas pessoais da GenAI no trabalho no ano passado. Esse número diminuiu gradualmente de 82% há um ano para 72% hoje. Embora essa seja uma tendência encorajadora, ainda há um longo caminho a percorrer antes que a maioria dos usuários mude para contas gerenciadas por sua organização. No ritmo atual, a maioria dos usuários ainda usará contas pessoais até 2026. Uma pequena fração dos usuários (5,4%) usa uma combinação de contas pessoais e contas gerenciadas pela organização, indicando que mesmo em organizações nas quais existem aplicativos gerenciados pela empresa, muitos usuários ainda estão usando contas pessoais.

Relatório de nuvem e ameaças - Generative AI 2025 - Uso do GenAI: divisão de contas pessoais versus organizacionais

Como a maioria dos usuários do GenAI usa contas pessoais, a distribuição de violações da política de dados para contas pessoais não é substancialmente diferente da distribuição mais ampla. A figura a seguir mostra a distribuição, com as violações do código-fonte sendo as mais comuns, seguidas por dados regulamentados, propriedade intelectual, senhas e chaves.

Relatório de nuvem e ameaças - Generative AI 2025 - Tipo de violação da política de dados para aplicativos pessoais da GenAI

DeepSeek: um estudo de caso sobre a adoção precoce da IA generativa

Em 20 de janeiro de 2025, a empresa chinesa DeepSeek lançou seu primeiro chatbot baseado no modelo DeepSeek-R1. A DeepSeek afirma ter treinado o modelo com custos significativamente menores do que o OpenAI-O1 e com substancialmente menos poder de computação do que o Llama-3.1. Essas alegações levantaram questões sobre se agora havia uma barreira menor para entrar no campo do GenAI, se o DeepSeek-R1 aceleraria a inovação do GenAI e se o DeepSeek-R1 interromperia o cenário competitivo. Essas perguntas resultaram em uma cobertura significativa da mídia e despertaram o interesse dos entusiastas da GenAI em todo o mundo.

A figura a seguir mostra a porcentagem de organizações em que as pessoas usaram ou tentaram usar o DeepSeek nas semanas após o lançamento do DeepSeek-R1. No auge, 91% das organizações em todo o mundo tinham usuários tentando acessar o DeepSeek, com 75% bloqueando todo o acesso, 8% usando políticas granulares de controle de acesso e 8% permitindo todo o acesso. Esses 75% das organizações que bloquearam o acesso tinham políticas preventivas para bloquear aplicativos GenAI que a organização de segurança não havia aprovado. As políticas de bloqueio preventivo mitigaram com sucesso os riscos de segurança de dados de novos usuários que experimentaram o DeepSeek. Nas semanas seguintes, o interesse diminuiu e a porcentagem de organizações com usuários do DeepSeek diminuiu semana após semana.

Relatório de nuvem e ameaças - Generative AI 2025 - Porcentagem de organizações com usuários do DeepSeek por semana

A figura a seguir mostra uma visão ainda mais granular, analisando o número diário de usuários na plataforma e detalhando quem foi bloqueado e autorizado. No pico, 0,16% dos usuários em uma organização média tentaram usar o DeepSeek e foram bloqueados, enquanto 0,002% dos usuários foram permitidos. Após o pico inicial, o número de usuários tentando usar o DeepSeek diminuiu à medida que o interesse diminuiu e os usuários mudaram seu comportamento em resposta aos bloqueios.

O gráfico também mostra que, embora 91% das organizações tivessem usuários tentando usar o DeepSeek, a população total de usuários era muito pequena. A adoção antecipada limitada é típica de novas tecnologias. A baixa população de adotantes precoces significa que os riscos de implementar políticas de bloqueio preventivo terão pouco impacto negativo nos negócios.

Relatório de nuvem e ameaças - Generative AI 2025 - Porcentagem média de pessoas usando o DeepSeek

Este estudo de caso da DeepSeek apresenta lições essenciais para organizações que visam reduzir seus riscos de segurança de dados em torno de aplicativos de IA recém-lançados:

Os primeiros usuários dos novos aplicativos GenAI estão presentes em quase todas as organizações (91%). Os primeiros usuários representam um risco de segurança considerável quando enviam dados confidenciais para esses aplicativos.
A maioria das organizações adotou uma política de “bloquear primeiro e fazer perguntas depois” para novos aplicativos GenAI. Em vez de tentar bloquear novos aplicativos que seus usuários possam experimentar, eles permitem explicitamente certos aplicativos e bloqueiam todos os outros. Esse tipo de política é excelente para redução de riscos, pois dá à organização visibilidade sobre quem está testando o aplicativo e permite que ela tenha tempo para concluir uma análise adequada. Como a população de adotantes precoces é pequena, os possíveis impactos negativos nos negócios são limitados.

Adoção local de IA generativa

Uma forma de gerenciar os riscos de dados criados pelos aplicativos GenAI baseados em nuvem é executar a infraestrutura GenAI localmente. A execução local está se tornando mais acessível, possibilitada por organizações como a DeepSeek e a Meta, que disponibilizaram seus modelos para download, por ferramentas como a Ollama e o LM Studio, que fornecem ferramentas para permitir a execução local de modelos, e por comunidades como a Hugging Face, que facilitam o compartilhamento de modelos e dados. Algumas organizações até treinam seus próprios modelos, usam a geração aumentada de recuperação (RAG) para combinar o GenAI e a recuperação de informações ou criar suas próprias ferramentas com base nos modelos existentes.

No ano passado, o número de organizações que administram localmente a infraestrutura GenAI aumentou dramaticamente, de menos de 1% para 54%. A maior parte do crescimento ocorreu no primeiro semestre de 2024 e, desde então, se estabilizou. Esperamos que essa tendência continue com ganhos apenas modestos no próximo ano. Como esperado, a população de usuários que administra a infraestrutura GenAI local é muito pequena, com menos de 0,1% dos usuários em média. Entre essa população de usuários, o Ollama é a ferramenta mais popular para permitir a execução de modelos localmente, e o Hugging Face é o local mais popular para baixar modelos, ferramentas e outros recursos.

Relatório de nuvem e ameaças - Generative AI 2025 - Organizações que usam o GenAI localmente

A mudança do uso de aplicativos GenAI para modelos GenAI locais muda o cenário de risco, introduzindo vários riscos adicionais. O OWASP Top 10 para aplicativos de modelos de linguagem grande fornece uma estrutura para pensar sobre esses riscos, que incluem:

Cadeia de suprimentos: você pode confiar em todas as ferramentas e modelos que usa?
Vazamento de dados: seu sistema expõe informações confidenciais de treinamentos, fontes de dados conectadas ou outros usuários?
Manipulação inadequada da saída: algum sistema que processa as saídas GenAI está fazendo isso com segurança?

O Mitre Atlas é outra estrutura para considerar os riscos da IA. Ele fornece uma visão granular dos ataques contra sistemas de IA. Aqueles que executam sistemas GenAI autogerenciados também devem considerar esses ataques, que incluem:

Injeção imediata: os adversários podem criar solicitações para fazer com que o modelo forneça saídas indesejadas?
Jailbreaks: os adversários podem contornar controles, restrições e barreiras de proteção?
Extração de meta-prompt: os adversários podem revelar detalhes do funcionamento interno do sistema?

Em outras palavras, a mudança de aplicativos GenAI baseados em nuvem para modelos GenAI hospedados localmente reduz o risco de exposição indesejada de dados a terceiros, mas apresenta vários riscos adicionais. Treinar seus próprios modelos ou usar o RAG expande ainda mais esses riscos. No entanto, o que estamos vendo até agora não é uma tendência de uso de serviços em nuvem. Conforme destacamos anteriormente neste relatório, o número de pessoas que usam aplicativos em nuvem GenAI, o número de aplicativos em uso e a quantidade de dados enviados para esses aplicativos estão aumentando. Em vez disso, estamos vendo a adição da infraestrutura GenAI hospedada localmente aos aplicativos GenAI baseados em nuvem que já estão em uso. A hospedagem local de modelos GenAI representa um risco aditivo.

Redução generativa do risco de IA

Mais de 99% das organizações estão aplicando políticas para reduzir os riscos associados aos aplicativos GenAI. Essas políticas incluem bloquear todos ou a maioria dos aplicativos GenAI para todos os usuários, controlar quais populações específicas de usuários podem usar aplicativos GenAI e controlar os dados permitidos nos aplicativos GenAI. As seções a seguir detalham as políticas específicas mais populares.

Bloqueio

O bloqueio é a estratégia mais direta para reduzir riscos e, portanto, a mais popular. O desafio do bloqueio é duplo. Primeiro, o bloqueio pode impactar os negócios ao limitar a produtividade do usuário. Em segundo lugar, o bloqueio pode levar os usuários a serem criativos, como usar dispositivos pessoais ou redes móveis pessoais para evitar bloqueios. Embora 83% das organizações usem políticas de bloqueio para alguns aplicativos, o escopo dessas políticas é direcionado. A figura a seguir mostra que o número de aplicativos ativamente bloqueados (isso significa que há uma política para bloquear o aplicativo e os usuários estão tentando usar o aplicativo de qualquer maneira) em toda a organização (isso significa que ninguém na organização tem permissão para usá-lo) está aumentando gradualmente, com quatro aplicativos, em média, bloqueados atualmente. Os 25% principais das organizações bloqueiam pelo menos 20 aplicativos, enquanto o 1% superior (não ilustrado) bloqueia mais de 100 aplicativos.

Relatório de nuvem e ameaças - Generative AI 2025 - Mediana do número de aplicativos bloqueados por organização com área sombreada mostrando o 1º e o 3º quartis

O detalhamento dos 10 aplicativos mais comumente bloqueados na figura abaixo fornece informações sobre as estratégias de bloqueio em toda a organização. Os aplicativos mais populares (ChatGPT, Gemini, Copilot) não aparecem nesta lista, e os aplicativos que aparecem nessa lista têm muitas alternativas no mercado. No caso de haver muitas alternativas, as organizações usam políticas de bloqueio para direcionar seus usuários para aplicativos específicos aprovados e para longe de aplicativos não aprovados. Em alguns casos, como o Stable Diffusion (um gerador de imagens), o aplicativo pode não servir a nenhum propósito comercial legítimo.

Relatório de nuvem e ameaças - Generative AI 2025 - Aplicativos de IA mais bloqueados por porcentagem de organizações que promulgam uma proibição geral do aplicativo

Coaching do usuário em tempo real

A seção anterior mencionou essa noção de afastar os usuários de determinados aplicativos e direcioná-los para outros usando políticas de bloqueio. O treinamento de usuários em tempo real oferece uma alternativa mais sutil à política de bloqueio, que pode lembrar aos usuários que um aplicativo específico não foi aprovado para lidar com dados confidenciais, mas permite que o usuário final decida se quer ou não usá-lo. O treinamento do usuário em tempo real é eficaz porque capacita o usuário a tomar a decisão certa no momento. Também ajuda a moldar o comportamento do usuário, fornecendo feedback e orientação imediatos.

O coaching, uma política com mais nuances do que o bloqueio, é menos predominante, mas ainda está crescendo. 35% das organizações usam treinamento em tempo real para reduzir os riscos da GenAI. Esperamos que essa porcentagem aumente para mais de 40% no próximo ano. As organizações geralmente combinam o coaching com outras políticas, como políticas de prevenção de perda de dados.

Relatório de nuvem e ameaças - Generative AI 2025 - Porcentagem de organizações que usam treinamento de usuários em tempo real para controlar o acesso ao aplicativo GenAI

Prevenção contra a perda de dados

A prevenção de perda de dados (DLP) reduz os riscos associados aos aplicativos GenAI ao inspecionar solicitações e dados enviados aos aplicativos GenAI em tempo real. O DLP pode decidir se quer permitir ou bloquear o conteúdo com base nas regras configuradas pelos administradores. Propriedade intelectual, segredos, dados regulamentados e código-fonte são os quatro tipos mais comuns de dados que as organizações impedem de serem compartilhados com os aplicativos GenAI. Na foto abaixo, as políticas de DLP da GenAI cresceram em popularidade no início de 2025 e recentemente se estabilizaram, com 47% das organizações usando DLP para controlar o acesso ao aplicativo GenAI.

Relatório de nuvem e ameaças - Generative AI 2025 - Porcentagem de organizações que usam DLP para controlar o acesso ao aplicativo GenAI

Uma perspectiva do CISO

Os CISOs e líderes de segurança que estão lendo isso devem estar profundamente preocupados com os riscos de segurança de dados associados ao rápido crescimento do uso das tecnologias GenAI. Os aplicativos GenAI baseados em nuvem e os modelos GenAI hospedados localmente apresentam um risco crescente de exposição indesejada de dados e um novo conjunto de vulnerabilidades de segurança.

As organizações devem tomar medidas imediatas para gerenciar esses riscos de forma eficaz. Eu incentivo os líderes a revisarem a Estrutura de Gerenciamento de Riscos de IA do NIST, que fornece um roteiro valioso para as organizações governarem, mapearem, medirem e gerenciarem os riscos da GenAI.

As etapas específicas que as organizações podem adotar incluem o seguinte:

Avalie seu cenário GenAI: entenda quais aplicativos GenAI e infraestrutura GenAI hospedada localmente você está usando, quem os está usando e como eles estão sendo usados.
Reforce seus controles de aplicativos GenAI: revise e compare regularmente seus controles com as melhores práticas, como permitir somente aplicativos aprovados, bloquear aplicativos não aprovados, usar DLP para evitar que dados confidenciais sejam compartilhados com aplicativos não autorizados e aproveitar o treinamento de usuários em tempo real.
Faça um inventário de seus controles locais: se você estiver executando qualquer infraestrutura GenAI localmente, revise estruturas relevantes, como as 10 melhores aplicações de modelos de linguagem grande do OWASP, a Estrutura de Gerenciamento de Riscos de IA do NIST e o Mitre Atlas para garantir a proteção adequada de dados, usuários e redes.
É crucial monitorar continuamente o uso do GenAI em sua organização e manter-se informado sobre os novos desenvolvimentos na ética da IA, mudanças regulatórias e ataques adversos.

Todos os líderes cibernéticos e de risco devem priorizar os programas de governança e risco de IA para enfrentar os crescentes desafios impostos pelas tecnologias GenAI e sua adoção por meio de práticas paralelas de IA. Ao tomar medidas proativas para gerenciar esses riscos, podemos garantir a adoção e o uso seguros e responsáveis do GenAI em benefício de sua organização.

Netskope Threat Labs

Com a equipe dos principais pesquisadores de malware e ameaças na nuvem do setor, o Netskope Threat Labs descobre, analisa e projeta defesas contra as mais recentes ameaças na nuvem que afetam as empresas. Nossos pesquisadores são apresentadores regulares e voluntários nas principais conferências de segurança, incluindo DefCon, BlackHat e RSA.

Sobre este relatório

A Netskope oferece proteção contra ameaças a milhões de usuários em todo o mundo. As informações apresentadas neste relatório baseiam-se em dados de uso anônimos coletados pela plataforma Netskope One em relação a um subconjunto de clientes da Netskope com autorização prévia.

Este relatório contém informações sobre as detecções levantadas pelo Next Generation Secure Web Gateway (SWG) da Netskope, sem considerar a importância do impacto de cada ameaça individual. As estatísticas deste relatório são baseadas no período de 1º de fevereiro de 2024 a 28 de fevereiro de 2025. As estatísticas refletem as táticas do atacante, o comportamento do usuário e a política da organização.

Relatórios de nuvem e ameaças

O Netskope Cloud and Threat Report traz informações exclusivas sobre a adoção de aplicativos na nuvem, mudanças no panorama das ameaças preparadas para a nuvem e os riscos para os dados corporativos.

Procurar relatórios

Tempestade com relâmpagos sobre a cidade à noite

Acelere seu programa de segurança de nuvem, dados, IA e rede com o Netskope

Iniciar

Relatório sobre nuvem e ameaças: Generative AI 2025

Relatório de nuvem e ameaçasGenerative AI 2025