Relatório de IA da Netskope: 2026

Ir para uma seção

Resumo executivo e principais conclusões

Introdução

Categorizando os riscos da IA Adoção de IA: crescimento contínuo IA Sombra: Um platô IA Agencial: Um boom na programação

Plataformas de IA e soberania de dados

MCP: Interconexão em rápido crescimento Violações da política de dados: volume crescente ameaças adjacentes à IA Visibilidade, governança e proteção Sobre este relatório

Leitura de 20 minutos

Resumo executivo e principais conclusões

Em 2026, a estratégia de segurança de IA empresarial terá passado da descoberta reativa de IA paralela para a governança ativa e transacional de agentes de IA autônomos. A rápida proliferação da IA agente, juntamente com a ampla adoção do Protocolo de Contexto de Modelo (MCP) para conectar repositórios de dados internos com modelos externos, expandiu a superfície de risco empresarial para além da simples exfiltração de dados baseada em prompts. Este relatório analisa o panorama de segurança da IA resultante, caracteriza os riscos operacionais que vão desde violações de políticas de dados downstream até a execução autônoma de código malicioso e estabelece o mandato técnico para a inspeção do tráfego de IA e uma arquitetura de IA de confiança zero. Entre as principais conclusões deste relatório, destacam-se:

Riscos à segurança de dados: um aumento nas violações de políticas subsequentes.
As violações de políticas de dados downstream, em que um serviço de IA retorna dados confidenciais aos quais um usuário ou agente não está autorizado a acessar, estão aumentando acentuadamente, impulsionadas por um aumento de quatro vezes no tráfego MCP, à medida que as organizações continuam a conectar sistemas de IA a repositórios de dados confidenciais.
Riscos de agência: A mudança operacional para a codificação autônoma
O aumento no uso de agentes de codificação está impulsionando o crescimento do volume de tráfego de IA, maior interconexão de MCPs (Métodos de Controle de Plataformas) e maiores riscos de execução de código malicioso. Atualmente, 75% das organizações utilizam o Claude Code e 58% o Codex, um aumento expressivo em relação à adoção praticamente nula de um ano atrás.
Riscos adversários: Código malicioso, links e iscas
Com o aumento da adoção da IA, os adversários continuam a usar iscas de IA para enganar as vítimas e levá-las a baixar malware ou visitar páginas da web maliciosas. Ao mesmo tempo, os adversários estão se tornando cada vez mais hábeis em fazer com que os próprios aplicativos de IA revelem códigos maliciosos às suas vítimas, aumentando o risco de que agentes de codificação autônomos executem esse código ou o incorporem em bases de código mais amplas.

Introdução

À medida que a adoção da IA generativa amadurece nas empresas, a liderança em segurança passou do desafio inicial da descoberta de IA não autorizada para a exigência mais complexa de governança granular e transacional. Uma governança eficaz exige agora que as equipes de segurança vão além de políticas focadas principalmente em limitar o fluxo de dados para plataformas de IA de terceiros e, em vez disso, adotem uma estrutura estruturada de avaliação de riscos que avalie as interações de IA em quatro dimensões críticas: volume, direcionalidade, gravidade e intenção.

O cenário de ameaças empresariais mudou fundamentalmente, uma vez que as mesmas ferramentas que aumentam a produtividade (chatbots de IA, assistentes de IA, agentes de IA autônomos, servidores MCP, etc.) expandem simultaneamente a superfície de ataque. Embora as violações de políticas de dados a montante (em que usuários e agentes enviam dados confidenciais a terceiros, violando as políticas organizacionais) continuem sendo o ponto de falha mais frequente, os riscos críticos de adversários, incluindo injeção imediata, desbloqueio (jailbreaking) e execução subsequente de código malicioso, estão em ascensão, assim como as violações de políticas de dados a jusante resultantes da crescente interconectividade dos sistemas de IA. Este relatório oferece uma visão detalhada do cenário de riscos da IA empresarial e da base técnica para implementar a visibilidade, a governança e a proteção necessárias para garantir a segurança das implementações de IA nas empresas.

Categorizando os riscos da IA

A visibilidade, a governança e a proteção da IA começam com a compreensão do cenário de riscos atual. O gráfico abaixo classifica os riscos mais prevalentes de acordo com a frequência de violações observadas nas organizações. No topo dessa lista estão as violações das políticas de dados upstream, que antes representavam quase 100% dos alertas, mas caíram para menos de 90% à medida que outros tipos de violações aumentaram em volume. No outro extremo do espectro estão as violações de código malicioso (em que um sistema de IA retorna código malicioso), que são as menos frequentes, mas também as mais graves.

Gráfico mostrando a distribuição das violações de IA por alertas de 10 mil.

Na lista a seguir, exploramos cada um desses riscos com mais detalhes, incluindo a direção, a intenção e a gravidade.

Violação da política de dados upstream
Direção: A montante
Perfil de intenção: Informações internas/produtividade/negligência
Gravidade: Cumulativo
O que é uma violação da política de dados upstream?
O risco mais comum em IA é um usuário ou agente tentar enviar dados para um sistema de IA violando as políticas de uso de dados da organização, incluindo o envio de informações confidenciais ou código-fonte para serviços não aprovados. Normalmente, as organizações utilizam essas políticas para direcionar seus usuários para longe da IA paralela e em direção a serviços de IA aprovados, bem como para direcionar os casos de uso para os serviços apropriados. Por exemplo, alguns serviços de IA podem ser autorizados apenas para tarefas de codificação e desenvolvimento, enquanto outros são autorizados exclusivamente para processar dados confidenciais em documentos e planilhas. As violações das políticas de dados têm origem principalmente em funcionários de confiança que buscam aumentar sua produtividade, mas o fazem de forma negligente (sem conhecimento das políticas da organização). A gravidade do risco, neste caso, é cumulativa, pois a exposição constante de dados sensíveis a terceiros pode acarretar responsabilidades relacionadas ao cumprimento de normas ou à regulamentação.

Violação da política de dados downstream
Direção: A jusante
Perfil de intenção: Informações internas/produtividade/negligência
Gravidade: Baixo/moderado
O que é uma violação da política de dados downstream?
Violações de políticas de dados subsequentes ocorrem quando um serviço de IA retorna dados cujo acesso é proibido pelas políticas organizacionais ao usuário ou agente. Essas violações ocorrem quando uma organização usa MCP (Model-Copy-Point), geração aumentada por recuperação (RAG) ou modelos personalizados treinados em dados proprietários. Nesses casos, um aplicativo de IA pode retornar dados confidenciais de um sistema conectado ao qual o usuário ou agente não tem autorização de acesso. Outro exemplo menos comum de violação da política de dados subsequente ocorre quando uma organização autoriza um aplicativo, mas restringe seu uso a um caso de uso específico. Por exemplo, usuários e agentes podem ter permissão para usar o aplicativo como um chatbot de uso geral, mas não para gerar código-fonte. Qualquer código-fonte retornado pelo aplicativo seria classificado como uma violação subsequente. Assim como nas violações a montante, o perfil de intenção principal para violações a jusante é o de um funcionário de confiança motivado pelo ganho de produtividade, e a gravidade do risco depende do tipo de dados e da abrangência do acesso.

Filtragem de conteúdo
Direção: Bidirecional
Perfil de intenção: Comportamento interno
Gravidade: Low
O que é filtragem de conteúdo no contexto do risco da IA?
As violações de filtragem de conteúdo são bidirecionais e ocorrem quando um usuário ou agente envia uma solicitação ou recebe uma resposta de um sistema de IA que contém conteúdo considerado inadequado pelas políticas da organização. Esses tipos de violações são semelhantes às violações de filtragem de URL de um gateway web seguro (SWG): da mesma forma que as organizações bloqueiam conteúdo sexual ou violento na web, elas normalmente também bloqueiam esse tipo de conteúdo para que não seja retornado por aplicativos de IA. As violações de filtragem de conteúdo são consideradas de baixa gravidade, pois representam uma ameaça mínima à rede ou aos ativos de dados da organização. Em vez disso, são principalmente questões de RH, conformidade legal ou alinhamento cultural.

Injeção imediata e desbloqueio (jailbreak)
Direção: Bidirecional
Perfil de intenção: Adversarial/evasão
Gravidade: Critical
O que é injeção imediata? O que é jailbreak?
As violações de injeção imediata e de desbloqueio ocorrem quando um usuário ou agente tenta contornar as salvaguardas, subverter as instruções subjacentes do sistema ou, de alguma forma, forçar um sistema de IA a executar alguma ação restrita. Essas violações resultam de ações deliberadas de adversários ou evasivas por parte de um agente interno ou de um adversário externo. Em muitos casos, tratam-se de ataques indiretos de injeção de instruções, nos quais um adversário incorpora instruções maliciosas em fontes de dados externas acessadas por um sistema de IA. A gravidade é crítica porque a exploração bem-sucedida subverte o plano de controle do modelo, podendo desencadear caminhos de execução em cascata em serviços de backend conectados.

Solicitações de dados sensíveis
Direção: A montante
Perfil de intenção: Adversarial/reconhecimento/colheita
Gravidade: High
O que são pedidos de dados sensíveis no contexto do risco da IA?
Solicitações de dados sensíveis são violações a montante que ocorrem quando um usuário ou agente demonstra sinais de tentativa deliberada de burlar os controles para acessar esses dados. A gravidade de tal violação é geralmente maior do que a de uma violação de política de dados subsequente devido a um perfil de intenção diferente. Uma violação da política de dados subsequente pode ocorrer sem qualquer intenção deliberada, simplesmente porque o sistema tem acesso a dados aos quais o usuário não está autorizado. Em contrapartida, os pedidos de dados sensíveis indicam que o solicitante pretende ter acesso a esses dados. Solicitações de dados sensíveis, combinadas com violações subsequentes desses dados, indicam um risco crítico, pois sugerem que o solicitante está obtendo sucesso em seus esforços.

Pirataria e direitos autorais
Direção: A jusante
Perfil de intenção: Conformidade/acidental
Gravidade: Low
Quais são os riscos de direitos autorais associados à IA?
A pirataria e a violação de direitos autorais são infrações subsequentes que ocorrem quando um aplicativo de IA retorna material protegido, com direitos autorais ou marcas registradas, sem uma licença válida de terceiros ou atribuição de permissão. Esse material representa um risco legal e financeiro para a organização se usado de forma inadequada. Ainda assim, representa uma ameaça mínima para a rede ou os ativos de dados da organização e, portanto, é considerado de baixo risco.

Código malicioso
Direção: A jusante
Perfil de intenção: Adversarial/armamento
Gravidade: Critical
O que é código malicioso no contexto da IA?
Uma violação de código malicioso ocorre quando um aplicativo de IA retorna código malicioso em sua resposta. O código malicioso pode consistir em comandos de shell que o usuário ou agente pode executar diretamente, ou em trechos de código malicioso incorporados a uma base de código maior. Os agentes de codificação autônomos, que estão ganhando popularidade rapidamente, amplificam esse risco porque geram código muito mais rápido do que os humanos e executam autonomamente o código e os comandos gerados por IA. Um aplicativo de IA pode retornar código malicioso como resultado de uma injeção indireta de prompt, ferramentas ou modelos de IA infectados por cavalos de Troia, ou até mesmo de forma orgânica. Códigos maliciosos orgânicos podem ser retornados como resultado do treinamento em dados vulneráveis. desalinhamento emergenteou alucinação. A gravidade é crítica porque a execução bem-sucedida de código malicioso pode resultar em comprometimento generalizado do sistema. Violações maliciosas de código, juntamente com injeções imediatas e violações de jailbreak, revelam intenções e indicam possível sucesso.

Adoção de IA: crescimento contínuo

Ao longo do último ano, a percentagem de utilizadores empresariais que utilizam ativamente aplicações de IA semanalmente aumentou de 34% para 59% na organização mediana, sendo que o quartil superior das organizações tem pelo menos 77% da sua base de utilizadores a interagir com aplicações de IA todas as semanas. Entretanto, o 1% das organizações com o maior número de usuários de IA (não mostrado na imagem) já atingiu um patamar próximo a 100%. A queda no gráfico no final de 2025 e início de 2026 é um artefato que aparece ao longo deste relatório e resulta da menor atividade geral durante o período de festas de fim de ano. A taxa de adoção da IA acelerou ligeiramente no final de 2025, e esse crescimento acelerado continuou até o início de 2026, mas desde então desacelerou. Esperamos que esse crescimento se estabilize no segundo semestre de 2026, à medida que as organizações se tornem mais estratégicas em relação aos seus investimentos em IA.

Gráfico mostrando a porcentagem mediana de usuários de IA por semana, com a área sombreada indicando o 1º e o 3º quartis.

Ao mesmo tempo, o volume de utilização de IA triplicou, passando de 1.498 para 4.731 solicitações por semana, em média. Os 25% melhores das organizações registraram um volume semanal significativamente maior, de pelo menos 19.292 solicitações, e o 1% melhor (não mostrado na imagem) recebeu centenas de milhares de solicitações por semana. Esse aumento no volume é impulsionado principalmente pela crescente adoção da IA agente, que exploraremos com mais detalhes na próxima seção. Também esperamos que o número de solicitações por organização se estabilize no segundo semestre de 2026, à medida que a adoção de IA ativa atinja a saturação.

IA Sombra: Um platô

Desde o início do boom da IA, temos visto uma mudança gradual de aplicativos de IA pessoais e não gerenciados para aplicativos gerenciados pela organização. Em 2023, quase todos Do tráfego de IA que observamos nas empresas, metade era IA paralela, ou seja, usuários individuais que exploravam suas assinaturas do ChatGPT para tentar aumentar sua própria produtividade. Com o tempo, as organizações começaram a implementar aplicativos aprovados e gerenciados, e a porcentagem de usuários que acessavam aplicativos pessoais de IA diminuiu como resultado. Essa tendência parou por volta de março de 2026, estabilizou e voltou a apresentar uma leve tendência na direção oposta. Atualmente, 56% dos usuários de IA utilizam only Aplicações de IA gerenciadas pela organização, 14% utilizam. ambos aplicativos gerenciados pela organização e pessoais, e 30% usam only aplicativos pessoais. Essa inversão de tendência indica que a IA paralela veio para ficar e, em vez de continuar migrando todos os usuários e casos de uso de IA para plataformas gerenciadas, as organizações optaram por impor restrições ao uso de aplicativos pessoais e não aprovados. Ao mesmo tempo, as prioridades de descoberta de IA paralela expandiram-se, passando de obter visibilidade e implementar controles para o uso de aplicativos de IA pessoais para incluir agentes de IA, servidores MCP e infraestrutura local de IA (todas áreas em que estamos vendo um rápido crescimento atualmente).

Gráfico mostrando a distribuição do uso de IA em contas pessoais e organizacionais.

IA Agencial: Um boom na programação

Ao longo do último ano, a adoção de aplicativos de chatbots conversacionais com inteligência artificial atingiu a saturação, com mais de 95% das organizações em todo o mundo utilizando um chatbot pelo menos uma vez por semana. O ChatGPT, líder global de longa data, permanece em primeiro lugar, mas está sendo desafiado pelo Anthropic Claude, Microsoft 365 Copilot e Google Gemini. No início do ano, o Google Gemini estava em segundo lugar e prestes a ultrapassar o ChatGPT, mas sua adoção estagnou. O Microsoft 365 Copilot ultrapassou o Google Gemini em maio, mas, da mesma forma, estagnou. Em junho, Anthropic Claude ultrapassou ambos e continua a crescer em popularidade. Sua popularidade está intimamente ligada à adoção do Claude Code, o agente de codificação da Anthropic, que exploraremos mais adiante nesta seção. Em sua trajetória atual, Claude está prestes a ultrapassar o ChatGPT no segundo semestre de 2026.

gráfico mostrando os aplicativos de conversação mais populares

Outras categorias de aplicativos de IA apresentam taxas de adoção geral mais baixas, que permaneceram relativamente constantes desde o início do ano, com duas exceções notáveis:

Os aplicativos de código com IA fornecem ferramentas para auxiliar no desenvolvimento de software, incluindo escrita, teste, depuração e otimização de código. Os aplicativos de desenvolvimento de código com agentes impulsionaram a popularidade dos aplicativos de código de 42% para 84%. Além disso, embora a adoção tenha desacelerado em relação ao ritmo acelerado observado no início do ano, espera-se que continue a aumentar durante o segundo semestre.
As plataformas de IA simplificam o processo de desenvolvimento de IA, hospedando componentes essenciais como modelos de IA, permitindo que os desenvolvedores se concentrem na lógica principal do aplicativo sem precisar gerenciar a infraestrutura. A adoção de plataformas de IA aumentou rapidamente de 51% para 92% das organizações no último ano, mas recentemente estabilizou, com a expectativa de que permaneça nesse patamar durante o segundo semestre.

Gráfico mostrando a adoção da categoria de aplicativos de IA por organização

No segmento de aplicativos de código com IA, o GitHub Copilot e o Cursor eram os principais players há um ano. Ambos os aplicativos são editores de código com inteligência artificial que utilizam uma IDE tradicional e incorporam funcionalidades de IA para auxiliar no processo de desenvolvimento de software. Embora a popularidade dessa abordagem pareça ter atingido um patamar estável, os aplicativos de programação agentiva Claude Code e Codex estão ganhando popularidade rapidamente. Atualmente, o Claude Code é a plataforma de desenvolvimento de código mais popular, utilizada por 75% das organizações, com o Codex em segundo lugar, com 58%. Há um ano, ambos os aplicativos tinham menos de 1% de taxa de adoção. O aumento contínuo da popularidade desses dois aplicativos ressalta a mudança para o desenvolvimento de software autônomo que está ocorrendo em diversos setores em todo o mundo, o que aumenta certos riscos destacados neste relatório, especialmente os riscos associados à injeção rápida de malware e desbloqueios (jailbreaks), código malicioso e manipulação inadequada de dados sensíveis.

gráfico mostrando os aplicativos de código mais populares

Plataformas de IA e soberania de dados

As plataformas de IA também estão experimentando uma crescente popularidade, lideradas pela plataforma Claude da Anthropic. Conforme destacado ao longo deste relatório, o chatbot Claude e o Claude Code da Anthropic ganharam popularidade rapidamente desde o início do ano. A plataforma Claude, que permite aos usuários desenvolver aplicativos e agentes personalizados usando seus modelos, experimentou um crescimento semelhante em popularidade e eclipsou a plataforma da OpenAI, que antes era dominante nessa área.

Ao mesmo tempo, várias outras plataformas apresentaram um crescimento notável ao longo do ano. Por exemplo, em um distante terceiro lugar (mas com popularidade crescente) está o Amazon Bedrock. Entre os motivos pelos quais o Bedrock continua a ganhar popularidade estão a sua ampla variedade de modelos e a sua abordagem à soberania dos dados, que garante que os dados organizacionais sejam isolados, criptografados, processados apenas nas regiões escolhidas e nunca compartilhados com terceiros ou usados para treinar modelos de base. Dito isso, certos modelos possuem termos específicos, portanto, as organizações devem analisar o uso de plataformas, incluindo o Amazon Bedrock, caso a caso, para cada modelo individualmente. Ainda assim, esperamos continuar a ver uma tendência crescente em direção a plataformas como a Bedrock, à medida que as organizações priorizam a soberania dos dados.

gráfico mostrando os aplicativos de plataforma mais populares

Executar modelos localmente está se tornando mais popular à medida que as organizações priorizam cada vez mais a soberania dos dados e buscam reduzir os custos da nuvem. 41% das organizações (mais do que as que usam o Bedrock, mas menos do que as que usam as plataformas OpenAI e Claude) estão usando o Ollama. Essa popular estrutura de código aberto permite que as organizações baixem e executem modelos localmente. A seguir, apresentamos um detalhamento da popularidade dos modelos, mostrando que o Gemma4 do Google é o mais popular por uma ampla margem, seguido por várias versões do Qwen da Alibaba e do Llama da Meta. Esperamos uma mudança significativa nesta classificação no segundo semestre do ano, já que os modelos GLM da Z.ai estão se destacando nos benchmarks e ganhando popularidade.

Tabela mostrando os principais modelos de IA usados no Ollama por porcentagem de organizações.

MCP: Interconexão em rápido crescimento

O MCP, padrão de código aberto para conectar modelos de IA a fontes de dados e ferramentas externas, experimentou um aumento expressivo no uso, com um crescimento de 250% no número de usuários e de 375% no número de transações. apenas nas últimas 10 semanase. Esse aumento é significativo porque está provocando uma mudança importante no volume e na direção das violações das políticas de dados, o que exploraremos na seção seguinte. Além disso, essas estatísticas representam apenas o uso remoto do MCP, o que significa que o agente se conecta a um servidor MCP hospedado na internet, em vez de na máquina local ou na rede da organização. Entre os principais clientes utilizados para se conectar a esses servidores MCP estão os agentes de codificação de IA (Claude Code e Codex) mencionados anteriormente neste relatório.

Gráfico mostrando o aumento na adoção de MCP ao longo do tempo.

Violações da política de dados: volume crescente

Ao longo do último ano, o número de violações das políticas de dados upstream aumentou ligeiramente, com uma média de 69 violações por semana por organização, em comparação com 44 por semana no ano anterior. Ao mesmo tempo, os 25% melhores das organizações têm apresentado flutuações significativas ao longo do ano, mas continuam a registar cerca de 300 a 400 violações por semana, um número semelhante ao que registavam na mesma altura do ano passado.

Gráfico mostrando a média de transferências de dados sensíveis upstream para aplicativos de IA (mediana), com a área sombreada indicando o 1º e o 3º quartis.

Uma análise detalhada dos tipos de violações mostra que a propriedade intelectual, os dados regulamentados e o código-fonte representam a grande maioria das violações das políticas de dados, com uma proporção menor envolvendo senhas e chaves (normalmente incorporadas no código-fonte ou em arquivos de configuração enviados para aplicativos de IA).

Gráfico mostrando o tipo de violações da política de dados upstream dos aplicativos

A tendência de violações das políticas de dados a jusante no último ano é bastante diferente da tendência de violações a montante. As violações de políticas de dados a jusante ocorrem com menor frequência do que as violações a montante, mas mais do que dobraram, passando de 12 para 31 por semana no último ano. Entre as 25% melhores organizações, essa taxa aumentou de 72 para 206 por semana. O aumento ocorre em um contexto de crescente adoção de IA ativa e MCP, e com a conexão cada vez maior dos aplicativos de IA a fontes de dados e ferramentas que expõem dados sensíveis. Com o crescimento contínuo da adoção de MCP (Mobile Access Protocol), esperamos que a proporção de violações de dados subsequentes aumente de forma generalizada durante o segundo semestre de 2026.

Gráfico mostrando a média de transferências de dados sensíveis downstream de aplicativos de IA, com a área sombreada representando o 1º e o 3º quartis.

ameaças adjacentes à IA

Embora grande parte deste relatório se concentre nas New ameaças nativas da IA, que provavelmente exigirão New controles, ainda é importante destacar que a crescente adoção da IA acarreta riscos representados por ameaças tradicionais e adjacentes à IA. Nesta seção, destacamos duas dessas ameaças: iscas de IA e links de IA.

Iscas de IA maliciosas

Uma isca maliciosa de IA tenta enganar as vítimas para que baixem malware ou visitem um site malicioso usando uma identidade visual falsa. Ao longo do último ano, observamos uma calmaria de seis meses no número de iscas de IA, antes de um aumento repentino em março, que se manteve em um ritmo semelhante até julho. Campanhas recentes que utilizam iscas de IA incluem: instaladores falsos de aplicativos de IA e ferramentas de desenvolvedor trojanizadasConsiderando a crescente popularidade da IA e as pressões organizacionais para alavancar a IA a fim de aumentar a produtividade, esperamos que os adversários continuem a construir iscas de IA sofisticadas, como esses instaladores falsos, e a encontrar New maneiras de comprometer os fluxos de desenvolvimento de software de IA, incluindo a continuidade... Estilo Shai-Hulud ataques e criação de pacotes maliciosos para se apropriarem dos nomes que os modelos de IA tendem a alucinar.

Gráfico mostrando usuários que se deparam com ameaças de isca de IA

Links maliciosos de IA
Um link malicioso de IA é um link malicioso retornado por um aplicativo de IA no qual um usuário clica ou um agente visita. Pense nisso como algo semelhante a um link malicioso no qual os usuários clicam ao usar um mecanismo de busca popular como o Bing ou o Google. Esses links aparecem nos resultados da pesquisa porque o invasor usou técnicas de SEO para posicionar seu site malicioso em uma posição elevada, pagou para que um anúncio malicioso fosse exibido nos resultados da pesquisa ou comprometeu a infraestrutura legítima de alguma outra forma. No mundo da IA, a tecnologia mudou, mas as técnicas permanecem. O AIEO (Ataque de Inteligência Artificial Operacional) está emergindo à medida que as técnicas para que seu conteúdo seja tratado favoravelmente por modelos de IA se tornam mais conhecidas, e os anúncios estão começando a aparecer em aplicativos de IA. O volume dessas ameaças variou significativamente ao longo do ano, de menos de 10 a mais de 90 por semana, e esperamos que o número médio aumente no segundo semestre de 2026, apesar da atual calmaria.

Gráfico mostrando usuários que se deparam com encaminhamentos maliciosos de IA.

Visibilidade, governança e proteção

Para gerenciar os riscos da IA, as organizações devem alinhar suas estratégias de segurança com estruturas amplamente adotadas, como o MITRE ATLAS e o OWASP Top 10 para LLMs. Essas estruturas fornecem um contexto crítico: o MITRE ATLAS permite que os CISOs contextualizem os ataques específicos que estão sendo detectados e bloqueados, enquanto o OWASP LLM Top 10 esclarece os riscos em nível de aplicação. Ao integrar essas estruturas com o monitoramento em tempo real, as equipes de segurança podem rastrear efetivamente a aplicação de políticas, detectar ameaças emergentes e obter uma visão detalhada de sua postura de risco em relação à IA, incluindo detalhamentos por categoria de risco e atividade do usuário.

Partindo dessa base estratégica, complementamos o relatório mapeando os princípios dessas estruturas em um roteiro tático centrado em cada risco definido neste trabalho. Ao ler estas orientações específicas sobre riscos, você identificará alguns temas recorrentes:

Visibilidade: A implementação de um gateway ou proxy de IA centralizado é essencial para todas as interações de IA, incluindo IA paralela, infraestrutura local e tráfego MCP.
Governança: As políticas devem estar alinhadas aos riscos e ser detalhadas, incorporando aprovação matricial para aplicativos e casos de uso, governança de segurança da cadeia de suprimentos e adesão aos requisitos de conformidade regionais/legais.
Proteção: A postura de segurança deve ser em camadas, utilizando prevenção contra perda de dados (DLP) em tempo real, proteções semânticas não determinísticas, validação heurística de saída e análise comportamental contínua para detectar sinais pós-comprometimento (por exemplo, reconhecimento, C2).

A seguir, mapeamos os requisitos específicos de visibilidade, governança e proteção para cada risco, fornecendo um plano operacional para mitigá-los em todo o seu ambiente.

Violação da política de dados (a montante)
Visibilidade: Utilize um gateway ou proxy de IA para todas as interações IA ( IA oculta).
Governança: Defina uma matriz para aplicativos e casos de uso aprovados, com foco em código-fonte, dados regulamentados e propriedade intelectual.
Proteção: Configure políticas de proteção de dados em tempo real alinhadas aos casos de uso upstream aprovados.

Violação da política de dados (a jusante)
Visibilidade: Utilize um gateway ou proxy de IA para todas as interações com IA (especialmente MCP).
Governança: Defina uma matriz de grupos de usuários e os níveis de acesso necessários aos dados sensíveis.
Proteção: Configure políticas de proteção de dados em tempo real alinhadas com o acesso a dados subsequente aprovado.

Filtragem de conteúdo
Visibilidade: Utilize um gateway ou proxy de IA para todas as interações com IA (especialmente IA oculta).
Governança: Alinhe a análise de texto em tempo real com as políticas Recursos Humanos da empresa, os critérios de conformidade legal e as políticas de uso (PUA) regionais.
Proteção: Aproveite as salvaguardas da IA com reconhecimento contextual e filtragem por palavras-chave.

Injeção imediata e desbloqueio (jailbreak)
Visibilidade: Utilize um gateway ou proxy de IA para todas as interações de IA (incluindo a infraestrutura local).
Governança: Exigir que toda a infraestrutura de IA seja revisada para garantir o isolamento ideal antes da implantação e incluir mecanismos de proteção.
Proteção: Implante mecanismos de proteção semântica não determinística, juntamente com análises comportamentais, para detectar até mesmo as tentativas mais sutis de injeção de prompts e jailbreaks, e combine esses controles com políticas de proteção de dados e inspeção de código malicioso.

Solicitações de dados sensíveis
Visibilidade: Utilize um gateway ou proxy de IA para todas as interações com IA (com registro de auditoria de todas as solicitações).
Governança: Estabelecer estruturas de propriedade e isolamento para limitar a interconexão de recursos.
Proteção: Implemente mecanismos de proteção semântica não determinística, juntamente com políticas de proteção de dados e análises comportamentais, para detectar tentativas maliciosas de acesso a dados sensíveis.

Pirataria e direitos autorais
Visibilidade: Utilize um gateway ou proxy de IA para todas as interações com IA (que inspecione todo o conteúdo subsequente)
Governança: Elabore diretrizes formais de conformidade com a propriedade intelectual, especificando quais modelos e aplicativos de IA podem ser usados para gerar código,
e outros conteúdos sensíveis. Proteção: Incorporar verificações heurísticas de validação de saída que analisam o código-fonte ou a prosa gerada em relação a assinaturas de código aberto conhecidas e índices de marcas registradas para respostas de IA. Defina políticas para limitar casos de uso não aprovados (como bloquear o uso de determinados modelos para gerar código-fonte).

Código malicioso
Visibilidade: Utilize um gateway ou proxy de IA para todas as interações de IA (que inspecione todo o conteúdo subsequente).
Governança: Impor uma arquitetura de validação de confiança zero em todos os pipelines internos de CI/CD, com governança robusta de riscos na cadeia de suprimentos.
Proteção: Além de proteger contra injeção imediata, assegure-se de que todas as respostas de aplicativos de IA sejam inspecionadas em busca de código malicioso, incorpore a verificação de ameaças em seus pipelines de CI/CD e utilize análises comportamentais para detectar sinais pós-comprometimento, como reconhecimento, C2 e exfiltração de dados.

Sobre este relatório

As informações apresentadas neste relatório são baseadas em dados agregados de utilização coletados pela plataforma Netskope One para um subconjunto de clientes da Netskope, de junho de 2025 a julho de 2026.