Baixe o relatório: Como alcançar o alinhamento entre CIOs e CEOs na era da IA

fechar
fechar
Sua Rede do Amanhã
Sua Rede do Amanhã
Planeje seu caminho rumo a uma rede mais rápida, segura e resiliente projetada para os aplicativos e usuários aos quais você oferece suporte.
Experimente a Netskope
Coloque a mão na massa com a plataforma Netskope
Esta é a sua chance de experimentar a plataforma de nuvem única do Netskope One em primeira mão. Inscreva-se em laboratórios práticos e individualizados, junte-se a nós para demonstrações mensais de produtos ao vivo, faça um test drive gratuito do Netskope Private Access ou participe de workshops ao vivo conduzidos por instrutores.
Líder em SSE. Agora é líder em SASE de fornecedor único.
A Netskope é reconhecida como a líder mais avançada em visão para as plataformas SSE e SASE
2X é líder no Quadrante Mágico do Gartner® para plataformas SASE
Uma plataforma unificada criada para sua jornada
Protegendo a IA generativa para leigos
Protegendo a IA generativa para leigos
Saiba como sua organização pode equilibrar o potencial inovador da IA generativa com práticas robustas de segurança de dados.
E-book moderno sobre prevenção de perda de dados (DLP) para leigos
Prevenção Contra Perda de Dados (DLP) Moderna para Leigos
Obtenha dicas e truques para fazer a transição para um DLP fornecido na nuvem.
Livro SD-WAN moderno para SASE Dummies
SD-WAN moderno para leigos em SASE
Pare de brincar com sua arquitetura de rede
Compreendendo onde estão os riscos
O Advanced Analytics transforma a maneira como as equipes de operações de segurança aplicam insights orientados por dados para implementar políticas melhores. Com o Advanced Analytics, o senhor pode identificar tendências, concentrar-se em áreas de preocupação e usar os dados para tomar medidas.
Suporte Técnico Netskope
Suporte Técnico Netskope
Nossos engenheiros de suporte qualificados estão localizados em todo o mundo e têm diversas experiências em segurança de nuvem, rede, virtualização, fornecimento de conteúdo e desenvolvimento de software, garantindo assistência técnica de qualidade e em tempo hábil.
Vídeo da Netskope
Treinamento Netskope
Os treinamentos da Netskope vão ajudar você a ser um especialista em segurança na nuvem. Conte conosco para ajudá-lo a proteger a sua jornada de transformação digital e aproveitar ao máximo as suas aplicações na nuvem, na web e privadas.

A adoção da GenAI está crescendo rapidamente, com aplicativos de IA SaaS, plataformas GenAI, infraestrutura de IA local e, agora, agentes de IA personalizados se tornando pilares das empresas. As tendências mais recentes, incluindo infraestrutura de IA local, plataformas GenAI e agentes personalizados, introduzem riscos adicionais de dados e segurança para a organização, ao mesmo tempo em que permanecem em grande parte sob o radar das equipes de segurança. Este relatório ajudará você a esclarecer a infraestrutura paralela de IA em sua organização, permitindo que você comece a mitigar esses riscos.

18 min de leitura

Introdução link link

Este é o nosso quarto Relatório sobre a nuvem e ameaças da Netskope dedicado ao campo emergente da IA generativa. Nosso primeiro relatório em 2023 destacou o crescimento exponencial da popularidade do ChatGPT dentro da empresa. Nosso segundo relatório em 2024 destacou que quase todas as empresas estavam utilizando aplicativos SaaS genAI e implementando políticas para proteger dados confidenciais. Nosso relatório mais recente continuou essa narrativa ao introduzir conceitos de IA paralela, uso indireto de GenAI e IA local. Esta edição mais recente examina as tendências emergentes em IA paralela e IA agente na empresa, nas quais alguns usuários estão migrando para plataformas GenAI e soluções locais à medida que criam aplicativos personalizados e agentes autônomos, criando um novo conjunto de desafios de segurança cibernética.

Este relatório se concentra na IA paralela e na IA agente, explorando como as organizações podem esclarecer as sombras ao longo do caminho. Iniciamos analisando os aplicativos SaaS genAI, onde ainda observamos uma quantidade considerável de IA oculta. Há uma clara tendência de centralização emergindo, com organizações gravitando em torno de alguns ecossistemas importantes gerenciados pela empresa, especialmente Gemini e Copilot. No entanto, a maioria dos usuários (60%) ainda usa aplicativos pessoais e não gerenciados, representando uma quantidade significativa de inteligência artificial oculta que continua se expandindo para novos aplicativos à medida que são lançados.

Continuamos com as plataformas GenAI, como Azure OpenAI, Amazon Bedrock e Google Vertex AI, que estão rapidamente ganhando popularidade devido à sua simplicidade, flexibilidade, personalização e escalabilidade. Eles capacitam os usuários a criar aplicativos ou agentes personalizados usando os modelos de sua escolha. E, talvez o mais importante, eles oferecem algumas garantias de segurança e privacidade que os diferenciam de muitos aplicativos SaaS e soluções locais. Nesse estágio, a adoção das plataformas GenAI é liderada por indivíduos que experimentam a tecnologia relativamente nova, fazendo com que as plataformas GenAI representem a categoria de IA paralela que mais cresce.

A execução de infraestrutura de IA no local também é uma tendência crescente, na qual os usuários estão instalando ferramentas como o Ollama para fornecer uma interface para uma ampla variedade de modelos ou usando estruturas como o LangChain para criar agentes personalizados, criando uma nova infraestrutura de IA paralela local. A IA local está crescendo em um ritmo mais lento do que as plataformas GenAI, pois as últimas são mais acessíveis e oferecem melhor segurança pronta para uso, conforme exploraremos mais adiante neste relatório.

Concluímos o relatório examinando a área de agentes de IA, que são sistemas que usam IA para atingir uma meta específica com o mínimo de intervenção humana. Essa é uma área em que estamos começando a ver uma atividade significativa na empresa, com usuários explorando uma variedade de estruturas de agentes, tanto no local quanto na nuvem, e criando ainda mais inteligência artificial paralela que está intimamente interligada com dados corporativos e fluxos de trabalho críticos.

 

Destaques link link

  • A IA oculta representa a maior parte do uso de IA nas empresas, impulsionada pela adoção individual de aplicativos de IA SaaS, plataformas de IA, implantações de IA no local e, agora, agentes de IA personalizados.
  • O uso de IA em SaaS continua a crescer rapidamente nas organizações de médio porte, com 50.% s mais pessoas interagindo com aplicativos de IA e 6,5% mais dados sendo enviados para aplicativos de IA em SaaS nos últimos três meses, com uma média de 8,2 GB por organização por mês.
  • O ChatGPT registrou seu primeiro declínio em popularidade entre as empresas desde que começamos a acompanhá-lo em 2023, à medida que o uso de IA SaaS se consolida em torno de soluções específicas, como Gemini e Copilot, que são bem integradas aos fluxos de trabalho empresariais existentes.
  • As plataformas de IA (por exemplo, Amazon Bedrock, Azure OpenAI e Google Vertex AI) estão rapidamente ganhando popularidade, permitindo que os usuários criem aplicativos e agentes personalizados que interagem diretamente com os armazenamentos de dados corporativos, apresentando novos desafios de inteligência artificial oculta para as empresas enfrentarem.
  • Os agentes de IA estão sendo desenvolvidos, testados e implantados no local usando estruturas de agentes como o LangChain, criando um novo tipo particularmente desafiador de IA paralela, já que as implantações locais geralmente são as mais difíceis de descobrir e proteger.

 

Definições link link

  • As estruturas de agentes são bibliotecas e ferramentas de software que simplificam a criação de agentes autônomos de IA, fornecendo componentes pré-construídos para planejamento, memória e integração de ferramentas (por exemplo, LangChain, OpenAI Agent Framework).
  • A IA agente se refere a sistemas em que um agente pode planejar e executar de forma autônoma uma série de ações para atingir uma meta de alto nível, concluindo tarefas complexas sem orientação humana passo a passo.
  • As plataformas GenAI são serviços de nuvem gerenciados que fornecem modelos, ferramentas e infraestrutura fundamentais para criar, personalizar, treinar e implantar modelos, aplicativos e agentes de IA (por exemplo, Amazon Bedrock, Azure OpenAI, Google Vertex AI).
  • As interfaces LLM são aplicativos front-end que permitem que os usuários interajam com LLMs e geralmente são usados no local (por exemplo, Ollama, LM Studio).
    Os aplicativos SaaS genAI são aplicativos desenvolvidos especificamente e hospedados na nuvem que utilizam genAI como recurso principal para criar novos conteúdos ou resumir conteúdos existentes (por exemplo, ChatGPT, Gemini, Copilot).

 

Continuidade do crescimento do aplicativo SaaS genAI link link

A adoção de aplicativos SaaS genAI continua a crescer rapidamente nas empresas. Embora a porcentagem de organizações que utilizam aplicativos SaaS genAI tenha se estabilizado, com 89%, das organizações utilizando ativamente pelo menos um aplicativo SaaS genAI, o crescimento da adoção do SaaS genAI continua a se manifestar de várias maneiras dentro da empresa. % Primeiro, o número de pessoas que utilizam aplicativos SaaS genAI dentro de cada organização aumentou em mais de 50%, de 5%, em fevereiro, para 7,6%, em maio, com uma média de 7,6 de pessoas em cada organização utilizando aplicativos SaaS genAI (conforme mostrado na figura abaixo). A figura também mostra o primeiro e o terceiro quartis, com o terceiro quartil destacando que 25% das organizações têm mais de um quarto (25,6%) de sua população de usuários utilizando ativamente aplicativos SaaS genAI. No percentil 90 (não ilustrado), pelo menos 47% (% ) da população de usuários nessas organizações está utilizando aplicativos SaaS genAI.

Diagrama mostrando a porcentagem média de usuários GenAI por mês com área sombreada mostrando o 1º e o 3º quartis

Em segundo lugar, o número de aplicativos GenAI em uso continua crescendo, atingindo uma média de 7 por organização, ante 5,6 em fevereiro. Vimos um crescimento semelhante no terceiro quartil, onde as organizações agora estão usando 15,4 aplicativos, contra 13,3 em fevereiro. Previmos esse crescimento em nosso relatório de fevereiro porque o investimento agressivo em startups de IA se traduz no lançamento de muitos novos aplicativos SaaS de IA, criando ainda mais uso oculto de IA que precisa ser descoberto e protegido. Atualmente, a Netskope está monitorando mais de 1.550 aplicativos SaaS de IA generativa distintos, um aumento em relação aos 317 registrados em fevereiro, indicando o ritmo acelerado com que novos aplicativos estão sendo lançados e adotados em ambientes corporativos.

Diagrama mostrando a mediana dos aplicativos GenAI por organização com área sombreada mostrando o 1º e o 3º quartis

A terceira maneira pela qual o crescimento dos aplicativos SaaS genAI se manifesta nas empresas é na quantidade de dados que fluem para esses aplicativos. Para uma organização média, a quantidade de dados enviados a cada mês aumentou 6,5%, de 7,7 GB para 8,2 GB nos últimos três meses. No 75º percentil, esse aumento foi ainda mais significativo, de 20 GB para 22,8 GB (um aumento de 14%). No 90º percentil, o padrão continua, com um aumento de 15% de 46 GB para 53 GB. No ritmo atual, esperamos que o 90º percentil exceda 100 GB no terceiro trimestre de 2026. Mesmo em organizações que já estão observando um volume significativo de dados sendo carregados em aplicativos SaaS genAI, o rápido crescimento continua sem sinais de desaceleração. Conforme abordado em nosso relatório anterior sobre IA generativa, os dados que os usuários estão enviando para aplicativos de IA generativa incluem propriedade intelectual, dados regulamentados, código-fonte e segredos, ressaltando a importância de identificar o uso oculto de IA generativa em SaaS e implementar controles para evitar vazamentos indesejados de dados.

Outra mudança notável que ocorreu nos últimos quatro meses é a diminuição no número de organizações que usam o ChatGPT. Desde sua introdução em novembro de 2022, a porcentagem de organizações que usam o ChatGPT nunca diminuiu. Em fevereiro, informamos que quase 80% das organizações estavam usando o ChatGPT, que agora caiu modestamente para 78%. Essa diminuição ocorre quando a Gemini e a Copilot (Microsoft Copilot, Microsoft 365 Copilot, GitHub Copilot) continuam ganhando força, graças à sua integração perfeita com os ecossistemas de produtos do Google e da Microsoft, que já são onipresentes na empresa. O ChatGPT foi o único dos 10 principais aplicativos a ter uma queda desde fevereiro, conforme mostrado na figura abaixo. Outros 10 principais aplicativos, incluindo Anthropic Claude, Perplexity AI, Grammarly e Gamma, tiveram ganhos de adoção empresarial.

Diagrama mostrando os aplicativos mais populares por porcentagem de organizações

Outra mudança notável desde nosso último relatório é que a Grok está rapidamente ganhando popularidade, entrando no top 10 pela primeira vez em maio. Curiosamente, o Grok agora está simultaneamente no top 10 dos aplicativos mais usados (foto acima) e também no top 10 dos aplicativos mais bloqueados (foto abaixo). Em comparação com fevereiro, menos organizações estão bloqueando o Grok e, em vez disso, o estão permitindo para casos de uso específicos (geralmente pessoais). O número de organizações que bloqueiam o Grok atingiu o pico em abril e está diminuindo à medida que o número de usuários do Grok continua aumentando. Isso ocorre porque as organizações estão optando por controles mais granulares, usando DLP e treinamento de usuários em tempo real para evitar que dados confidenciais sejam enviados à Grok. Dito isso, os bloqueios ainda superam as permissões, com 25% das organizações bloqueando todas as tentativas de usar o Grok em maio, enquanto apenas 8,5% das organizações estão vendo algum uso do Grok. Essa não é uma tendência incomum, pois as organizações tendem a bloquear novos aplicativos inicialmente enquanto realizam análises de segurança e implementam controles para restringir seu uso. Por outro lado, existem alguns aplicativos SaaS genAI, como o DeepSeek, que continuam fortemente bloqueados e, portanto, não apresentam uso significativo nas empresas.

Diagrama da maioria dos aplicativos de IA bloqueados por porcentagem de organizações que promulgam uma proibição geral do aplicativo

Shadow AI é um termo relativamente novo que descreve o uso de soluções de IA sem o conhecimento ou a aprovação de departamentos centralizados de TI e cibersegurança. Nos primeiros dias, quase 100%% do uso de SaaS genAI era IA oculta. Com o tempo, as organizações começaram a analisar e aprovar soluções corporativas específicas (normalmente ChatGPT, Gemini ou Copilot), e os usuários fizeram a transição para essas soluções aprovadas. Políticas de treinamento em tempo real que lembram os usuários que estão usando uma solução não aprovada de mudar para uma solução aprovada foram fundamentais nessa transição. Esses controles continuam eficazes, com apenas 60% da população empresarial utilizando aplicativos SaaS genAI pessoais em maio, uma redução de 12 pontos percentuais desde fevereiro. Esperamos que essa tendência continue nos próximos meses, com a taxa caindo abaixo de 40% até o final do ano. Ao mesmo tempo, surgiram novos desafios paralelos de IA (plataformas GenAI, GenAI locais e agentes de IA), que exploraremos com mais detalhes nas seções a seguir.

Diagrama mostrando o uso do GenAI: detalhamento da conta pessoal versus da organização

Para os leitores interessados em descobrir a extensão do uso oculto de IA em SaaS em seus ambientes, a Netskope está monitorando mais de 1.550 aplicativos SaaS de IA generativa distintos. Os clientes da Netskope podem identificar IA oculta pesquisando qualquer atividade de aplicativo categorizada como “IA generativa” e concentrando-se em aplicativos não aprovados e logins pessoais. Embora o bloqueio de aplicativos não aprovados possa ser uma estratégia eficaz, as políticas de treinamento de usuários são uma forma mais sutil de afastar os usuários de soluções não aprovadas e direcioná-los para aquelas gerenciadas e aprovadas pela empresa. Essas políticas são frequentemente combinadas com políticas de DLP para mitigar os riscos de vazamento de dados confidenciais para aplicativos SaaS genAI não aprovados, conforme detalhado em nosso relatório anterior sobre nuvem e ameaças.

 

Aumento da adoção das plataformas GenAI link link

Embora os aplicativos SaaS genAI tenham se popularizado por sua facilidade de uso, as plataformas genAI estão agora ganhando popularidade devido à sua flexibilidade e benefícios de privacidade. Sua flexibilidade decorre do fato de que você pode implantar de forma rápida e fácil os modelos de sua escolha usando uma única interface. Seus benefícios de privacidade surgem do fato de você mesmo hospedar os modelos e não compartilhar nenhum de seus dados com terceiros. Ao mesmo tempo, o modelo de responsabilidade compartilhada em uma plataforma genAI transfere mais responsabilidade pela segurança para o usuário em comparação com uma solução SaaS.

O uso das plataformas GenAI está aumentando vertiginosamente. Vimos um aumento de 50% no número de usuários e um aumento de 73% no tráfego de rede nessas plataformas nos últimos três meses. Em maio, 41% das organizações estavam usando pelo menos uma plataforma GenAI, enquanto 14% estavam usando pelo menos duas e 2,7% estavam usando pelo menos três. Uma das razões por trás da proliferação de várias soluções é que a adoção das plataformas GenAI é outro problema paralelo da IA; as pessoas estão escolhendo as estruturas com as quais estão mais familiarizadas ou que parecem mais adequadas aos seus casos de uso específicos. O uso de uma plataforma genAI também é quase tão acessível quanto o uso de um aplicativo SaaS genAI, uma vez que os principais provedores de serviços em nuvem possuem suas próprias ofertas. A plataforma GenAI mais popular é o Microsoft Azure OpenAI, usado por 29% das organizações. O Amazon Bedrock segue logo atrás, com 22%, com o Google Vertex AI em um distante terceiro lugar, com 7,2%. Todas as três plataformas estão ganhando popularidade à medida que mais usuários se familiarizam com elas e exploram as oportunidades que elas oferecem.

Diagrama mostrando a adoção da estrutura de IA na nuvem por porcentagem das organizações

O rápido crescimento da IA paralela impõe à organização o ônus de identificar quem está criando a infraestrutura GenAI em nuvem usando as plataformas GenAI, onde a está construindo e se está seguindo as melhores práticas de segurança de IA. Um dos recursos poderosos dessas plataformas GenAI é que elas permitem a conexão direta de armazenamentos de dados corporativos a aplicativos de IA, exigindo análises e monitoramento adicionais para garantir que esses aplicativos não comprometam a segurança dos dados corporativos. Os clientes da Netskope podem obter informações sobre quem está utilizando essas ferramentas e como elas estão sendo utilizadas, analisando seus registros para qualquer uma dessas plataformas genAI por nome. Saber quem os está usando e como eles os estão usando é o primeiro passo para garantir seu uso seguro.

 

Aumento da adoção do GenAI local link link

Outra prática que está ganhando popularidade é o uso do GenAI no local. O uso local de genAI assume várias formas, desde o uso de recursos de GPU locais para treinar ou hospedar modelos até o desenvolvimento de ferramentas locais que interagem com aplicativos SaaS genAI ou plataformas genAI. Usar o GenAI localmente é uma boa maneira de as organizações aproveitarem seu investimento existente em recursos de GPU ou criarem ferramentas que interagem com sistemas e conjuntos de dados locais. No entanto, a implantação local também significa que a organização é a única responsável pela segurança de sua infraestrutura GenAI. Além disso, entender e aplicar estruturas como o OWASP Top 10 for Large Language Model Applications ou o Mitre Atlas agora é essencial.

Uma das formas mais populares de usar o GenAI localmente é implantar uma interface LLM. Semelhantes às plataformas GenAI, as interfaces LLM permitem a interação com vários modelos usando uma única interface. As interfaces LLM não são tão amplamente usadas quanto as plataformas GenAI, com apenas 34% das organizações usando interfaces LLM em comparação com 41% usando plataformas GenAI. O Ollama é a estrutura mais popular por uma grande margem e também serve como um excelente exemplo de uma das principais diferenças de segurança entre trabalhar no local e em uma plataforma GenAI: o Ollama não inclui nenhuma autenticação integrada. Portanto, se você estiver usando o Ollama, deverá implantá-lo por meio de uma solução de proxy reverso ou acesso privado com mecanismos de autenticação apropriados para se proteger contra o uso não autorizado. Além disso, enquanto as plataformas GenAI normalmente fornecem uma proteção de IA para proteger contra o abuso dos próprios modelos, aqueles que usam estruturas como o Ollama devem tomar medidas extras para evitar abusos e uso indevido. Em comparação com o Ollama, outras interfaces LLM, incluindo o LM Studio e o Ramalama, têm uma base de usuários corporativos muito menor.

Diagrama mostrando as principais interfaces LLM por porcentagem de organizações

Devido às maiores preocupações de segurança relacionadas ao uso de interfaces de IA, as organizações devem trabalhar proativamente para identificar quem as está usando e onde elas estão sendo usadas. Os clientes da Netskope podem identificar o uso de interfaces LLM populares por meio das strings User-Agent nos registros de transações. Por exemplo, as sequências de caracteres User-Agent das três principais interfaces começam com ollama, LM Studio e llama-cpp.

Outra forma de descobrir quem está experimentando ferramentas de IA é monitorar o acesso a mercados de IA, como o Hugging Face. Hugging Face é uma comunidade muito popular para compartilhar ferramentas de IA, modelos de IA e conjuntos de dados. Os usuários estão baixando recursos do Hugging Face em 67% das organizações. Embora a população de usuários que fazem isso seja pequena (apenas 0,3% em média), identificar esses usuários é crucial para descobrir a IA paralela, pois eles podem estar implantando a infraestrutura de IA no local ou na nuvem. Além disso, como o Hugging Face é uma plataforma comunitária projetada para facilitar o compartilhamento, as organizações devem estar cientes dos riscos da cadeia de suprimentos associados aos recursos baixados dessa plataforma. Além dos riscos óbvios de código malicioso incorporado às ferramentas, certos formatos de arquivo de alto risco (como o Python Pickles, que são vulneráveis a perigosos ataques arbitrários de execução de código) são comumente compartilhados no Hugging Face. Os clientes da Netskope podem identificar usuários do Hugging Face pesquisando pelo aplicativo “Hugging Face” em seus registros. Eles devem verificar se os recursos baixados do Hugging Face estão cobertos por suas políticas de proteção contra ameaças.

 

Agentes de IA link link

Enquanto o uso de aplicativos SaaS genAI está se consolidando em torno de aplicativos desenvolvidos especificamente para esse fim e bem integrados aos fluxos de trabalho empresariais existentes (por exemplo, Gemini e Copilot), outra tendência está surgindo, abrangendo aplicativos SaaS de IA, plataformas genAI e uso de IA no local: agentes de IA. Um agente de IA é um sistema encarregado de uma meta específica e com autonomia limitada para atingir essa meta sem exigir a interação do usuário. Graças principalmente aos avanços nos modelos básicos, estamos começando a observar uma massa crítica de usuários em várias organizações criando agentes de IA e utilizando recursos de agentes de soluções SaaS. Por exemplo, o GitHub Copilot (usado em 39% das organizações) oferece um modo de agente, no qual você pode fornecer uma tarefa de codificação, e ele modificará iterativamente seu código e o testará até acreditar que atingiu a meta (ou atingiu outro critério de parada). Há duas características notáveis de um agente de IA:

  1. Ele tem acesso a alguns dados que pertencem à organização.
  2. Ele pode executar algumas ações de forma autônoma.

No caso do GitHub Copilot, ele tem acesso ao seu código-fonte e pode executar os comandos necessários para compilar e executar esse código em sua infraestrutura. Essas duas características dos agentes de IA ressaltam a importância de garantir que seu uso seja adequadamente protegido para proteger dados e infraestrutura confidenciais.

Uma opção para criar agentes de IA é usar uma das muitas estruturas de agentes disponíveis. No total, 5,5% das organizações têm usuários executando agentes criados usando estruturas populares de agentes de IA no local. Entre essas estruturas, o LangChain é o mais popular por uma grande margem (existe desde outubro de 2022), enquanto o OpenAI Agent Framework está ganhando popularidade rapidamente (tendo sido lançado em março de 2025). Embora existam muitas outras estruturas disponíveis, nenhuma delas ainda teve uma adoção corporativa significativa. A Pydantic-AI, em terceiro lugar, é usada em 3 em cada 1000 organizações. Os agentes de IA locais representam um risco significativo de IA oculta porque são altamente acessíveis (fáceis de criar e executar), geralmente têm acesso a dados confidenciais e podem executar códigos de forma autônoma. As organizações devem trabalhar proativamente para identificar os usuários que criam e usam agentes de IA no local.

Diagrama mostrando as principais estruturas de agentes por porcentagem de organizações

Enquanto o agente é executado no local, os modelos de IA reais que sustentam o agente podem ser executados em qualquer lugar, incluindo SaaS, plataformas genAI ou ambientes locais. Quando os agentes locais acessam serviços SaaS, eles normalmente acessam pontos finais de API diferentes dos do navegador. Por exemplo, as conversas com o ChatGPT da OpenAI no navegador irão para chatgpt.com, enquanto a interação programática com os modelos da OpenAI irá para api.openai.com. A figura abaixo apresenta os principais domínios de API de aplicativos SaaS de IA, de acordo com a porcentagem de organizações que os utilizam. A interpretação dos dados é a seguinte: 66% das organizações têm usuários fazendo chamadas de API para api.openai.com, indicando alguma interação não relacionada ao navegador com os serviços OpenAI. Essa interação pode ser de ferramentas de terceiros, ferramentas personalizadas ou agentes de IA. A OpenAI possui uma vantagem significativa sobre outros serviços SaaS nesse aspecto e, considerando o rápido crescimento da popularidade do OpenAI Agent Framework, prevemos que essa tendência se intensifique nos próximos meses.

Diagrama que mostra os 10 principais domínios de API de IA SaaS por porcentagem de organizações

Os clientes da Netskope podem identificar quem está utilizando as estruturas de agentes populares pesquisando em seus registros as sequências de caracteres relevantes do User-Agent. Por exemplo, os três principais frameworks têm cadeias de caracteres de User-Agent começando com langchain, Agents/Python e pydantic-ai. Eles podem encontrar interações não relacionadas ao navegador com aplicativos de IA SaaS pesquisando seus registros de transações pelos domínios relevantes. As sequências de caracteres do User-Agent e os nomes dos processos fornecerão pistas sobre a natureza da interação. De maneira mais ampla, os clientes da Netskope devem estar atentos a quaisquer interações com GenAI provenientes de fora do navegador da web.

Outra opção para criar agentes de IA é usar uma das plataformas GenAI. Para esta discussão, nos concentraremos especificamente no Amazon Bedrock, pois ele fornece endpoints de serviço distintos para gerenciar modelos, gerenciar agentes, fazer solicitações de inferência a modelos e invocar agentes. Anteriormente neste relatório, informamos que 22% das organizações estão usando o Amazon Bedrock. Quando detalhamos ainda mais esse número, descobrimos que todos os 22% o estão usando para gerenciar modelos e executar inferências com base em modelos, enquanto 14% o usam para desenvolver, implantar ou invocar agentes. Também declaramos anteriormente nesta seção que 5,5% das organizações estão executando agentes de IA no local, o que significa que 2,5 vezes mais organizações estão usando o Amazon Bedrock para agentes de IA em comparação com agentes locais.

Por que estruturas como o Bedrock são mais populares para IA agente do que estruturas locais?

  • Eles simplificam o desenvolvimento, especialmente para aqueles que já investiram no ecossistema da AWS.
  • Eles reduzem a sobrecarga operacional por serem um serviço gerenciado.
  • Eles vêm com a escalabilidade integrada de uma plataforma IaaS madura.

Em outras palavras, um ambiente estável e gerenciado com segurança e suporte integrados é mais atraente para as organizações do que ter que lidar com todos esses aspectos de forma independente. Com base nas tendências atuais, esperamos que essa divisão aumente, com um número ainda maior de organizações favorecendo as plataformas GenAI em vez das soluções locais nos próximos meses. As soluções locais ainda farão sentido para algumas organizações, especialmente aquelas com casos de uso específicos de alto volume, previsíveis, contínuos e de longo prazo, nos quais o local pode ser mais econômico. E, é claro, qualquer pessoa dentro da organização pode começar a desenvolver e usar agentes no local durante o desenvolvimento ou para uso pessoal, ressaltando a necessidade de as organizações monitorarem continuamente a IA paralela.

Os usuários da Netskope que desejam descobrir quem está utilizando o Amazon Bedrock para implantar ou invocar agentes devem procurar em seus registros de transações os domínios de tempo de compilação do Bedrock (bedrock-agent.*.amazonaws.com) e os domínios de tempo de execução do Bedrock (bedrock-agent-runtime.*.amazonaws.com).

Uma perspectiva do CISO link link

Para gerenciar com eficácia os riscos de segurança de dados decorrentes do uso crescente de tecnologias de IA generativas, os CISOs e os líderes de segurança devem implementar as seguintes diretrizes acionáveis:

  1. Avalie seu cenário GenAI:
    • Identifique o uso: determine quais aplicativos SaaS genAI, plataformas genAI e ferramentas genAI hospedadas localmente estão em uso em toda a sua organização.
    • Identificação do usuário: identifique quem está usando essas ferramentas e como elas estão sendo utilizadas em diferentes departamentos e fluxos de trabalho.
  2. Reforce os controles do aplicativo GenAI:
    • Aplicativos aprovados: estabeleça e aplique uma política que permita apenas o uso de aplicativos GenAI aprovados pela empresa.
    • Bloqueie aplicativos não aprovados: implemente mecanismos de bloqueio robustos para evitar o uso de aplicativos GenAI não aprovados.
    • DLP para dados confidenciais: use políticas de prevenção de perda de dados (DLP) para evitar que dados confidenciais sejam compartilhados com aplicativos GenAI não autorizados.
    • Treinamento de usuário em tempo real: implemente treinamento de usuário em tempo real para orientar os usuários em direção a soluções aprovadas e educá-los sobre práticas seguras de GenAI. Compare regularmente esses controles com as melhores práticas do setor.
  3. Inventário da infraestrutura GenAI local:
  4. Monitoramento e conscientização contínuos:
    • Monitorar o uso de genAI: Implemente o monitoramento contínuo do uso de genAI em sua organização para detectar novas instâncias de IA oculta, seja por meio de aplicativos SaaS, plataformas genAI ou implantações locais.
    • Mantenha-se informado: mantenha-se atualizado sobre os novos desenvolvimentos em ética de IA, mudanças regulatórias e ataques adversários para ajustar sua postura de segurança de forma proativa.
  5. Entendendo e propondo o risco da IA oculta agente:
    • Funcionário não verificado: a inteligência artificial oculta é como uma pessoa entrando em seu escritório todos os dias, manipulando dados, realizando ações em sistemas e tudo isso sem ter verificado seus antecedentes ou monitorando a segurança.
    • Estabeleça diretrizes: Estabeleça diretrizes para a organização e seus membros. Use as detecções descritas neste relatório para identificar aqueles que estão liderando a adoção da IA agente e faça parceria com eles para desenvolver uma política, padrão ou diretriz viável e realista.

Ao tomar essas medidas proativas, as organizações podem gerenciar com eficácia os desafios em evolução apresentados pelas tecnologias GenAI e garantir sua adoção segura e responsável.

 

Netskope Threat Labs link link

Com a equipe dos principais pesquisadores de malware e ameaças na nuvem do setor, o Netskope Threat Labs descobre, analisa e projeta defesas contra as mais recentes ameaças na nuvem que afetam as empresas. Nossos pesquisadores são apresentadores regulares e voluntários nas principais conferências de segurança, incluindo DefCon, BlackHat e RSA.

 

Sobre este relatório link link

A Netskope oferece proteção contra ameaças a milhões de usuários em todo o mundo. As informações apresentadas neste relatório baseiam-se em dados de uso anônimos coletados pela plataforma Netskope One em relação a um subconjunto de clientes da Netskope com autorização prévia.

Este relatório contém informações sobre detecções levantadas pelo Netskope One Next Generation Secure Web Gateway (NG-SWG), sem considerar a importância do impacto de cada ameaça individual. As estatísticas deste relatório são baseadas no período de 1º de fevereiro de 2025 a 31 de maio de 2025. As estatísticas refletem as táticas do atacante, o comportamento do usuário e a política da organização.