Relatório de nuvem e ameaças: aplicativos de IA na empresa

Este relatório examina como as organizações estão equilibrando os benefícios das ferramentas de IA e, ao mesmo tempo, gerenciando os riscos associados, destacando uma estratégia cada vez mais popular que envolve DLP e treinamento interativo do usuário.

Netskope Threat LabsJulho de 2023

Destaques do Relatório Resumo executivo Aplicativos de IA crescem em popularidade Riscos de IA - Dados confidenciais Atacantes oportunistas Controles corporativos Recomendações Sobre este relatório Netskope Threat Labs

9 min read

Destaques do Relatório

O uso de aplicativos de IA na empresa está crescendo exponencialmente, com um aumento de 22,5% nos últimos dois meses.
O ChatGPT é o aplicativo de IA mais popular na empresa e o Google Bard é o aplicativo de IA de crescimento mais rápido na empresa, ambos por uma grande margem.
O código-fonte é publicado no ChatGPT mais do que qualquer outro tipo de dados confidenciais, a uma taxa de 158 incidentes por 10.000 usuários corporativos por mês.
Os invasores estão criando golpes de aplicativos de IA e sites de phishing para tentar capitalizar o hype em torno do ChatGPT.
O DLP e o treinamento de usuários são os tipos mais populares de controles que as empresas usam para permitir o uso de aplicativos de IA e, ao mesmo tempo, evitar a exposição de dados confidenciais.

resposta de teste

Resumo executivo

As conversas sobre IA geralmente se concentram em questões existenciais, como as possíveis oportunidades e ameaças que a IA pode trazer para a humanidade. No entanto, organizações de todo o mundo e seus líderes estão lidando com uma preocupação mais imediata: como podem usar aplicativos de IA de forma segura e protegida?

As organizações se esforçam para aproveitar os aplicativos de IA para aprimorar as operações, melhorar as experiências dos clientes e facilitar a tomada de decisões orientada por dados. O segredo é fazer isso e, ao mesmo tempo, garantir a segurança e a proteção. No entanto, o principal obstáculo à segurança está na forma como alguns usuários podem usar esses aplicativos.

Veja o ChatGPT, por exemplo, que pode ser usado para analisar o código-fonte em busca de falhas de segurança ou auxiliar na edição de conteúdo escrito. O ChatGPT foi usado para editar este resumo executivo. Inevitavelmente, alguns indivíduos farão upload de código-fonte ou texto proprietário contendo dados regulamentados ou propriedade intelectual. O desafio está em impedir esse comportamento sem prejudicar a produtividade da organização como um todo. Um bloqueio total dos aplicativos de IA poderia resolver esse problema, mas o faria às custas dos possíveis benefícios que os aplicativos de IA oferecem.

À medida que continuamos cercados pelo hype centrado nas possibilidades da IA, é evidente que o ChatGPT e outros aplicativos de IA estão a caminho de se tornarem pilares da empresa. Entre os clientes da Netskope, sua popularidade está crescendo exponencialmente e espera-se que dobre nos próximos sete meses se continuar a crescer no ritmo atual. Este relatório analisa a crescente proeminência dos aplicativos de IA nas empresas, descreve os riscos associados, incluindo vazamentos de dados e possíveis atividades de invasores, e propõe estratégias para integrar com segurança o ChatGPT e outras ferramentas de IA no ambiente corporativo.

sdofjsfojefgejelosij

Aplicativos de IA crescem em popularidade

O número de usuários que acessam aplicativos de IA na empresa está crescendo exponencialmente. Nos últimos dois meses, a porcentagem de usuários corporativos que acessam pelo menos um aplicativo de IA por dia aumentou 2,4% semanalmente, totalizando um aumento de 22,5% nesse período. Com a atual taxa de crescimento, o número de usuários que acessam aplicativos de IA dobrará nos próximos sete meses. No mesmo período, o número de aplicativos de IA em uso na empresa se manteve estável, com organizações com mais de 1.000 usuários com uma média de 3 aplicativos de IA diferentes por dia e organizações com mais de 10.000 usuários com uma média de 5 aplicativos de IA por dia. No final de junho, 1 em cada 100 usuários corporativos interagia com um aplicativo de IA por dia.

Popularidade do aplicativo de IA com base no número de usuários corporativos

O aplicativo de IA empresarial mais popular, por uma grande margem, é o ChatGPT, com mais de 8 vezes mais usuários ativos diários do que qualquer outro aplicativo de IA. O ChatGPT tem sido o centro de muita badalação nos últimos seis meses e também é muito versátil, o que provavelmente contribui para sua popularidade. O segundo aplicativo mais popular é o Grammarly, que se concentra exclusivamente na assistência à escrita. O Bard, o chatbot do Google, vem logo abaixo do Grammarly. Todos os outros aplicativos de IA combinados (dos quais estamos monitorando mais de 60, incluindo Jasper, Chatbase e Copy.ai) são menos populares que o Google Bard.

Aplicativos de IA mais populares por porcentagem do total de usuários diários de IA

Nos últimos dois meses, o aplicativo de IA que mais cresceu na empresa foi o Google Bard. Embora ainda esteja muito atrás do ChatGPT em termos de popularidade, o Google Bard está atualmente adicionando usuários a uma taxa de 7,1% por semana, em comparação com 1,6% do ChatGPT. Com as taxas atuais, o Google Bard está pronto para alcançar o ChatGPT em pouco mais de um ano. No entanto, como o espaço de aplicativos de IA é muito dinâmico, esperamos ver muitas outras mudanças durante esse período, o que interromperá as atuais taxas de crescimento.

O Netskope Threat Labs rastreia a popularidade dos aplicativos de IA em ambientes corporativos, em vez da popularidade geral dos aplicativos entre os consumidores. Por exemplo, enquanto a popularidade do ChatGPT disparou entre os consumidores antes de esfriar em junho, sua adoção nas empresas tem sido mais comedida e continua a aumentar exponencialmente. O restante deste relatório destaca alguns dos motivos para o aumento medido, que incluem riscos de vazamento de dados e controles sobre seu uso.

Aplicativos de IA de crescimento mais rápido por número de usuários ativos diários adicionados semanalmente

Riscos de IA - Dados confidenciais

Esse segmento se concentra no ChatGPT, o aplicativo de IA líder nas empresas por uma grande margem. Um usuário médio do ChatGPT interage com o aplicativo postando 6 prompts diariamente. O nível de atividade varia de acordo com o usuário, sendo que os 10% dos principais usuários postam 22 prompts e o 1% dos principais posta 68 prompts diariamente. Para cada 10.000 usuários, uma organização pode esperar cerca de 660 solicitações diárias ao ChatGPT. Mas a verdadeira questão está no conteúdo desses prompts: São consultas inofensivas ou revelam inadvertidamente dados confidenciais?

Um estudo da Netskope revelou que o código-fonte era o tipo de dados confidenciais mais frequentemente exposto, com 22 de 10.000 usuários corporativos postando códigos-fonte no ChatGPT por mês. No total, esses 22 usuários são responsáveis por uma média de 158 publicações contendo código-fonte por mês. Essa tendência não é totalmente inesperada, considerando a capacidade do ChatGPT de analisar e explicar o código e identificar bugs e vulnerabilidades de segurança. Embora esses serviços sejam benéficos, o compartilhamento de código-fonte confidencial com o ChatGPT apresenta riscos, incluindo possíveis violações de dados, divulgação acidental de dados e riscos legais e regulamentares.

Usuários que publicam dados confidenciais por 10.000 mil usuários corporativos por mês

Em comparação com o código-fonte, as postagens que contêm outras formas de dados confidenciais são relativamente menos comuns. Para cada 10.000 usuários corporativos, há normalmente 18 incidentes de compartilhamento de dados regulamentados (abrangendo dados financeiros, informações de saúde e informações de identificação pessoal) mensalmente. A propriedade intelectual (excluindo o código-fonte) é ainda mais rara, com uma média de 4 incidentes por mês para cada 10.000 usuários. É interessante notar que as senhas e as chaves também aparecem entre os tipos de dados confidenciais compartilhados, geralmente incorporados ao código-fonte. Apesar de sua relativa infrequência (cerca de 4 incidentes a cada 10.000 usuários por mês), essa prática serve como um lembrete crucial para os engenheiros de software sobre os riscos de codificar segredos no código-fonte.

Incidentes de usuários que publicam dados confidenciais por 10.000 mil usuários corporativos por mês

Atacantes oportunistas

Com todo o hype em torno do ChatGPT e dos aplicativos de IA em geral, não é de surpreender que golpistas, criminosos cibernéticos e outros invasores tentem explorar o hype para obter ganhos ilícitos. Essa é uma prática comum dos invasores. Por exemplo, o Netskope Threat Labs Cloud and Threat Report da primavera de 2023 destacou os invasores que tentaram capitalizar a guerra russo-ucraniana, o terremoto na Turquia e na Síria e o colapso do Silicon Valley Bank. O hype e a popularidade do ChatGPT chamam a atenção de invasores e golpistas devido ao grande número de alvos e ao potencial de lucro, combinados com a proficiência variada dos usuários na plataforma.

Ao longo do primeiro semestre de 2023, o Netskope Threat Labs rastreou várias campanhas de phishing, campanhas de distribuição de malware e sites de spam e fraude que buscam capitalizar o hype do ChatGPT. O Netskope Threat Labs está até mesmo rastreando vários proxies ChatGPT, sites que parecem oferecer o benefício de acesso gratuito e não autenticado ao chatbot, mas ao custo de revelar todos os seus prompts e respostas ao operador do proxy.

Um proxy ChatGPT em que o operador do proxy vê todos os prompts e respostas

No total, o Netskope Threat Labs está rastreando atualmente mais de 1.000 URLs e domínios mal-intencionados que buscam capitalizar o hype do ChatGPT e da IA. Esse número, por si só, é um lembrete da importância de usar uma abordagem em várias camadas para proteger os usuários contra invasores que tentam capitalizar o hype e a popularidade em torno de qualquer evento ou tendência significativa. Essa abordagem deve incluir filtragem de domínio, filtragem de URL e inspeção de conteúdo para proteger contra ataques conhecidos e desconhecidos.

Controles corporativos

Embora uma prática comum, quando o ChatGPT começou a ganhar popularidade, fosse as empresas bloquearem totalmente o chatbot, as organizações já aceitaram o fato de que o ChatGPT e outros aplicativos de IA podem oferecer vantagens para a organização, incluindo o aprimoramento das operações, a melhoria das experiências do cliente e a facilitação da tomada de decisões orientada por dados. Em vez de bloquear o ChatGPT, as organizações fizeram a transição para um modelo mais permissivo que normalmente inclui uma combinação de DLP e treinamento de usuários. O DLP pode ser usado para identificar dados potencialmente confidenciais que estão sendo publicados em aplicativos de IA, incluindo o ChatGPT, e o treinamento do usuário pode deixar a decisão final de prosseguir ou não com um prompt para o usuário.

Organizações que colocam controles em torno do ChatGPT

Os controles específicos do ChatGPT variam de acordo com o setor vertical. De modo geral, as empresas de serviços financeiros, saúde e tecnologia lideraram a implementação de controles em torno do ChatGPT. No entanto, a abordagem adotada por cada setor varia significativamente. Nos setores de serviços financeiros e de saúde, ambos altamente regulamentados, quase uma em cada cinco organizações implementou uma proibição geral. Nenhum usuário tem permissão para usar o ChatGPT. No setor de tecnologia, apenas 1 em cada 20 organizações implementou uma proibição geral. Em vez disso, 1 em cada 4 organizações está usando controles de DLP para detectar tipos específicos de informações confidenciais (especialmente código-fonte) postadas no ChatGPT. Além disso, 1 em cada 5 organizações de tecnologia implementa treinamento de usuários em tempo real para lembrá-los da política da empresa e dos riscos que acompanham o ChatGPT e outros aplicativos de IA. Por fim, é provável que mais organizações adotem controles de DLP e treinamento de usuários em tempo real ao longo do tempo para permitir o uso de aplicativos de IA como o ChatGPT e, ao mesmo tempo, proteger-se contra a exposição indesejada de dados.

Tipo de controles do ChatGPT por setor vertical

Recomendações

Permitir com segurança a adoção de aplicativos de IA na empresa é um desafio multifacetado. Isso envolve a identificação de aplicativos permitidos e a implementação de controles que capacitem os usuários a usá-los em seu potencial máximo e, ao mesmo tempo, protejam a organização contra riscos. Esta seção inclui recomendações técnicas gerais para organizações que desejam habilitar aplicativos de IA com segurança. Para obter informações mais detalhadas sobre como o Netskope pode ajudar, consulte o resumo da solução ChatGPT e Generative AI Data Protection.

→ Analisar regularmente a atividade, as tendências, os comportamentos e a sensibilidade dos dados do aplicativo de IA para identificar os riscos para a organização.

→ Bloquear o acesso a aplicativos que não atendam a nenhuma finalidade comercial legítima ou que representem um risco desproporcional. Um bom ponto de partida é uma política para permitir aplicativos respeitáveis em uso no momento e bloquear todos os outros.

→ Use políticas de DLP para detectar postagens que contenham informações potencialmente confidenciais, incluindo código-fonte, dados regulamentados, senhas e chaves e propriedade intelectual.

→ Empregar treinamento de usuários em tempo real (combinado com DLP) para lembrar os usuários da política da empresa em relação ao uso de aplicativos de IA no momento da interação.

Bloqueie atacantes oportunistas que tentam tirar proveito da crescente popularidade dos aplicativos de IA, bloqueando domínios e URLs mal-intencionados conhecidos e inspecionando todo o conteúdo HTTP e HTTPS.

→ Use a tecnologia Remote Browser Isolation (RBI) para fornecer proteção adicional quando houver necessidade de visitar sites em categorias que possam apresentar maior risco, como domínios recém-observados e recém-registrados.

→ Garantir que todas as defesas de segurança compartilhem inteligência e trabalhem juntas para simplificar as operações de segurança. Os clientes da Netskope podem usar o Cloud Exchange para compartilhar IOCs, importar informações sobre ameaças, exportar registros de eventos, automatizar fluxos de trabalho e trocar pontuações de risco.

Sobre este relatório

O Netskope Threat Labs publica trimestralmente um relatório sobre nuvem e ameaças para destacar um conjunto específico de desafios de segurança cibernética. O objetivo deste relatório é fornecer visibilidade dos riscos de segurança cibernética que os aplicativos de IA apresentam e como as organizações estão gerenciando esses riscos. A análise apresentada neste relatório é baseada em um estudo de milhões de usuários de milhares de organizações em todo o mundo, para o período de 1º de maio de 2023 a 30 de junho de 2023. As estatísticas refletem as táticas do invasor, o comportamento do usuário e a política da organização. As informações apresentadas neste relatório baseiam-se em dados de uso anônimos coletados pela plataforma Netskope Security Cloud em relação a um subconjunto de clientes da Netskope com autorização prévia.

Netskope Threat Labs

Com a equipe dos principais pesquisadores de malware e ameaças na nuvem do setor, o Netskope Threat Labs descobre, analisa e projeta defesas contra as mais recentes ameaças à Web, à nuvem e aos dados que afetam as empresas. Nossos pesquisadores são apresentadores regulares e voluntários nas principais conferências de segurança, incluindo DEF CON, Black Hat e RSA.

Relatórios de nuvem e ameaças

O Netskope Cloud and Threat Report traz informações exclusivas sobre a adoção de aplicativos na nuvem, mudanças no panorama das ameaças preparadas para a nuvem e os riscos para os dados corporativos.

Procurar relatórios

Tempestade com relâmpagos sobre a cidade à noite

Acelere seu programa de segurança com o líder em SASE.

Iniciar