Os riscos de segurança mais urgentes para organizações que usam aplicativos GenAI estão relacionados a dados, e os usuários são os atores essenciais para causar e prevenir esses riscos. Esses riscos têm dois ângulos.
- Entrada: Quais dados os usuários enviam para os aplicativos GenAI?
- Saída: Como os usuários aproveitam as saídas que recebem dos aplicativos GenAI?
Para a entrada, o principal risco é o vazamento de dados. No resultado, os riscos incluem exatidão (os aplicativos GenAI são muito bons em fornecer alucinações e desinformação) e questões legais (muitas empresas treinaram seus aplicativos GenAI em conteúdo protegido por direitos autorais ou licenciado). Este relatório se concentra nas entradas, já que a proteção de dados confidenciais geralmente é a maior prioridade para a maioria das organizações.
Adoção conservadora
O setor bancário conseguiu retardar a adoção do GenAI adotando políticas mais agressivas para restringir seu uso. 93% das organizações bancárias bloqueiam pelo menos um aplicativo GenAI, enquanto a média mundial é de apenas 77%. Além disso, organizações bancárias que bloqueiam aplicativos GenAI tendem a bloquear mais aplicativos GenAI do que suas contrapartes em outros setores. A figura a seguir mostra que o número médio de aplicativos GenAI que uma organização bancária bloqueia aumentou de 5 há um ano para quase 9 hoje, com os 25% principais das organizações bloqueando pelo menos 24 aplicativos. Em contraste, a média global é de apenas 2,6 aplicativos, com 12 aplicativos entre os 25% melhores das organizações.
Os aplicativos com mais blocos incluem aplicativos de várias categorias, incluindo assistentes de redação, chatbots, geradores de imagem e geradores de áudio, com muitas semelhanças com as tendências globais.
Por outro lado, os aplicativos GenAI mais populares no setor bancário incluem chatbots, assistentes de redação, copilotos e aplicativos de anotações, refletindo muitas tendências globais.
As organizações do setor bancário controlam o acesso aos aplicativos GenAI permitidos usando uma combinação de controles, incluindo prevenção de perda de dados (DLP) e treinamento de usuários em tempo real. O DLP como controle GenAI é popular no setor bancário, com mais da metade de todas as organizações o usando para restringir o fluxo de informações confidenciais para os aplicativos GenAI, em comparação com uma média global de 43%. No setor bancário, um setor altamente regulamentado, o tipo mais comum de dados confidenciais enviados para os aplicativos GenAI são os dados regulamentados, em que os controles DLP ajudam a impedir que esses dados sejam divulgados a fornecedores terceirizados da GenAI.
Os controles GenAI usados no setor bancário têm sido muito eficazes. O setor geralmente vê uma adoção menor do GenAI do que outros setores, com 87% das organizações usando o GenAI em comparação com a média global de 97%. Embora a adoção continue aumentando, ela está aumentando modestamente, subindo 7 pontos no ano passado. Da mesma forma, o número médio de aplicativos GenAI usados em cada organização, 6, é menor do que a média global de 9,6.