I rischi per la sicurezza più urgenti per le organizzazioni che utilizzano app genAI sono legati ai dati e gli utenti sono gli attori critici nel causare e prevenire tali rischi. Questi rischi hanno due aspetti.
- Input: Quali dati inviano gli utenti alle app GenAI?
- Output: Come sfruttano gli utenti i risultati ricevuti dalle app genAI?
Per l'input, il rischio principale è la perdita di dati. Per quanto riguarda i risultati, i rischi includono la correttezza (le app genAI sono molto efficaci nel fornire allucinazioni e disinformazione) e preoccupazioni legali (molte aziende hanno addestrato le loro app genAI su contenuti protetti da copyright o con licenza). Questo rapporto si concentra sugli input, poiché la protezione dei dati sensibili è tipicamente la massima priorità per la maggior parte delle organizzazioni.
Adozione da parte dei conservatori
Il settore bancario è riuscito a rallentare l'adozione di GenAI adottando una politica più aggressiva per limitarne l'uso. Il 93% delle organizzazioni bancarie blocca almeno un'app GenAI, mentre la media mondiale è solo del 77%. Inoltre, le organizzazioni bancarie che bloccano le app genAI tendono a bloccare più app genAI rispetto alle loro controparti in altri settori. La figura seguente mostra che il numero medio di app genAI bloccate da un'organizzazione bancaria è aumentato da 5 un anno fa a quasi 9 oggi, con il 25% delle organizzazioni che blocca almeno 24 app. Al contrario, la media globale è di soli 2,6 app, con 12 app nel 25% delle organizzazioni più ricche.

Le app con più blocchi includono app di più categorie, tra cui assistenti di scrittura, chatbot, generatori di immagini e generatori audio, con molte somiglianze con le tendenze globali.

D'altro canto, le app di genAI più popolari nel settore bancario includono chatbot, assistenti alla scrittura, copiloti e app per prendere appunti, rispecchiando molte tendenze globali.

Le organizzazioni del settore bancario controllano l'accesso alle app genAI consentite utilizzando una combinazione di controlli, tra cui la prevenzione della perdita di dati (DLP) e il coaching utente in tempo reale. Il DLP come controllo genAI è popolare nel settore bancario, con più della metà delle organizzazioni che lo utilizza per limitare il flusso di informazioni sensibili nelle app genAI, rispetto a una media globale del 43%. Nel settore bancario, un settore altamente regolamentato, il tipo più comune di dati sensibili caricati sulle app genAI sono, non sorprendentemente, quelli regolamentati, dove i controlli DLP aiutano a impedire che tali dati vengano divulgati a fornitori terzi di genAI.

I controlli genAI utilizzati nel settore bancario sono stati molto efficaci. Il settore registra generalmente un'adozione della GenAI inferiore rispetto ad altri settori, con l'87% delle organizzazioni che la utilizzano rispetto alla media globale del 97%. Sebbene l'adozione continui a crescere, lo sta facendo in modo modesto, aumentando di 7 punti nell'ultimo anno. Allo stesso modo, il numero medio di app GenAI utilizzate in ogni organizzazione, 6, è inferiore alla media globale di 9,6.