App di IA nelle Imprese: 2024

Il punto di partenza per il rischio delle app genAI sono le applicazioni stesse. In pratica, i controlli applicativi sono anche il punto di partenza per controllare tale rischio, solitamente implementati come elenchi di autorizzazioni o blocchi all'interno di un SWG o proxy in linea.

La maggior parte delle organizzazioni ha limitato l'uso delle app genAI per proteggere i propri dati: a giugno 2024, il 77% delle organizzazioni bloccava almeno un'app genAI, con un aumento del 45% rispetto al 53% delle organizzazioni a giugno 2023.

Questa tendenza indica una buona maturità e adozione dei controlli di base sull'uso delle applicazioni genAI. Controllare quali app vengono utilizzate in un'organizzazione è un punto di partenza necessario per ridurre i rischi. Tuttavia, saranno necessari controlli più dettagliati per essere efficaci. L'uso specifico di un'applicazione spesso determina se l'attività debba essere consentita o meno. Ad esempio, una ricerca generale in ChatGPT dovrebbe essere consentita, mentre la sottomissione del codice sorgente no.

Esaminando più in dettaglio le applicazioni bloccate, anche il numero mediano di applicazioni bloccate per tutti gli utenti di un'organizzazione è aumentato, passando da 0,6 app a giugno 2023 a oltre 2,6 app a giugno 2024. Il fatto che le app genAI siano state soggette a così pochi divieti a livello aziendale rispetto alle centinaia di app genAI presenti sul mercato è indice della popolarità di altri controlli più sfumati, di cui parleremo più dettagliatamente più avanti in questo rapporto.

Le applicazioni genAI più bloccate sono in qualche modo legate alla popolarità, ma un buon numero di app meno popolari sono quelle più bloccate. Tra le organizzazioni che bloccano le app genAI, il 28% blocca Beautifal.ai (rendendola l'app genAI più comunemente bloccata) e il 19% blocca Perplexity AI, che è la decima app più comunemente bloccata. I blocchi possono spesso rappresentare una misura temporanea, poiché New app vengono valutate per determinare se servono a scopi aziendali legittimi e sono sicure per determinati casi d'uso.

Le applicazioni specifiche bloccate variano in base alla politica aziendale, ma quando le percentuali sono sufficientemente elevate, come nell'elenco delle prime 10 sopra riportato, vale la pena che tutte le organizzazioni verifichino se le applicazioni specifiche vengono utilizzate nel proprio ambiente e se modificare i controlli relativi alla categoria di applicazioni. La tabella seguente mostra che le app più bloccate riguardano una varietà di casi d'uso diversi nello spazio genAI.

Categorie di app GenAI più bloccate

Man mano che le organizzazioni superano gli elenchi delle applicazioni consentite, tendono a iniziare ad attuare controlli più dettagliati sull'utilizzo delle applicazioni consentite. Non sorprende che i controlli DLP stiano diventando sempre più popolari come controllo del rischio dei dati di genAI. La prevenzione della perdita di dati è aumentata in popolarità dal 24% a giugno 2023 a oltre il 42% delle organizzazioni che utilizzano DLP per controllare i tipi di dati inviati alle app genAI a giugno 2024, con una crescita di oltre il 75% su base annua.

L'aumento dei controlli DLP riflette una comprensione tra le organizzazioni su come mitigare efficacemente il rischio dei dati in un contesto di tendenza più ampia e ampia all'aumento dell'uso delle app genAI. All'interno della Politica DLP, le organizzazioni cercano di controllare flussi dati specifici, in particolare per bloccare i prompt genAI contenenti informazioni sensibili o riservate. Nelle organizzazioni con una Politica di protezione dei dati, il codice sorgente rappresenta quasi la metà (46%) di tutte le violazioni DLP, con dati regolamentati guidati da regolamenti di settore o requisiti di conformità al 35%, e proprietà intellettuale al 15%. I dati regolamentati sono stati una delle principali violazioni pre-genAI e rafforzano le sfide legate alla formazione manuale degli utenti sulla condivisione impropria dei dati regolamentati.

La pubblicazione di dati sensibili sulle app genAI non solo riflette le attuali priorità delle organizzazioni, ma dimostra anche l'utilità di varie app genAI. Ad esempio, la popolarità di GitHub Copilot, unita alla quota di mercato di Microsoft come piattaforma di sviluppo software, potrebbe indurre in futuro un maggiore utilizzo di genAI per la generazione di codice.

Sebbene le applicazioni o le attività palesemente dannose siano ben gestite da controlli che bloccano e avvisano, il rischio per i dati è spesso più un'area grigia. I controlli di coaching possono rappresentare una tecnica molto efficace per gestire le zone grigie, soprattutto nei primi cicli tecnologici in rapida evoluzione come la GenAI. Inoltre, le organizzazioni possono utilizzare il coaching per informare e perfezionare i controlli di sicurezza senza bloccare la produttività con falsi positivi e processi di approvazione lenti.

I controlli di coaching forniscono una finestra di dialogo di avviso all'utente durante l'interazione con le app genAI, consentendogli di annullare o procedere con le proprie azioni. Funziona come le funzionalità di navigazione sicura integrate nei browser. Il vantaggio è che offre un'esperienza più amichevole per l'utente, senza bloccarne il lavoro, ma informandolo e consentendogli di migliorare il proprio comportamento.

Per le organizzazioni dotate di policy per controllare l'utilizzo delle applicazioni genAI, il 31% di esse utilizzava dialoghi di coaching a giugno 2024, rispetto al 20% delle organizzazioni a giugno 2023, con un aumento di oltre il 50% nell'adozione.

Questo coincide con la crescente sofisticazione delle organizzazioni nell'applicare controlli di coaching simili provenienti da altri domini di sicurezza a New come il rischio delle app genAI. Sebbene la crescita si sia appiattita, i controlli per l'allenamento sono relativamente New rispetto ai blocchi e allerti basati su DLP o applicazione. Ci aspettiamo che l'adozione continui a crescere man mano che sempre più organizzazioni comprenderanno come utilizzare il coaching per gestire i rischi più grigi associati ai dati.

Analizzando la risposta effettiva dell'utente agli avvisi di dialogo di coaching che si sono verificati, possiamo osservare una misura dell'efficacia. Per tutti gli utenti che hanno ricevuto avvisi di dialogo di coaching per le app genAI, nel 57% dei casi gli utenti hanno scelto di interrompere l'azione che stavano eseguendo, il che ha ridotto il rischio che gli utenti evitassero di inviare dati sensibili nei prompt delle app genAI o di utilizzare app genAI sconosciute o New . Il 57% è sufficientemente alto da sostenere la tesi secondo cui il coaching può rappresentare un controllo efficace per integrare i blocchi applicativi espliciti e la politica DLP. Inoltre, il coaching consente anche il feedback. Quando si decide di procedere, la maggior parte delle organizzazioni adotta delle policy che richiedono agli utenti di giustificare le proprie azioni durante l'interazione di coaching.

Questo non significa che le decisioni degli utenti siano la base della Politica di Sicurezza. Piuttosto, indica che per le organizzazioni che utilizzano il coaching, circa la metà dell'uso delle app genAI che non viene bloccata del tutto può essere ulteriormente ridotta dalle decisioni degli utenti. Altrettanto importante, le decisioni degli utenti in risposta ai dialoghi di coaching possono e devono informare la revisione e l'adeguamento delle politiche di sicurezza. Sebbene le decisioni degli utenti possano essere errate e rischiose, le due categorizzazioni costituiscono la base per ulteriori revisioni. Le applicazioni che un utente ha deciso di non usare basandosi su un dialogo di coaching dovrebbero essere analizzate per una lista di blocchi diretta. Le applicazioni che un utente ha deciso di usare dovrebbero essere esaminate per essere inserite in una lista di standard aziendali consentite o magari bloccate se esiste un'app migliore o più accettabile. Le risposte degli utenti ai prompt di coaching potrebbero anche essere usate per affinare Policy più sfumate, come la Politica DLP, per renderle più mirate nella loro applicazione.

Stiamo osservando i primi segnali di rilevamenti avanzati di comportamenti sospetti degli utenti riguardo al movimento dei dati, rilevati dai motori di rilevamento comportamentale. Il movimento di dati sospetto spesso comprende molteplici indicatori di comportamenti sospetti o inaspettati da parte di un utente rispetto al normale livello di attività dell'utente o dell'organizzazione. Gli indicatori potrebbero riguardare attività di download o upload anomale, fonti o destinazioni di dati New o sospette, come le app New generazione, nonché altri comportamenti sospetti, come l'uso di un indirizzo IP o di un agente utente inaspettato o offuscato.

Un esempio di allarme comportamentale avanzato rilevato per movimenti di dati sospetti riguarda il trasferimento di dati da un'applicazione gestita dall'organizzazione e caricati su un'app genAI personale non approvata.

Analogamente al coaching, l'elenco delle app visualizzate in questi avvisi può essere utilizzato anche per stabilire le priorità degli sforzi di controllo con l'utilizzo delle applicazioni genAI. Ad esempio, due app di uso comune potrebbero sovrapporsi nelle funzionalità e questo potrebbe dare priorità agli sforzi per ridurre il numero di app.

L'uso di avvisi comportamentali dimostra la consapevolezza e l'adozione tempestive da parte delle organizzazioni di misure per individuare le minacce più difficili da rilevare, che tradizionalmente includono credenziali compromesse, minacce interne, movimenti laterali e attività di esfiltrazione di dati da parte di malintenzionati.

Se osserviamo più da vicino i movimenti dei dati sensibili, scopriamo che le applicazioni più importanti da cui provengono i dati sensibili riflettono la popolarità delle app cloud aziendali, con OneDrive (34%) e Google Drive (29%) in cima, seguite da SharePoint (21%), Outlook (8%) e Gmail (6%).

Le prime 3 app sono tutte app di cloud storage e collaborazione e sono state la fonte dei dati sensibili l'84% delle volte, mentre le principali app cloud email sono state la fonte nel 14% dei casi. Sapendo quali applicazioni specifiche sono coinvolte più frequentemente nei movimenti di dati sensibili, i team di sicurezza possono quindi regolare i controlli in modo appropriato, ad esempio posizionando ulteriori controlli DLP attorno alle applicazioni di condivisione file. Le organizzazioni dovrebbero dare priorità alla valutazione del rischio di sicurezza e all'implementazione dei controlli riguardanti il movimento dei dati tra app, specialmente passando dalle app gestite alle app genAI non gestite, poiché sta diventando sempre più comune e potenzialmente con un grande impatto sulla perdita di dati.