Die dringendsten Sicherheitsrisiken für Unternehmen, die genAI-Apps verwenden, sind datenbezogen, und die Benutzer sind die entscheidenden Akteure bei der Verursachung und Vermeidung dieser Risiken. Es gibt zwei Blickwinkel auf diese Risiken.
- Eingabe: Welche Daten senden Nutzer an genAI-Apps?
- Ausgabe: Wie nutzen Benutzer die Ergebnisse, die sie von genAI-Apps erhalten?
Für die Eingabe besteht das Hauptrisiko in Datenlecks. Zu den Risiken für die Ausgabe gehören die Richtigkeit (genAI-Apps sind sehr gut darin, Halluzinationen und Fehlinformationen zu liefern) und rechtliche Bedenken (viele Unternehmen haben ihre genAI-Apps auf urheberrechtlich geschützte oder lizenzierte Inhalte trainiert). Dieser Bericht konzentriert sich auf die Eingaben, da der Schutz sensibler Daten für die meisten Organisationen in der Regel die höchste Priorität hat.
Konservative Adoption
Der Bankensektor ist es gelungen, die Einführung von GenAI zu verlangsamen, indem sie aggressivere Richtlinien zur Einschränkung der Nutzung ergriffen hat. 93 % der Bankenorganisationen blockieren mindestens eine genAI-App, während der weltweite Durchschnitt nur bei 77 % liegt. Darüber hinaus neigen Bankorganisationen, die genAI-Apps blockieren, dazu, mehr genAI-Apps zu blockieren als ihre Pendants in anderen Branchen. Die folgende Abbildung zeigt, dass die durchschnittliche Anzahl der genAI-Apps, die eine Bankorganisation blockiert, von 5 vor einem Jahr auf heute fast 9 gestiegen ist, wobei die obersten 25 % der Unternehmen mindestens 24 Apps blockieren. Im Gegensatz dazu liegt der weltweite Durchschnitt bei nur 2,6 Apps, wobei 12 Apps zu den besten 25 % der Unternehmen gehören.
Zu den Apps mit den meisten Blöcken gehören Apps aus mehreren Kategorien, darunter Schreibassistenten, Chatbots, Bildgeneratoren und Audiogeneratoren, die viele Ähnlichkeiten mit globalen Trends aufweisen.
Auf der anderen Seite gehören zu den beliebtesten genAI-Apps in der Bankenbranche Chatbots, Schreibassistenten, Copiloten und Notizen-Apps, die viele globale Trends widerspiegeln.
Unternehmen in der Bankenbranche kontrollieren den Zugriff auf zugelassene genAI-Apps mithilfe einer Kombination von Kontrollen, einschließlich Data Loss Prevention (DLP) und Echtzeit-Benutzercoaching. DLP als genAI-Kontrolle ist in der Bankenbranche beliebt, da mehr als die Hälfte aller Unternehmen es nutzen, um den Fluss sensibler Informationen in genAI-Apps zu verhindern, verglichen mit einem weltweiten Durchschnitt von 43 %. Im Bankwesen, einer stark regulierten Branche, ist die häufigste Art von sensiblen Daten, die in genAI-Apps hochgeladen werden, wenig überraschend regulierte Daten, bei denen DLP-Kontrollen dazu beitragen, zu verhindern, dass solche Daten an genAI-Drittanbieter weitergegeben werden.
Die genAI-Kontrollen, die in der Bankenbranche eingesetzt werden, haben sich als sehr effektiv