Cloud- und Bedrohungsbericht: KI-Apps im Unternehmen

Zu einem Abschnitt springen

Report Highlights Zusammenfassung KI-Apps werden immer beliebter KI-Risiken – Sensible Daten Opportunistische Angreifer Unternehmenskontrollen Empfehlungen Über diesen Bericht Netskope Threat Labs

9 min read

Report Highlights

Die Nutzung von KI-Apps in Unternehmen nimmt exponentiell zu und ist in den letzten zwei Monaten um 22,5 % gestiegen.
ChatGPT ist die beliebteste KI-App im Unternehmen und Google Bard ist die mit großem Abstand am schnellsten wachsende KI-App im Unternehmen.
Quellcode wird häufiger auf ChatGPT gepostet als jede andere Art vertraulicher Daten, und zwar mit einer Rate von 158 Vorfällen pro 10.000 Unternehmensbenutzer pro Monat.
Angreifer erstellen KI-App-Betrugs- und Phishing-Sites, um aus dem Hype um ChatGPT Kapital zu schlagen.
DLP und Benutzer-Coaching sind die beliebtesten Kontrollarten, die Unternehmen verwenden, um die Nutzung von KI-Apps zu ermöglichen und gleichzeitig die Offenlegung vertraulicher Daten zu verhindern.

Zusammenfassung

In der Diskussion um KI geht es oft um existenzielle Fragen, etwa um die potenziellen Chancen und Bedrohungen, die KI für die Menschheit mit sich bringen könnte. Doch Organisationen weltweit und ihre Führungskräfte stehen vor einer dringlicheren Frage: Wie können sie KI-Apps sicher nutzen?

Organisationen möchten KI-Anwendungen nutzen, um Betriebsabläufe zu optimieren, das Kundenerlebnis zu verbessern und datengesteuerte Entscheidungen zu erleichtern. Der Schlüssel liegt darin, dabei die Sicherheit zu gewährleisten. Das größte Sicherheitsrisiko liegt jedoch in der Art und Weise, wie manche Benutzer diese Anwendungen einsetzen.

Nehmen Sie beispielsweise ChatGPT, das zum Überprüfen von Quellcode auf Sicherheitslücken oder als Hilfestellung bei der Bearbeitung schriftlicher Inhalte verwendet werden kann. ChatGPT wurde zum Bearbeiten dieser Zusammenfassung verwendet. Es lässt sich nicht vermeiden, dass einige Personen proprietären Quellcode oder Texte hochladen, die regulierte Daten oder geistiges Eigentum enthalten. Die Herausforderung besteht darin, ein solches Verhalten zu unterbinden, ohne die Produktivität der gesamten Organisation zu beeinträchtigen. Ein völliges Verbot von KI-Anwendungen könnte dieses Problem lösen, allerdings auf Kosten der potenziellen Vorteile, die KI-Apps bieten.

Da wir weiterhin von dem Hype um die Möglichkeiten der KI umgeben sind, ist es offensichtlich, dass ChatGPT und andere KI-Apps auf dem Weg sind, zu festen Größen in Unternehmen zu werden. Die Popularität von Netskope nimmt bei den Kunden exponentiell zu. Wenn das derzeitige Wachstum anhält, dürfte sich die Popularität innerhalb der nächsten sieben Monate verdoppeln. Dieser Bericht befasst sich mit der zunehmenden Bedeutung von KI-Anwendungen in Unternehmen, beschreibt die damit verbundenen Risiken, einschließlich Datenlecks und potenzieller Angreiferaktivitäten, und schlägt Strategien für die sichere Integration von ChatGPT und anderen KI-Tools in das Unternehmensumfeld vor.

KI-Apps werden immer beliebter

Die Zahl der Benutzer, die in Unternehmen auf KI-Apps zugreifen, wächst exponentiell. In den letzten zwei Monaten ist der Prozentsatz der Unternehmensbenutzer, die täglich auf mindestens eine KI-App zugreifen, wöchentlich um 2,4 % gestiegen, was in diesem Zeitraum einer Gesamtzunahme von 22,5 % entspricht. Bei der aktuellen Wachstumsrate wird sich die Zahl der Benutzer, die auf KI-Apps zugreifen, innerhalb der nächsten sieben Monate verdoppeln. Im gleichen Zeitraum blieb die Anzahl der in Unternehmen genutzten KI-Apps stabil. In Organisationen mit mehr als 1.000 Benutzern kamen durchschnittlich drei verschiedene KI-Apps pro Tag zum Einsatz, in Organisationen mit mehr als 10.000 Benutzern durchschnittlich fünf KI-Apps pro Tag. Ende Juni interagierte 1 von 100 Unternehmensbenutzern täglich mit einer KI-App.

Popularität von KI-Apps basierend auf der Anzahl der Unternehmensbenutzer

Die mit großem Abstand beliebteste KI-App für Unternehmen ist ChatGPT mit mehr als achtmal so vielen täglich aktiven Benutzern wie jede andere KI-App. ChatGPT stand in den letzten sechs Monaten im Mittelpunkt eines großen Hypes und ist außerdem sehr vielseitig, was wahrscheinlich zu seiner Popularität beigetragen hat. Die zweitbeliebteste App ist Grammarly, die sich ausschließlich auf Schreibhilfe konzentriert. Bard, der Chatbot von Google, liegt knapp hinter Grammarly. Alle anderen KI-Apps zusammen (von denen wir mehr als 60 verfolgen, darunter Jasper, Chatbase und Copy.ai) sind weniger beliebt als Google Bard.

Beliebteste KI-Apps nach Prozentsatz aller täglichen KI-Benutzer

In den letzten zwei Monaten war Google Bard die am schnellsten wachsende KI-App im Unternehmen. Obwohl es in Sachen Popularität noch weit hinter ChatGPT zurückliegt, verzeichnet Google Bard derzeit wöchentlich einen Nutzerzuwachs von 7,1 % im Vergleich zu 1,6 % bei ChatGPT. Bei der aktuellen Geschwindigkeit wird Google Bard ChatGPT in etwas mehr als einem Jahr einholen. Da der KI-App-Bereich jedoch sehr dynamisch ist, erwarten wir in dieser Zeit noch viele weitere Änderungen, die die aktuellen Wachstumsraten durcheinanderbringen werden.

Netskope Threat Labs verfolgt die Beliebtheit von KI-Apps in Unternehmensumgebungen und nicht die allgemeine Beliebtheit der Apps bei den Verbrauchern. Während beispielsweise die Popularität von ChatGPT bei den Verbrauchern in die Höhe schoss, bevor sie sich im Juni abkühlte, ist die Akzeptanz in den Unternehmen maßvoller und nimmt weiterhin exponentiell zu. Im weiteren Verlauf dieses Berichts werden einige der Gründe für den gemessenen Anstieg hervorgehoben, darunter das Risiko von Datenlecks und Kontrollen rund um deren Nutzung.

Am schnellsten wachsende KI-Apps nach Anzahl der täglich aktiven Benutzer, die wöchentlich hinzugefügt werden

KI-Risiken – Sensible Daten

In diesem Abschnitt steht ChatGPT im Mittelpunkt, die mit großem Abstand führende KI-App im Unternehmen. Ein durchschnittlicher ChatGPT-Benutzer interagiert mit der App, indem er täglich 6 Eingabeaufforderungen postet. Das Aktivitätsniveau variiert je nach Benutzer. Die besten 10 % der Benutzer veröffentlichen 22 Eingabeaufforderungen und die besten 1 % veröffentlichen täglich 68 Eingabeaufforderungen. Pro 10.000 Benutzer kann eine Organisation mit etwa 660 täglichen Aufforderungen an ChatGPT rechnen. Die eigentliche Frage betrifft jedoch den Inhalt dieser Eingabeaufforderungen: Handelt es sich um harmlose Abfragen oder werden dabei versehentlich vertrauliche Daten preisgegeben?

Eine Studie von Netskope ergab, dass der Quellcode die am häufigsten offengelegte Art sensibler Daten ist: 22 von 10.000 Unternehmensbenutzern posten pro Monat Quellcode auf ChatGPT. Insgesamt sind diese 22 Benutzer für durchschnittlich 158 Beiträge mit Quellcode pro Monat verantwortlich. Dieser Trend ist nicht ganz unerwartet, wenn man die Fähigkeit von ChatGPT berücksichtigt, Code zu überprüfen und zu erklären sowie Fehler und Sicherheitslücken zu lokalisieren. Diese Dienste sind zwar nützlich, das Teilen von vertraulichem Quellcode mit ChatGPT bringt jedoch Risiken mit sich, darunter potenzielle Datenschutzverletzungen, versehentliche Offenlegung von Daten sowie rechtliche und regulatorische Risiken.

Benutzer, die vertrauliche Daten veröffentlichen, pro 10.000.000 Unternehmensbenutzer pro Monat

Im Vergleich zum Quellcode sind Posts, die andere Formen sensibler Daten enthalten, relativ selten. Pro 10.000 Unternehmensbenutzer kommt es monatlich typischerweise zu 18 Fällen der Weitergabe regulierter Daten (darunter Finanzdaten, Gesundheitsinformationen und personenbezogene Daten). Geistiges Eigentum (ausgenommen Quellcode) ist noch seltener: Hier kommt es im Durchschnitt zu vier Vorfällen pro Monat und 10.000 Benutzern. Interessanterweise gehören auch Passwörter und Schlüssel zu den gemeinsam genutzten sensiblen Datentypen, die normalerweise im Quellcode eingebettet sind. Obwohl diese Vorgehensweise relativ selten vorkommt (monatlich etwa 4 Vorfälle pro 10.000 Benutzer), dient sie Softwareentwicklern als wichtige Erinnerung an die Risiken, die mit der Festcodierung von Geheimnissen im Quellcode verbunden sind.

Vorfälle, bei denen Benutzer vertrauliche Daten veröffentlichen, pro 10.000 Unternehmensbenutzer pro Monat

Opportunistische Angreifer

Bei all dem Hype um ChatGPT und KI-Apps im Allgemeinen überrascht es nicht, dass Betrüger, Cyberkriminelle und andere Angreifer versuchen, den Hype für illegale Zwecke auszunutzen. Dies ist bei Angreifern gängige Praxis. So zeigte beispielsweise der Cloud- und Bedrohungsbericht der Netskope Threat Labs vom Frühjahr 2023, dass Angreifer versuchten, aus dem russisch-ukrainischen Krieg, den Erdbeben in der Türkei und Syrien sowie dem Zusammenbruch der Silicon Valley Bank Kapital zu schlagen. Der Hype und die Popularität von ChatGPT ziehen aufgrund des großen Zielpools und Gewinnpotenzials in Kombination mit den unterschiedlichen Kompetenzen der Benutzer auf der Plattform die Aufmerksamkeit von Angreifern und Betrügern auf sich.

Im ersten Halbjahr 2023 hat Netskope Threat Labs mehrere Phishing-Kampagnen, Malware-Verteilungskampagnen sowie Spam- und Betrugswebsites verfolgt, die aus dem ChatGPT-Hype Kapital schlagen wollten. Netskope Threat Labs verfolgt sogar mehrere ChatGPT-Proxys. Dabei handelt es sich um Websites, die scheinbar den Vorteil eines kostenlosen, nicht authentifizierten Zugriffs auf den Chatbot bieten, allerdings auf Kosten der Offenlegung aller Ihrer Eingaben und Antworten gegenüber dem Proxy-Betreiber.

Ein ChatGPT-Proxy, bei dem der Proxy-Betreiber alle Eingabeaufforderungen und Antworten sieht

Insgesamt verfolgt Netskope Threat Labs derzeit mehr als 1.000 bösartige URLs und Domänen, die aus dem ChatGPT- und KI-Hype Kapital schlagen wollen. Allein diese Zahl ist ein Hinweis darauf, wie wichtig ein mehrschichtiger Ansatz ist, um Benutzer vor Angreifern zu schützen, die aus dem Hype und der Popularität eines bedeutenden Ereignisses oder Trends Kapital schlagen wollen. Ein solcher Ansatz sollte Domänenfilterung, URL-Filterung und Inhaltsprüfung umfassen, um vor bekannten und unbekannten Angriffen zu schützen.

Unternehmenskontrollen

Als ChatGPT erstmals an Popularität gewann, war es für Unternehmen gängige Praxis, den Chatbot vollständig zu blockieren. Mittlerweile haben sich Unternehmen jedoch damit abgefunden, dass ChatGPT und andere KI-Apps ihnen Vorteile bieten können, darunter die Verbesserung von Abläufen, die Verbesserung des Kundenerlebnisses und die Erleichterung datengesteuerter Entscheidungsfindung. Anstatt ChatGPT zu blockieren, sind Organisationen zu einem freizügigeren Modell übergegangen, das typischerweise eine Kombination aus DLP und Benutzer-Coaching umfasst. DLP kann verwendet werden, um potenziell sensible Daten zu identifizieren, die in KI-Apps (einschließlich ChatGPT) gepostet werden, und durch Benutzercoaching kann die endgültige Entscheidung, ob mit einer Eingabeaufforderung fortgefahren werden soll oder nicht, dem Benutzer überlassen werden.

Organisationen, die Kontrollen rund um ChatGPT implementieren

Die spezifischen Kontrollen rund um ChatGPT variieren je nach Branche. Insgesamt haben Unternehmen aus dem Finanzsektor sowie dem Gesundheitswesen und der Technologiebranche bei der Implementierung von Kontrollen rund um ChatGPT eine Vorreiterrolle eingenommen. Allerdings unterscheiden sich die Ansätze der einzelnen Branchen erheblich. Im Finanzdienstleistungs- und Gesundheitssektor - beides stark regulierte Branchen - hat beinahe jedes fünfte Unternehmen ein generelles Verbot erlassen. Keinem Benutzer ist die Nutzung von ChatGPT gestattet. Im Technologiebereich hat nur eine von zwanzig Organisationen ein generelles Verbot umgesetzt. Stattdessen verwendet jede vierte Organisation DLP-Kontrollen, um bestimmte Arten vertraulicher Informationen (insbesondere Quellcode) zu erkennen, die auf ChatGPT gepostet werden. Darüber hinaus führt jedes fünfte Technologieunternehmen ein Echtzeit-Benutzercoaching durch, um die Benutzer an die Unternehmensrichtlinien und die mit ChatGPT und anderen KI-Apps verbundenen Risiken zu erinnern. Letztendlich werden wahrscheinlich mit der Zeit mehr Organisationen DLP-Kontrollen und Echtzeit-Benutzercoaching einführen, um die Nutzung von KI-Apps wie ChatGPT zu ermöglichen und gleichzeitig vor unerwünschter Datenfreigabe zu schützen.

Art der ChatGPT-Kontrollen nach Branche

Empfehlungen

Die sichere Einführung von KI-Apps im Unternehmen ist eine vielschichtige Herausforderung. Dabei geht es darum, zulässige Apps zu identifizieren und Kontrollen zu implementieren, die es den Benutzern ermöglichen, das volle Potenzial dieser Apps auszuschöpfen und gleichzeitig das Unternehmen vor Risiken zu schützen. Dieser Abschnitt enthält allgemeine technische Empfehlungen für Organisationen, die KI-Apps sicher aktivieren möchten. Ausführlichere Informationen dazu, wie Netskope helfen kann, finden Sie in der Lösungsübersicht zu ChatGPT und Generative AI Data Protection.

→ Überprüfen Sie regelmäßig die Aktivität, Trends, Verhaltensweisen und Datensensibilität von KI-Apps, um Risiken für das Unternehmen zu ermitteln.

→ Blockieren Sie den Zugriff auf Apps, die keinem legitimen Geschäftszweck dienen oder ein unverhältnismäßiges Risiko darstellen. Ein guter Ausgangspunkt ist eine Richtlinie, die aktuell verwendete seriöse Apps zulässt und alle anderen blockiert.

→ Verwenden Sie DLP-Richtlinien, um Posts mit potenziell vertraulichen Informationen zu erkennen, darunter Quellcode, regulierte Daten, Passwörter und Schlüssel sowie geistiges Eigentum.

→ Setzen Sie Echtzeit-Benutzercoaching (kombiniert mit DLP) ein, um die Benutzer während der Interaktion an die Unternehmensrichtlinien zur Verwendung von KI-Apps zu erinnern.

Blockieren Sie opportunistische Angreifer, die versuchen, die wachsende Popularität von KI-Apps auszunutzen, indem Sie bekannte bösartige Domänen und URLs blockieren und alle HTTP- und HTTPS-Inhalte überprüfen.

→ Verwenden Sie die Remote Browser Isolation (RBI) -Technologie, um zusätzlichen Schutz zu bieten, wenn Websites in Kategorien besucht werden müssen, die ein höheres Risiko darstellen können, wie etwa neu beobachtete und neu registrierte Domänen.

→ Stellen Sie sicher, dass alle Sicherheitsmaßnahmen Informationen austauschen und zusammenarbeiten, um die Sicherheitsabläufe zu optimieren. Netskope-Kunden können Cloud Exchange verwenden, um IOCs zu teilen, Bedrohungsinformationen zu importieren, Ereignisprotokolle zu exportieren, Arbeitsabläufe zu automatisieren und Risikobewertungen auszutauschen.

Über diesen Bericht

Netskope Threat Labs veröffentlicht vierteljährlich einen Cloud- und Bedrohungsbericht, um eine Reihe spezifischer Herausforderungen im Bereich der Cybersicherheit hervorzuheben. Der Zweck dieses Berichts besteht darin, Einblick in die Cybersicherheitsrisiken zu geben, die KI-Apps darstellen, und wie Unternehmen mit diesen Risiken umgehen. Die in diesem Bericht vorgestellte Analyse basiert auf einer Studie mit Millionen von Nutzern aus Tausenden von Organisationen weltweit für den Zeitraum vom 1. Mai 2023 bis zum 30. Juni 2023. Die Statistiken spiegeln die Taktiken der Angreifer, das Benutzerverhalten und die Organisationsrichtlinien wider. Die in diesem Bericht enthaltenen Informationen basieren auf anonymisierten Nutzungsdaten, die von der Netskope One-Plattform erfasst wurden und sich auf eine Untergruppe von Netskope-Kunden mit vorheriger Genehmigung beziehen.

Netskope Threat Labs

Netskope Threat Labs besteht aus den branchenweit führenden Cloud-Bedrohungs- und Malware-Forschern und entdeckt, analysiert und entwirft Abwehrmaßnahmen gegen die neuesten Web-, Cloud- und Datenbedrohungen für Unternehmen. Unsere Forscher sind regelmäßige Referenten und Freiwillige auf Top-Sicherheitskonferenzen, darunter DEF CON, Black Hat und RSA.

KI-Apps im Unternehmen