KI-Apps im Unternehmen

Erfahren Sie, warum Netskope im Gartner® Magic Quadrant™️ 2024 für Single-Vendor Secure Access Service Edge als Leader debütiert

Report abrufen

Lesen Sie, wie innovative Kunden mithilfe der Netskope One-Plattform erfolgreich durch die sich verändernde Netzwerk- und Sicherheitslandschaft von heute navigieren.

Jetzt das E-Book lesen

Erfahren Sie mehr über Netskope-Partner

Gruppe junger, lächelnder Berufstätiger mit unterschiedlicher Herkunft

Security Service Edge (SSE), Cloud Access Security Broker (CASB), Cloud Firewall, Next Generation Secure Web Gateway (SWG) und Private Access for ZTNA sind nativ in einer einzigen Lösung integriert, um jedes Unternehmen auf seinem Weg zur Secure Access Service Edge (SASE)-Architektur zu unterstützen.

Netskope Produktübersicht

Netskope Next Gen SASE Branch vereint kontextsensitives SASE Fabric, Zero-Trust Hybrid Security und SkopeAI-Powered Cloud Orchestrator in einem einheitlichen Cloud-Angebot und führt so zu einem vollständig modernisierten Branch-Erlebnis für das grenzenlose Unternehmen.

Erfahren Sie mehr über Next Gen SASE Branch

Holen Sie sich Ihr kostenloses Exemplar des einzigen Leitfadens zum SASE-Design, den Sie jemals benötigen werden.

Jetzt das E-Book lesen

Mehr über NewEdge erfahren

Beleuchtete Schnellstraße mit Serpentinen durch die Berge

Erfahren Sie, wie wir den Einsatz generativer KI sichern

ChatGPT und Generative AI sicher aktivieren

Erfahren Sie mehr über Zero Trust

Wählen Sie Netskope GovCloud, um die Transformation Ihrer Agentur zu beschleunigen.

Erfahren Sie mehr über Netskope GovCloud

A Cyber & Physical Security Playbook
Emily Wearmouth und Ben Morris untersuchen die Herausforderungen beim Schutz internationaler Sportveranstaltungen, bei denen Cybersicherheit auf physische Sicherheit trifft.

Podcast abspielen Alle Podcasts durchsuchen

Ein Playbook für Cyber- und physische Sicherheit, mit Ben Morris von World Rugby

Lesen Sie, wie Netskope die Zero-Trust- und SASE-Reise durch SASE-Funktionen (Secure Access Service Edge) ermöglichen kann.

Den Blog lesen

Erfahren Sie, wie Sie sich in den neuesten Fortschritten bei SASE und Zero Trust zurechtfinden können, und erfahren Sie, wie sich diese Frameworks an die Herausforderungen der Cybersicherheit und Infrastruktur anpassen

Entdecken Sie Sitzungen

Erfahren Sie mehr über die zukünftige Konsolidierung von Netzwerk- und Sicherheitstools im heutigen Cloud-dominanten Geschäftsmodell.

Erfahre mehr zu SASE

Unternehmen
Wir helfen Ihnen, den Herausforderungen der Cloud-, Daten- und Netzwerksicherheit einen Schritt voraus zu sein.
Karriere
Schließen Sie sich den 3.000+ großartigen Teammitgliedern von Netskope an, die die branchenführende Cloud-native Sicherheitsplattform aufbauen.
Kundenlösungen
Wir sind für Sie da, stehen Ihnen bei jedem Schritt zur Seite und sorgen für Ihren Erfolg mit Netskope.
Schulungen und Akkreditierungen
Netskope-Schulungen helfen Ihnen ein Experte für Cloud-Sicherheit zu werden.

Netskope ist stolz darauf, an Vision 2045 teilzunehmen: einer Initiative, die darauf abzielt, das Bewusstsein für die Rolle der Privatwirtschaft bei der Nachhaltigkeit zu schärfen.

Finde mehr heraus

Unterstützung der Nachhaltigkeit durch Datensicherheit

Bei Netskope arbeiten Gründer und Führungskräfte Schulter an Schulter mit ihren Kollegen, selbst die renommiertesten Experten kontrollieren ihr Ego an der Tür, und die besten Ideen gewinnen.

Tritt dem Team bei

Gehen Sie zu Kundenlösungen

Erfahren Sie mehr über Schulungen und Zertifizierungen

Gruppe junger Berufstätiger bei der Arbeit

Netskope Threat LabsJuli 2023

Report Highlights Zusammenfassung KI-Apps werden immer beliebter KI-Risiken – Sensible Daten Opportunistische Angreifer Unternehmenskontrollen Empfehlungen Über diesen Bericht Netskope Threat Labs

9 min read

Report Highlights

Die Nutzung von KI-Apps in Unternehmen nimmt exponentiell zu und ist in den letzten zwei Monaten um 22,5 % gestiegen.
ChatGPT ist die beliebteste KI-App im Unternehmen und Google Bard ist die mit großem Abstand am schnellsten wachsende KI-App im Unternehmen.
Quellcode wird häufiger auf ChatGPT gepostet als jede andere Art vertraulicher Daten, und zwar mit einer Rate von 158 Vorfällen pro 10.000 Unternehmensbenutzer pro Monat.
Angreifer erstellen KI-App-Betrugs- und Phishing-Sites, um aus dem Hype um ChatGPT Kapital zu schlagen.
DLP und Benutzer-Coaching sind die beliebtesten Kontrollarten, die Unternehmen verwenden, um die Nutzung von KI-Apps zu ermöglichen und gleichzeitig die Offenlegung vertraulicher Daten zu verhindern.

test answer

Zusammenfassung

In der Diskussion um KI geht es oft um existenzielle Fragen, etwa um die potenziellen Chancen und Bedrohungen, die KI für die Menschheit mit sich bringen könnte. Doch Organisationen weltweit und ihre Führungskräfte stehen vor einer dringlicheren Frage: Wie können sie KI-Apps sicher nutzen?

Organisationen möchten KI-Anwendungen nutzen, um Betriebsabläufe zu optimieren, das Kundenerlebnis zu verbessern und datengesteuerte Entscheidungen zu erleichtern. Der Schlüssel liegt darin, dabei die Sicherheit zu gewährleisten. Das größte Sicherheitsrisiko liegt jedoch in der Art und Weise, wie manche Benutzer diese Anwendungen einsetzen.

Nehmen Sie beispielsweise ChatGPT, das zum Überprüfen von Quellcode auf Sicherheitslücken oder als Hilfestellung bei der Bearbeitung schriftlicher Inhalte verwendet werden kann. ChatGPT wurde zum Bearbeiten dieser Zusammenfassung verwendet. Es lässt sich nicht vermeiden, dass einige Personen proprietären Quellcode oder Texte hochladen, die regulierte Daten oder geistiges Eigentum enthalten. Die Herausforderung besteht darin, ein solches Verhalten zu unterbinden, ohne die Produktivität der gesamten Organisation zu beeinträchtigen. Ein völliges Verbot von KI-Anwendungen könnte dieses Problem lösen, allerdings auf Kosten der potenziellen Vorteile, die KI-Apps bieten.

Da wir weiterhin von dem Hype um die Möglichkeiten der KI umgeben sind, ist es offensichtlich, dass ChatGPT und andere KI-Apps auf dem Weg sind, zu festen Größen in Unternehmen zu werden. Die Popularität von Netskope nimmt bei den Kunden exponentiell zu. Wenn das derzeitige Wachstum anhält, dürfte sich die Popularität innerhalb der nächsten sieben Monate verdoppeln. Dieser Bericht befasst sich mit der zunehmenden Bedeutung von KI-Anwendungen in Unternehmen, beschreibt die damit verbundenen Risiken, einschließlich Datenlecks und potenzieller Angreiferaktivitäten, und schlägt Strategien für die sichere Integration von ChatGPT und anderen KI-Tools in das Unternehmensumfeld vor.

sdofjsfojefgejelosij

KI-Apps werden immer beliebter

Die Zahl der Benutzer, die in Unternehmen auf KI-Apps zugreifen, wächst exponentiell. In den letzten zwei Monaten ist der Prozentsatz der Unternehmensbenutzer, die täglich auf mindestens eine KI-App zugreifen, wöchentlich um 2,4 % gestiegen, was in diesem Zeitraum einer Gesamtzunahme von 22,5 % entspricht. Bei der aktuellen Wachstumsrate wird sich die Zahl der Benutzer, die auf KI-Apps zugreifen, innerhalb der nächsten sieben Monate verdoppeln. Im gleichen Zeitraum blieb die Anzahl der in Unternehmen genutzten KI-Apps stabil. In Organisationen mit mehr als 1.000 Benutzern kamen durchschnittlich drei verschiedene KI-Apps pro Tag zum Einsatz, in Organisationen mit mehr als 10.000 Benutzern durchschnittlich fünf KI-Apps pro Tag. Ende Juni interagierte 1 von 100 Unternehmensbenutzern täglich mit einer KI-App.

Popularität von KI-Apps basierend auf der Anzahl der Unternehmensbenutzer

Die mit großem Abstand beliebteste KI-App für Unternehmen ist ChatGPT mit mehr als achtmal so vielen täglich aktiven Benutzern wie jede andere KI-App. ChatGPT stand in den letzten sechs Monaten im Mittelpunkt eines großen Hypes und ist außerdem sehr vielseitig, was wahrscheinlich zu seiner Popularität beigetragen hat. Die zweitbeliebteste App ist Grammarly, die sich ausschließlich auf Schreibhilfe konzentriert. Bard, der Chatbot von Google, liegt knapp hinter Grammarly. Alle anderen KI-Apps zusammen (von denen wir mehr als 60 verfolgen, darunter Jasper, Chatbase und Copy.ai) sind weniger beliebt als Google Bard.

Beliebteste KI-Apps nach Prozentsatz aller täglichen KI-Benutzer

In den letzten zwei Monaten war Google Bard die am schnellsten wachsende KI-App im Unternehmen. Obwohl es in Sachen Popularität noch weit hinter ChatGPT zurückliegt, verzeichnet Google Bard derzeit wöchentlich einen Nutzerzuwachs von 7,1 % im Vergleich zu 1,6 % bei ChatGPT. Bei der aktuellen Geschwindigkeit wird Google Bard ChatGPT in etwas mehr als einem Jahr einholen. Da der KI-App-Bereich jedoch sehr dynamisch ist, erwarten wir in dieser Zeit noch viele weitere Änderungen, die die aktuellen Wachstumsraten durcheinanderbringen werden.

Netskope Threat Labs verfolgt die Popularität von KI-Apps in Unternehmensumgebungen und nicht die allgemeine Popularität der Apps bei Verbrauchern. Während beispielsweise die Popularität von ChatGPT bei Verbrauchern sprunghaft anstieg, bevor sie im Juni wieder abkühlte, verlief die Akzeptanz in Unternehmen gemäßigter und nimmt weiterhin exponentiell zu. Im weiteren Verlauf dieses Berichts werden einige Gründe für den gemessenen Anstieg hervorgehoben, darunter das Risiko von Datenlecks und Kontrollen bei ihrer Verwendung.

Am schnellsten wachsende KI-Apps nach Anzahl der täglich aktiven Benutzer, die wöchentlich hinzugefügt werden

KI-Risiken – Sensible Daten

In diesem Abschnitt steht ChatGPT im Mittelpunkt, die mit großem Abstand führende KI-App im Unternehmen. Ein durchschnittlicher ChatGPT-Benutzer interagiert mit der App, indem er täglich 6 Eingabeaufforderungen postet. Das Aktivitätsniveau variiert je nach Benutzer. Die besten 10 % der Benutzer veröffentlichen 22 Eingabeaufforderungen und die besten 1 % veröffentlichen täglich 68 Eingabeaufforderungen. Pro 10.000 Benutzer kann eine Organisation mit etwa 660 täglichen Aufforderungen an ChatGPT rechnen. Die eigentliche Frage betrifft jedoch den Inhalt dieser Eingabeaufforderungen: Handelt es sich um harmlose Abfragen oder werden dabei versehentlich vertrauliche Daten preisgegeben?

Eine Studie von Netskope ergab, dass der Quellcode die am häufigsten offengelegte Art sensibler Daten ist: 22 von 10.000 Unternehmensbenutzern posten pro Monat Quellcode auf ChatGPT. Insgesamt sind diese 22 Benutzer für durchschnittlich 158 Beiträge mit Quellcode pro Monat verantwortlich. Dieser Trend ist nicht ganz unerwartet, wenn man die Fähigkeit von ChatGPT berücksichtigt, Code zu überprüfen und zu erklären sowie Fehler und Sicherheitslücken zu lokalisieren. Diese Dienste sind zwar nützlich, das Teilen von vertraulichem Quellcode mit ChatGPT bringt jedoch Risiken mit sich, darunter potenzielle Datenschutzverletzungen, versehentliche Offenlegung von Daten sowie rechtliche und regulatorische Risiken.

Benutzer, die vertrauliche Daten veröffentlichen, pro 10.000.000 Unternehmensbenutzer pro Monat

Im Vergleich zum Quellcode sind Posts, die andere Formen sensibler Daten enthalten, relativ selten. Pro 10.000 Unternehmensbenutzer kommt es monatlich typischerweise zu 18 Fällen der Weitergabe regulierter Daten (darunter Finanzdaten, Gesundheitsinformationen und personenbezogene Daten). Geistiges Eigentum (ausgenommen Quellcode) ist noch seltener: Hier kommt es im Durchschnitt zu vier Vorfällen pro Monat und 10.000 Benutzern. Interessanterweise gehören auch Passwörter und Schlüssel zu den gemeinsam genutzten sensiblen Datentypen, die normalerweise im Quellcode eingebettet sind. Obwohl diese Vorgehensweise relativ selten vorkommt (monatlich etwa 4 Vorfälle pro 10.000 Benutzer), dient sie Softwareentwicklern als wichtige Erinnerung an die Risiken, die mit der Festcodierung von Geheimnissen im Quellcode verbunden sind.

Vorfälle, bei denen Benutzer vertrauliche Daten veröffentlichen, pro 10.000 Unternehmensbenutzer pro Monat

Opportunistische Angreifer

Bei all dem Hype um ChatGPT und KI-Apps im Allgemeinen überrascht es nicht, dass Betrüger, Cyberkriminelle und andere Angreifer versuchen, den Hype für illegale Zwecke auszunutzen. Dies ist bei Angreifern gängige Praxis. So zeigte beispielsweise der Cloud- und Bedrohungsbericht der Netskope Threat Labs vom Frühjahr 2023, dass Angreifer versuchten, aus dem russisch-ukrainischen Krieg, den Erdbeben in der Türkei und Syrien sowie dem Zusammenbruch der Silicon Valley Bank Kapital zu schlagen. Der Hype und die Popularität von ChatGPT ziehen aufgrund des großen Zielpools und Gewinnpotenzials in Kombination mit den unterschiedlichen Kompetenzen der Benutzer auf der Plattform die Aufmerksamkeit von Angreifern und Betrügern auf sich.

Im ersten Halbjahr 2023 hat Netskope Threat Labs mehrere Phishing-Kampagnen, Malware-Verteilungskampagnen sowie Spam- und Betrugswebsites verfolgt, die aus dem ChatGPT-Hype Kapital schlagen wollten. Netskope Threat Labs verfolgt sogar mehrere ChatGPT-Proxys. Dabei handelt es sich um Websites, die scheinbar den Vorteil eines kostenlosen, nicht authentifizierten Zugriffs auf den Chatbot bieten, allerdings auf Kosten der Offenlegung aller Ihrer Eingaben und Antworten gegenüber dem Proxy-Betreiber.

Ein ChatGPT-Proxy, bei dem der Proxy-Betreiber alle Eingabeaufforderungen und Antworten sieht

Insgesamt verfolgt Netskope Threat Labs derzeit mehr als 1.000 bösartige URLs und Domänen, die aus dem ChatGPT- und KI-Hype Kapital schlagen wollen. Allein diese Zahl ist ein Hinweis darauf, wie wichtig ein mehrschichtiger Ansatz ist, um Benutzer vor Angreifern zu schützen, die aus dem Hype und der Popularität eines bedeutenden Ereignisses oder Trends Kapital schlagen wollen. Ein solcher Ansatz sollte Domänenfilterung, URL-Filterung und Inhaltsprüfung umfassen, um vor bekannten und unbekannten Angriffen zu schützen.

Unternehmenskontrollen

Als ChatGPT erstmals an Popula

Cloud- und Bedrohungsbericht: KI-Apps im Unternehmen