Zurück
Der rasante Anstieg der KI-Nutzung vergrößert die Angriffsfläche für böswillige Akteure.
Laut IDC* werden die weltweiten Ausgaben für KI bis 2028 voraussichtlich auf fast $750bn steigen. Dieser Dollarbetrag, der die Verbreitung und das Wachstum verdeutlicht, kann auch als direkter Ausdruck des Ausmaßes neuer Herausforderungen im Bereich der Datensicherheit angesehen werden. Cybersicherheitsexperten, die mit dem Risikomanagement im Zusammenhang mit KI betraut sind, sehen sich dabei mit einem Verlust an Transparenz und Kontrolle über Unternehmensdaten konfrontiert.
Ähnlich wie bei der Einführung der Cloud vor einem Jahrzehnt beschränken sich die Gefahren nicht auf ein bestimmtes Verhaltensmuster oder Implementierungsmodell.
Der Einsatz von „Schatten-KI“ (oder die Nutzung nicht verwalteter KI-Tools) ist ein bekannter Risikofaktor, bei dem Mitarbeiter die Einhaltung von Vorschriften zugunsten der Bequemlichkeit vernachlässigen. Fast die Hälfte (47 %) der generativen KI-Nutzer verwenden laut Netskope Cloud and Threat Report 2026 persönliche KI-Apps. Diese inoffizielle Nutzung ist problematisch, da Mitarbeiter möglicherweise unwissentlich sensible Daten an Cloud-Anwendungen von Drittanbietern weitergeben, und die Transparenz und Kontrolle kann für viele Unternehmen eine Herausforderung darstellen.
Doch wie sieht es mit Unternehmen aus, die ihre eigenen privaten KI-Modelle entwickeln (oftmals direkt motiviert durch das Streben nach mehr Sicherheit)? Hier bestehen zahlreiche weitreichende Risiken, darunter die Verantwortung für die Sicherung sowohl der Trainingsdaten als auch der Modellausgaben.
Und der aktuellste Wachstumsbereich der KI ist die agentische KI, bei der autonome Agenten Aufgaben selbstständig (bzw. mit nur geringer menschlicher Aufsicht) ausführen. Dies ist ein Segen für die Produktivität, wirft jedoch Fragen hinsichtlich des Datenzugangs und der Datenkontrolle auf. Laut einer Prognose von Gartner werden bis 2028 25 % der Sicherheitsverletzungen in Unternehmen auf den Missbrauch von KI-Agenten zurückzuführen sein.
Vor dem Hintergrund dieser Trends wollen wir uns nun einige Sicherheitsaspekte ansehen, die als nützliche Checkliste dienen, um sicherzustellen, dass Ihr Unternehmen die Risiken aus allen Blickwinkeln angeht.
1) Zero Trust als Grundlage für die KI-Sicherheit
Die Sicherheit von KI stellt aufgrund der Art und Weise, wie KI-Modelle Eingaben verarbeiten und Ergebnisse generieren, eine besondere Herausforderung für die Datensicherheit dar. Die Ausweitung eines Zero-Trust-Sicherheitskonzepts auf den Bereich der KI stellt sicher, dass jede Anfrage (von jedem Menschen, Modell und Agenten) überprüft, jeder Datenfluss überwacht und der Zugriff auf der Grundlage dynamischer Risikobewertungen statt statischer Berechtigungen gewährt wird. Untersuchungen zeigen, dass zwei Drittel der Unternehmen angeben, ihre Zero-Trust-Kontrollen könnten derzeit nicht-menschliche Identitäten (NHI) schlichtweg nicht schützen, doch 78 % gehen davon aus, dass das Wachstum bei NHI innerhalb von 12 Monaten das Wachstum bei menschlichen Identitäten übersteigen wird: ein drohendes Risiko. Überlegen Sie, wie Sie KI-Sicherheit in Ihre bestehenden Sicherheitsrahmen und -architekturen integrieren können, und widerstehen Sie der Versuchung, einzelne Produkte anzuhängen, die Ihre Infrastruktur komplexer machen und ressourcenintensiv sind. Achten Sie auf einheitliche Plattformen, die von Integrationen für Sicherheitsrichtlinien und Administration profitieren, um den Verwaltungsaufwand zu reduzieren.
2) Verfeinern Sie Ihre allumfassende Kenntnis angesichts der Allgegenwart der KI (besorgen Sie sich ein „allsehendes Auge” (All-Seeing Eye)
Nur 6 % der Unternehmen haben einen vollständigen Überblick über den Einsatz von KI, und wir alle wissen, dass Sicherheitsteams nicht schützen können, was sie nicht sehen – eine Herausforderung, die sich noch verschärft, wenn die Grenzen zwischen der Nutzung privater und geschäftlicher Tools immer mehr verschwimmen. Ohne Einblick darin, wie und wo KI-Tools eingesetzt werden, ist ein Unternehmen potenziellen Datenverlusten ausgesetzt. Machen Sie Tools, die Transparenz gewährleisten, zur obersten Priorität und zum Ausgangspunkt für KI-Sicherheit.
Ihre KI-Sicherheitsstrategie muss mehr als nur neue KI-Anwendungen und -Modelle umfassen. Jede SaaS-App hat in den letzten Jahren eifrig KI-Verbesserungen eingeführt, und obwohl sie anfangs sehr gehypt wurden, werden diese KI-gestützten Updates zur Norm. Dies bedeutet, dass jeden Tag eines Ihrer genehmigten SaaS-Tools neue KI-gestützte Funktionen einführen könnte, die möglicherweise nicht Ihren Sicherheitsanforderungen entsprechen. Diese unbemerkten Aktualisierungen erfolgen oft, ohne dass die Sicherheitsteams, die das Risiko vor der Genehmigung bewerten sollten, dies bemerken. Manuelle Überwachung und Verwaltung reichen hier nicht aus. Wenden Sie also beim KI-Risikomanagement denselben Ansatz an wie beim Cloud-Risikomanagement. Der Netskope Cloud Confidence Index (CCI) bietet Echtzeit-Einblicke in mehr als 83.000 Cloud- und SaaS-Anwendungen sowie eine Risikobewertung für mehr als 10.000 öffentliche MCP-Server. Dabei werden risikobehaftete Attribute, Authentifizierungstypen und Protokollversionen vor der Bereitstellung identifiziert. Lassen Sie die Routinearbeit von anderen erledigen!
3) Beachten Sie die Lücke bei der KI-Governance
Zwei Drittel der Unternehmen bewerten ihre KI-Governance als nur reaktiv oder sich entwickelnd, ein Drittel beschreibt eine fragmentierte Einführung, und 38 % wünschen sich, sie hätten mit der Governance begonnen, bevor die Einführung skaliert wurde. Ohne klare Leitlinien öffnen Unternehmen, die KI einsetzen, Sicherheitsrisiken Tür und Tor. Schließen Sie sich nicht den 38 % an und legen Sie einen Rahmen für Maßnahmen fest, um einen angemessenen Einsatz von KI sicherzustellen (sowohl vor als auch nach der Einführung).
4) Fähigkeiten UND Werkzeuge verbessern
Fast drei Viertel (73 %) der Menschen im Vereinigten Königreich haben keine KI-Schulung oder -Ausbildung absolviert, doch 31 % der Unternehmen verlassen sich auf schriftliche Richtlinien und die Einhaltung der Vorschriften durch die Mitarbeiter als primäre Methode zur Durchsetzung der KI-Sicherheit – im Grunde ein geheimnisumwittertes Ehrensystem. Die Diskrepanz schafft Risiken für unsachgemäße Tool-Nutzung und führt Unternehmen nahezu unweigerlich dazu, gegen Compliance-Vorschriften zu verstoßen, insbesondere in stark regulierten Branchen.
Investieren Sie in Schulungen und Tools, um eine angemessene KI-Interaktion zu unterstützen und sicherzustellen, dass alle Mitarbeiter im Unternehmen über die Risiken, die genehmigten Richtlinien für die sichere KI-Nutzung und die zu beachtenden Vorschriften im Klaren sind. Aber hören Sie hier nicht auf. Selbst die bestausgebildeten Mitarbeiter benötigen Hilfe, und Gartner prognostiziert, dass bis 2028 mindestens 15 % der täglichen Geschäftsentscheidungen autonom durch agentische KI getroffen werden, gegenüber 0 % im Jahr 2024. Menschliche Fähigkeiten in der KI-Sicherheit sind wie Führerscheine; etwas, das systematisch Risiken reduzieren kann, aber am besten zusammen mit Risikomanagement-Tools wie Sicherheitsgurten und ABS-Bremsen eingesetzt wird – und etwas, das zunehmend irrelevant werden könnte, wenn selbstfahrende Autos auf die Straße kommen. Investieren Sie in die Absicherung von KI-Modellen und der Unternehmensdaten, mit denen sie interagieren, und erkennen Sie, wo New Tools (wie KI-Sicherheits-Gateways und Leitplanken) neben den bestehenden bewährten Verfahren zur Unterstützung menschlicher Nutzer für sichere Entscheidungen erforderlich sind.
Sicherheit auf der KI-Überholspur
Netskope ermöglicht es seinen Kunden, KI im Unternehmensmaßstab zu adoptieren, ohne das Risiko zu erhöhen. Wir sichern Benutzer, Agenten, Anwendungen und Daten in öffentlichen, privaten und agentischen KI-Umgebungen mit einheitlichem Schutz, von der Modellhärtung vor der Bereitstellung bis hin zur Laufzeit-Bedrohungsprävention. Netskope One AI Security ist die einzige Plattform, die jede KI-Interaktion sichert und gleichzeitig die Geschwindigkeit und Erfahrung beibehält, die Ihre Teams verlangen.
Handeln Sie schnell. Bleiben Sie geschützt. Behalten Sie die totale Kontrolle.
Um mehr über die Absicherung von KI im gesamten Unternehmen zu erfahren, besuchen Sie netskope.com/ai.
*IDC Market Forecast, Worldwide Artificial Intelligence IT Spending Forecast, 2024–2028, Rick Villars et al., October 2024, Doc #US52635424
Den Blog lesen