Erich Kron, CISO Advisor bei KnowBe4
Einhergehend mit der zunehmenden Verfügbarkeit von KI im Arbeitsalltag sehen sich die Cybersicherheitsabteilungen von Unternehmen in wachsendem Maße mit einem neuen Phänomen konfrontiert: der weitgehend unkontrollierten Ausbreitung von Schatten-KI. Ebenso wie im Fall der Schatten-IT bleiben ihr Vorhandensein, ihr Einsatz und ihre Anwender auch im Fall der Schatten-KI der unternehmenseigenen Cybersicherheit weitgehend verborgen und provozieren dadurch unkalkulierbare Sicherheitsrisiken. Hiergegen gilt es sich zu schützen.
KI-Plattformen haben sich in vielen Unternehmen zu einem unverzichtbaren Tool entwickelt. Das Problem: Schon lange greifen Mitarbeiter nicht mehr allein auf die KI-Tools zu, die ihr Unternehmen ihnen kontrolliert zur Verfügung stellt. Wissen sie von einem KI-Tool, das ihnen bei einem Projekt helfen kann, dann nutzen sie es auch; unabhängig davon, ob das Unternehmen es nun für sie freigegeben hat oder nicht; unabhängig davon, welche Risiken der unkontrollierte Einsatz des Tools für ihr Unternehmen mit sich bringen könnte.
Ein Mitarbeiter koppelt sein privates Smartphone mit KI-Anwendungen an das internen WLAN, eine Fachabteilung abonniert ein KI-Tool, ein Dienstleister installiert ein KI-gestütztes Monitoring-Gerät. Auf den ersten Blick wirken all diese Vorgänge relativ harmlos. In ihrer Gesamtheit, betrachtet über einen längeren Zeitraum, zeigen sie aber vor allem eines: einen sich rasant ausbreitenden blinden Fleck im Bereich der Cybersicherheit. Verschärft wird diese Entwicklung noch durch den Umstand, dass neben generativer KI-Technologie zunehmend auch KI-Agenten zum Einsatz kommen, die versierte Angreifer leicht kompromittieren und in für einen Angriff nutzbare Netzwerk-Einfallstore umfunktionieren können.
Um dieser gefährlichen Risikolage effektiv entgegentreten zu können, müssen Unternehmen eine mehrschichtige Verteidigungsstrategie implementieren, bei der mehrere Sicherheitsmechanismen nahtlos ineinandergreifen können.
Das Fundament dieser Strategie hat eine dynamische Netzwerksegmentierung zu sein. Über sie lassen sich die Folgen einer erfolgreichen Kompromittierung begrenzen. Darüber hinaus werden fortschrittliche Netzwerküberwachungstools benötigt, mit denen anomale Datenverkehrsmuster präzise detektiert werden können.
Sie müssen aber noch ergänzt werden: um fortschrittliche Cloud-Monitoring-Werkzeuge, die in der Lage sind, den Einsatz nicht autorisierter KI-Anwendungen aufzuspüren. In Frage käme hier etwa ein Agent Risk Manager, der automatisch inoffizielle KI-Tools und ungenehmigte KI-Agenten, die im Unternehmensnetzwerk ohne manuelle Konfiguration betrieben werden, erfassen und inventarisieren kann. Über ihn lässt sich genau und in Echtzeit ermitteln, welche KI-Tools (wie ChatGPT, Claude, Gemini) und KI-Agenten gerade von der gesamten Belegschaft eines Unternehmens genutzt werden.
Jedoch: allein wird auch die modernste technologische Ausrüstung nicht genügen. Auch bei der Bekämpfung des Risikos Schatten-KI ist und bleibt der Faktor Mensch von zentraler Bedeutung. Im Zentrum jeder zukunftsgerichteten KI-Sicherheitsstrategie hat eine kontinuierliche und praxisnahe Aufklärung der gesamten Belegschaft über die Risiken der Nutzung von KI zu stehen. Jeder Mitarbeiter muss verstehen, wie KI-Technologie von Angreifern missbraucht werden kann, wie sie sicher genutzt werden kann und wie, im Umfeld von KI-Technologie, sicher mit sensiblen Unternehmensdaten umgegangen werden muss.
Nur durch ein enges Zusammenspiel aus Technik und Schulung wird sich eine wirklich transparente KI-Nutzung in Unternehmen herstellen lassen, wird Schatten-KI erfolgreich eingedämmt, werden die mit der Nutzung von KI verbundenen Risiken effektiv zurückgedrängt werden können.
