Florian Bosch, Senior Regional Sales Director bei Keyfactor
Autonome KI-Systeme initiieren selbständig Workflows, greifen auf Netzwerke zu, modifizieren Daten und interagieren über unterschiedlichste IT-Umgebungen hinweg – ganz ohne menschliches Eingreifen. Da es sich hierbei immer häufiger um kritische Geschäftsprozesse handelt, rückt in vielen Unternehmen zunehmend die Frage der Sicherheit dieser KI-Agenten in den Fokus. Immer häufiger stellt sich die Frage, wie sich digitale Identität, digitale Verantwortlichkeiten und digitales Vertrauen für KI-Agenten-Systeme realisieren lassen.
Während die klassische Automatisierung starr definierten Skripten folgte, setzen KI-Agentensysteme auf kontinuierliche, dynamische und eigenständige Entscheidungen. Die Systeme kollaborieren miteinander, bewältigen hochkomplexe Aufgaben und skalieren Prozesse in einer Geschwindigkeit, die diejenige menschlicher Teams bereits heute weit übertrifft. Doch hat dieses Mehr an Effektivität und Effizienz eben auch seinen Preis: die Angriffsfläche wächst – und dies spürbar.
Laut einer aktuellen Keyfactor-Studie gehen 69 Prozent aller Cybersicherheitsexperten mittlerweile davon aus, dass KI-basierte Schwachstellen – darunter auch jene in KI-Agentensystemen – im kommenden Jahr für Unternehmen erstmals einen größeren Risikofaktor darstellen werden als der Mensch. IT-Sicherheitsverantwortliche müssen ihre Netzwerke deshalb nicht mehr nur gegen klassische Malware und kompromittierte Nutzer schützen, sondern zunehmend auch gegen kompromittierte KI-Agenten. Dies aber erfordert einen Paradigmenwechsel der eigenen Cybersicherheitsstrategie.
Schon heute gehört die Verwaltung der Vertrauensbeziehungen zwischen Mitarbeitern, externen Partnern, Geräten und Workloads zum Standardrepertoire einer effektiven Cybersicherheitsarchitektur. Für jede Identität sind klare Berechtigungen, Kontrollmechanismen und Verantwortlichkeiten definiert. Es ist dringend an der Zeit, KI-Agenten in diese Systeme einzubinden, sie in dieselben Sicherheitsverfahren zu integrieren. Unternehmen müssen endlich beginnen, KI-Agenten als vollwertige Identitäten ihrer IT-Infrastruktur zu begreifen. In den kommenden drei bis fünf Jahren werden wir erleben, wie KI-Agenten selbstständig weitere KI-Agenten generieren, mit variablen Autonomiegraden operieren und direkt in kritische Systeme eingreifen werden. Ohne ein striktes Identity and Access-Management (IAM) und eine engmaschige Governance werden diese Systeme Gefahr laufen, kompromittiert, manipuliert oder mit unzulässigen Privilegien ausgestattet zu werden.
Das Problem: Bislang sind nur die wenigsten Cybersicherheits-Frameworks auf autonome Systeme ausgelegt, die in Maschinengeschwindigkeit agieren und miteinander interagieren können. Traditionelle Frameworks bieten hier allenfalls eine Basisabsicherung. Sobald KI-gesteuerte Workflows eigenmächtig Infrastrukturänderungen vornehmen oder auf sensible Datensätze zugreifen wollen, stoßen sie an ihre Grenzen. Besonders in Europa kann sich dies rasch zu einem – auch in juristischer Hinsicht – handfesten Problem ausweiten. Denn Regularien wie der EU AI Act und der Cyber Resilience Act machen Unternehmen hinsichtlich der Transparenz und der Kontrolle ihrer autonomen KI-Systeme klare Vorgaben.
Um in der neuen Ära der KI handlungsfähig zu bleiben, müssen Unternehmen ihre Identitätsarchitekturen modernisieren, ihr kryptografisches Fundament stärken und ihre Governance-Modelle von Grund auf neu denken – im Sinne einer Agentic AI Security. Vier Features werden dabei von zentraler Bedeutung sein:
- ein integriertes Identitätsmanagement für alle KI-Akteure,
- eine strikte Durchsetzung des Least-Privilege-Prinzips (minimale Zugriffsrechte),
- Zero Trust,
- eine lückenlose System-Observability und
- automatisierte Kontrollmechanismen, die dynamisch mit den KI-Kapazitäten skaliert werden können.
Werden diese vier Features im Rahmen eines Security by Design-Ansatzes proaktiv im Cybersicherheitsframework verankert, wird es Unternehmen gelingen, die KI-bedingten Compliance-Anforderungen – auch die besonders strengen der EU – problemlos zu erfüllen.
