Fähigkeiten, mit denen KI-Agenten Sicherheitskontrollen beharrlich umgehen, stehen zunehmend auch Kriminellen und staatlich unterstützten Akteuren zur Verfügung, die tatsächlich Schaden anrichten wollen. Angriffe in Maschinengeschwindigkeit lassen sich manuell kaum abwehren, und viele Unternehmen, gerade kleine und mittelständische, haben dafür schlicht nicht die personellen Ressourcen. Umso wichtiger ist es, Cybersicherheit als Geschäftsfaktor zu verstehen und nicht als IT-Kostenstelle: Sie schützt den Umsatz, hält den Betrieb am Laufen und bewahrt das Vertrauen von Kundschaft und Öffentlichkeit. Für Betreiber kritischer Infrastrukturen ist sie zudem Teil ihrer Sorgfaltspflicht [optional: und für viele Unternehmen mit NIS2 eine gesetzliche Pflicht, für die die Geschäftsleitung Verantwortung trägt]. Vorstände und Geschäftführer sollten ihre Sicherheitsteams deshalb nicht nur fragen, ob das Unternehmen die gängigen Compliance-Vorgaben erfüllt, sondern auch, ob der Betrieb weiterläuft und Menschen sicher bleiben, wenn ein autonomer Agent oder ein Angreifer in die Systeme eindringt.
Um die KI-Bedrohungslage in den Griff zu bekommen, braucht es einen automatisierten, präventionsorientierten Ansatz. Unternehmen müssen sehen können, welche KI-Agenten, Bots und anderen nicht-menschlichen Identitäten auf ihre Systeme zugreifen. Zugriffe sollten nach dem Least-Privilege-Prinzip vergeben werden, sodass alles, was in ein System gelangt, nur das erreicht, was es tatsächlich braucht. Und Kontrollmechanismen müssen ungewöhnliches Verhalten in Echtzeit unterbinden, statt es erst Wochen oder Monate später aufzudecken. Automatisierung hilft überlasteten Sicherheitsteams, Schritt zu halten, und verschafft ihnen Freiraum für die Entscheidungen, die das Unternehmen schützen. Wer KI-Agenten selbst entwickelt oder einsetzt, braucht zudem klare Verantwortlichkeiten und muss Vorfälle schnell offenlegen, damit Betroffene handeln können. Unternehmen sollten nicht auf die Ergebnisse der Untersuchungen in Australien warten, um zu prüfen, wie ihre eigenen Systeme einem autonomen Agenten standhalten würden.
Weitere Artikel
Check Point beteiligt sich am „Trusted Access for Cyber“-Programm und an der „Daybreak“-Initiative von OpenAI
JFrog-Bericht: KI-Governance versagt und Angriffe auf Software-Lieferketten nehmen rasant zu
Check Point-Sicherheitsforscher: Schwachstelle bei ChatGPT erlaubte Konversationsdaten auszulesen
Vorhersagen zur Cybersicherheit 2024 von Check Point