Künstliche Intelligenz ist in der Breite der Wirtschaft angekommen – und entwickelt sich rasant zum Wettbewerbsfaktor. Laut Bitkom sehen 81 Prozent der Unternehmen sie inzwischen als wichtigste Zukunftstechnologie, mehr als jedes dritte setzt sie bereits konkret ein. Gleichzeitig nutzen zwei Drittel der Bevölkerung generative KI-Anwendungen wie ChatGPT oder Copilot zumindest gelegentlich.
Vor diesem Hintergrund verschiebt sich der Fokus – weg von der Frage, ob KI eingesetzt wird, hin zu: Wie zuverlässig sind die Entscheidungen, die sie für uns trifft?
„Das größte Risiko liegt in Fehlentscheidungen“
Assaf Keren, Chief Security Officer bei Qualtrics, sieht genau hier das zentrale Risiko – weniger in der Technologie selbst, sondern mehr in den Konsequenzen ihres Einsatzes. Denn KI ist längst nicht mehr nur Analysewerkzeug, sondern trifft, vor allem auch durch den steigenden Einsatz von Agentic AI, zunehmend eigenständig Entscheidungen mit direkten Auswirkungen auf Menschen und Geschäftsprozesse: „Künstliche Intelligenz bearbeitet Kundenanfragen, erkennt Risiken von Mitarbeiterabwanderung und leitet Patientenanliegen an medizinisches Fachpersonal weiter. Verfügt die KI dabei über den passenden Kontext, liefert sie präzise Ergebnisse für die jeweils richtige Person. Ist dieser Kontext jedoch fehlerhaft – etwa manipuliert, verzerrt oder unvollständig –, erzeugt die KI mit derselben Überzeugungskraft falsche Resultate. Und das in einer Geschwindigkeit, mit der menschliche Akteure nicht Schritt halten können.“
Sein Fazit ist deutlich – und stellt gängige Sicherheitsannahmen infrage: „Das größte Sicherheitsrisiko liegt somit in Fehlentscheidungen – Entscheidungen, denen in der heutigen, KI-geprägten Arbeitswelt mit hoher Selbstverständlichkeit vertraut wird.“
Wenn Kontext fehlt, entsteht realer Schaden
Was abstrakt klingt, hat in der Praxis konkrete Auswirkungen – von falschen Kundeninteraktionen bis hin zu folgenschweren Personalentscheidungen.
Fehlt der richtige Kontext, kann ein KI-Agent sensible Daten preisgeben. Ein Chatbot erzeugt eine Antwort, auf deren Basis ein Kunde entsprechend handelt. Weist ein System zur Auswertung von Mitarbeiterfeedback beispielsweise Ergebnisse der falschen Person zu, trifft womöglich eine Führungskraft auf Grundlage fehlerhafter Daten eine Entscheidung, die die Karriere des Mitarbeitenden erheblich beeinflusst
, so Keren.
Hinzu kommt ein strukturelles Problem: KI wird häufig genutzt – aber nicht zentral gesteuert. Ein erheblicher Teil der Beschäftigten greift auf eigene Tools zurück oder arbeitet mit Anwendungen, die nicht offiziell freigegeben sind. Laut Employee Experience Report 2026 von Qualtrics nutzen gerade einmal 20 Prozent der Befragten vom Unternehmen freigegebene Tools. Damit entstehen blinde Flecken in Governance und Sicherheit.
Warum klassische Sicherheitslogik nicht mehr ausreicht
Die bisherigen Sicherheitskonzepte vieler Unternehmen greifen laut Keren zu kurz, weil sie aus einer anderen technologischen Realität stammen: „Sicherheitsteams haben sich lange darauf konzentriert, Daten zu schützen – etwa durch Verschlüsselung, Zugriffskontrollen und die Einhaltung regulatorischer Vorgaben. Diese Maßnahmen bleiben unverzichtbar. Sie entstammen jedoch einer Welt, in der Daten statisch in Systemen vorlagen und Menschen die daraus resultierenden Entscheidungen trafen.“
Heute sieht die Situation grundlegend anders aus: „Die Welt ist im Umbruch. Heute agiert KI zunehmend autonom und trifft Entscheidungen auf Basis von Daten. Sicherheitsteams müssen ihren Ansatz daher neu ausrichten – insbesondere beim Schutz von Experience-Management-Programmen.“
Der entscheidende Unterschied: Nicht mehr nur Daten müssen geschützt werden – sondern die Auswirkung von Daten. Laut Keren sollten sich Sicherheitsverantwortliche in Unternehmen daher vier konkrete Fragen stellen:
- Welche geschäftlichen Entscheidungen beeinflusst die Plattform?
- Wie stellen wir sicher, dass die eingehenden Daten authentisch sind?
- Haben wir den potenziellen geschäftlichen Schaden quantifiziert?
- Wie schnell können wir Anomalien erkennen und eingreifen?
Fazit: Das eigentliche Risiko sitzt in der Entscheidung
Der rasante KI-Einsatz schafft enorme Potenziale – aber auch neue Risiken. Fehlerhafte oder verzerrte Daten führen zu falschen Ergebnissen, die sich durch automatisierte Systeme schnell skalieren und realen Schaden verursachen. Damit steht auch die Security vor einem Wandel: Es reicht nicht mehr, Systeme und Zugriffe zu sichern. Zukünftig geht es darum, Entscheidungsprozesse abzusichern – also zu verstehen, wie KI zu Ergebnissen kommt und welche Auswirkungen diese haben. Der Erfolg von KI entscheidet sich damit nicht an ihrer Geschwindigkeit, sondern daran, ob Unternehmen die Kontrolle über die Qualität ihrer Entscheidungen behalten.
Weitere Artikel
ADN Microsoft CSP Week: Coachings zu KI, Sicherheit und digitaler Zusammenarbeit
Compliance statt Chaos: Schatten-KI in Unternehmen verhindern
Trotz KI-Hype: Fast 50 % der Unternehmen haben noch keine Richtlinien zur sicheren Nutzung etabliert
Von A wie Azure bis Z wie Zero Trust: ADN Microsoft CSP Security Week im Dezember