Alexander Tsolkas | Tsolkas Executive Consulting GmbH
Wir digitalisieren Behörden, Verwaltungsverfahren, Identitäten und Entscheidungen. Alles soll schneller, effizienter und kostengünstiger werden.
Doch eine entscheidende Frage wird dabei viel zu selten gestellt:
Was geschieht, wenn das digitale System falschliegt?
In meinem Buch Die verborgene Architektur der Macht, Kapitel 25 „Der digitale Leviathan“, formuliere ich einen grundlegenden Anspruch an einen freiheitlichen Rechtsstaat:
„Wer digital verwaltet wird, muss digital und analog wirksam widersprechen können.“
Dieser Satz ist keine theoretische Überlegung. Europäische Beispiele zeigen, was geschieht, wenn digitale Entscheidungssysteme, Verwaltungsprozesse und effektiver Rechtsschutz auseinanderfallen.
1. Deutschland: Eine E-Mail kommt an – aber der Widerspruch zählt nicht
Ein Bürger erhält eine behördliche Entscheidung. Er hält sie für falsch und schreibt innerhalb der Frist eine E-Mail an die zuständige Behörde.
Die E-Mail erreicht den Empfänger. Der Sachverhalt ist beschrieben, die Entscheidung ist eindeutig identifizierbar, der Absender bekannt.
Trotzdem kann dieser Widerspruch rechtlich unwirksam sein.
Genau darüber entschied der Bayerische Verwaltungsgerichtshof am 3. Juni 2022 (Az. 3 ZB 21.2849).
Eine einfache E-Mail erfüllt die gesetzlichen Formerfordernisse für einen förmlichen Widerspruch nach § 70 VwGO nicht. Selbst das Ausdrucken und Abheften der Nachricht durch die Behörde ändert daran nichts.
Es gibt rechtswirksame elektronische Übermittlungswege. Doch diese verlangen bestimmte technische und rechtliche Voraussetzungen.
Der Bürger kann also digital kommunizieren, ohne dadurch automatisch rechtlich wirksam zu handeln.
Die entscheidende Frage lautet: Warum ist der digitale Kontakt zur Behörde einfach, der rechtssichere digitale Widerspruch aber häufig komplizierter?
2. Niederlande: Ein Verwaltungsfehler wird zur existenziellen Katastrophe
In den Niederlanden erhielten berufstätige Eltern staatliche Zuschüsse für die Kinderbetreuung.
Die Unterstützung sollte Familien ermöglichen, einer Arbeit nachzugehen, während ihre Kinder betreut wurden.
Dann begann die Steuerverwaltung, Anträge mithilfe digitaler Risikomodelle auf mögliche Unregelmäßigkeiten und Betrug zu untersuchen.
Bereits formale Fehler oder Unstimmigkeiten konnten gravierende Folgen haben. In zahlreichen Fällen wurden Zuschüsse vollständig zurückgefordert.
Manche Familien sahen sich plötzlich mit Forderungen über Zehntausende Euro konfrontiert.
Stellen wir uns die Konsequenz vor:
Eine Familie hat die erhaltenen Zuschüsse längst für die Kinderbetreuung ausgegeben. Nun verlangt der Staat das Geld zurück.
Die Eltern können nicht zahlen. Schulden entstehen. Rechnungen bleiben offen. Schließlich geraten Wohnung, Arbeitsplatz und Familienleben in Gefahr.
Das war keine bloße Möglichkeit.
Zehntausende Menschen wurden im niederländischen Kinderbetreuungsbeihilfenskandal zu Unrecht des Betrugs verdächtigt. Betroffene verloren ihre Arbeit oder Wohnung, Ehen zerbrachen, Familien gerieten in schwere wirtschaftliche und psychische Krisen.
Besonders erschreckend war die Rolle der automatisierten Risikobewertung.
Die niederländischen Steuerbehörden verwendeten ein algorithmisches System, das unter anderem die Staatsangehörigkeit eines Antragstellers als Risikomerkmal berücksichtigte.
Menschen ohne niederländische Staatsangehörigkeit erhielten dadurch ein höheres Risikoprofil.
Eine Untersuchung von Amnesty International dokumentierte 2021 diese diskriminierende Praxis.
Ein Sachbearbeiter sollte auffällige Fälle zwar manuell überprüfen, erhielt jedoch nicht die notwendigen Informationen darüber, weshalb das System einen erhöhten Risikowert ausgegeben hatte.
Der Mensch kontrollierte also ein maschinelles Ergebnis, dessen Entstehung er selbst nicht ausreichend nachvollziehen konnte.
Die Betroffenen besaßen grundsätzlich Rechtsmittel. Doch diese verhinderten das Unrecht vielfach nicht rechtzeitig. Erst nach jahrelangen Auseinandersetzungen wurde das ganze Ausmaß des Skandals sichtbar.
Am 15. Januar 2021 trat die niederländische Regierung im Zusammenhang mit dem Skandal zurück.
Was nützt einer Familie ein Widerspruchsrecht, wenn sie jahrelang um ihr Recht kämpfen muss, während die wirtschaftlichen Folgen einer falschen Entscheidung längst eingetreten sind?
Hier zeigt sich der digitale Leviathan in seiner praktischen Wirkung.
Der Staat konnte Menschen datenbasiert bewerten, Verdachtsfälle bearbeiten und enorme Rückforderungen durchsetzen.
Die Wiederherstellung ihrer Rechte dauerte dagegen Jahre.
3. Niederlande: Der Staat erklärt Menschen zum Risiko – ohne die Regeln offenzulegen
Ein weiterer niederländischer Fall betrifft das staatliche System SyRI, kurz für Systeem Risico Indicatie.
Die Idee war zunächst nachvollziehbar: Verschiedene Behörden sollten ihre Daten elektronisch zusammenführen, um möglichen Sozialleistungs-, Steuer- und Subventionsbetrug besser erkennen zu können.
Dafür wurden Informationen aus unterschiedlichen staatlichen Datenbeständen miteinander verknüpft und auf Risikomuster untersucht.
Solche Untersuchungen fanden auch in bestimmten Wohngebieten statt.
Das entscheidende Problem war die mangelnde Transparenz.
Die Betroffenen konnten nicht ausreichend nachvollziehen, nach welchen Kriterien das System Risikomeldungen erzeugte.
Warum wurde jemand möglicherweise als Betrugsrisiko markiert? Welche Informationen wurden miteinander kombiniert? Waren die Daten richtig? Welche Bedeutung hatten einzelne Merkmale?
Wie soll ein Bürger eine falsche Bewertung widerlegen, wenn er die Entscheidungsgrundlagen nicht kennt?
Am 5. Februar 2020 entschied das Bezirksgericht Den Haag, dass die gesetzliche Grundlage von SyRI gegen Artikel 8 der Europäischen Menschenrechtskonvention verstieß.
Das Gericht beanstandete insbesondere, dass die Anwendung des Systems nicht ausreichend transparent und überprüfbar war und der Eingriff in das Privatleben damit nicht hinreichend gerechtfertigt wurde.
Der Fall bedeutet nicht, dass jede Risikomeldung zu einer Sanktion führte. Er zeigt etwas Grundsätzlicheres:
Ein Staat darf nicht verlangen, dass Bürger die Folgen datenbasierter Risikobewertungen hinnehmen, während die maßgeblichen Regeln dieser Bewertungen einer wirksamen Kontrolle entzogen bleiben.
Eine digitale Verwaltung ohne Transparenz kann zum System werden, das Menschen kategorisiert, ohne ihnen eine ausreichende Möglichkeit zu geben, die Kategorisierung zu verstehen.
4. Deutschland: Wenn ein Algorithmus über wirtschaftliche Teilhabe entscheidet
Ein weiteres Beispiel betrifft die SCHUFA.
Wer einen Kredit aufnehmen, einen Vertrag abschließen oder bestimmte Dienstleistungen nutzen möchte, wird häufig anhand seiner Kreditwürdigkeit beurteilt.
Dafür berechnen Auskunfteien statistische Wahrscheinlichkeitswerte, sogenannte Scores.
Doch was geschieht, wenn ein solcher Wert nicht die tatsächliche wirtschaftliche Leistungsfähigkeit eines Menschen widerspiegelt?
Ein niedriger Score kann dazu beitragen, dass Banken oder andere Unternehmen einen Vertrag ablehnen.
Der Bürger steht dann vor einem schwierigen Problem:
Welche Daten führten zu seiner Bewertung? Sind diese Daten korrekt? Welche Bedeutung hatten einzelne Informationen? Und wie lässt sich eine fehlerhafte Entscheidung rechtzeitig korrigieren?
Am 7. Dezember 2023 entschied der Europäische Gerichtshof in der Rechtssache C-634/21, dass bereits die automatisierte Erstellung eines solchen Scores unter bestimmten Voraussetzungen als automatisierte Entscheidung im Sinne von Artikel 22 DSGVO anzusehen ist.
Entscheidend ist insbesondere, ob ein Unternehmen den Score maßgeblich für die Entscheidung nutzt, einen Vertrag abzuschließen, durchzuführen oder zu beenden.
Das Urteil zeigt, dass die europäische Rechtsordnung algorithmisch beeinflusste Entscheidungen nicht einfach als neutrale Rechenoperationen behandeln darf.
Denn hinter jeder Zahl steht möglicherweise ein Mensch, dessen wirtschaftliche Möglichkeiten davon abhängen.
Ein mathematisch berechneter Wert ist noch keine gerechte Entscheidung. Und eine statistische Wahrscheinlichkeit ist noch kein Beweis über einen einzelnen Menschen.
Warum wird der Rechtsschutz bei der Digitalisierung so häufig vernachlässigt?
Die Gründe liegen auch in der Art, wie Digitalisierungsprojekte geplant und bewertet werden.
Erfolge lassen sich relativ leicht messen:
Wie viele Anträge werden täglich verarbeitet? Wie stark sinken die Verwaltungskosten? Wie viele Arbeitsschritte lassen sich automatisieren? Wie schnell erfolgt eine Entscheidung?
Sehr viel schwieriger messbar sind dagegen die Qualität einer Begründung, die Verständlichkeit einer Entscheidung oder die praktische Wirksamkeit eines Widerspruchs.
Ein vollständig digitalisierter Verwaltungsprozess erscheint effizient.
Doch was geschieht, wenn seine Eingangsdaten falsch sind?
Was passiert, wenn ein Algorithmus diskriminierende Zusammenhänge erlernt?
Wer trägt die Verantwortung, wenn die Entscheidung technisch korrekt verarbeitet wurde, aber sachlich falsch ist?
Und wie schnell kann ein betroffener Bürger erreichen, dass seine Rechte wiederhergestellt werden?
Solange diese Fragen nicht von Anfang an Teil der Systemarchitektur sind, entsteht eine gefährliche Asymmetrie:
Die Durchsetzung staatlicher Entscheidungen wird beschleunigt, während ihre Kontrolle und Korrektur weiterhin Zeit, Geld, technisches Wissen und juristische Unterstützung erfordern.
Das ist nicht allein ein Problem der Informationstechnologie.
Es ist ein Problem der rechtsstaatlichen Architektur.
Was ein freiheitlicher digitaler Staat gewährleisten muss
Wer Verwaltungsentscheidungen digitalisiert, muss auch den wirksamen Rechtsschutz digital und analog ermöglichen.
Dazu gehören verständliche Entscheidungsbegründungen, nachvollziehbare Datenherkunft, einfache Korrekturverfahren, rechtssichere elektronische Widerspruchsmöglichkeiten und erreichbare menschliche Ansprechpartner.
Automatisierte Entscheidungen mit erheblichen Folgen müssen unabhängig überprüfbar sein. Betroffene müssen die Möglichkeit erhalten, wesentliche Fehler rechtzeitig zu korrigieren und gegebenenfalls vorläufigen Rechtsschutz zu erlangen.
Auch analoge Wege müssen dort erhalten bleiben, wo andernfalls Menschen von grundlegenden Leistungen und Rechten ausgeschlossen würden.
Denn ein Mensch darf seine Rechte nicht allein deshalb verlieren, weil sein digitales Konto gesperrt wurde, ein Identitätssystem ausfällt oder er nicht über die erforderliche technische Ausstattung verfügt.
Das Ziel darf nicht die Abschaffung digitaler Verwaltung sein.
Das Ziel muss eine Digitalisierung sein, die staatliche Effizienz mit rechtsstaatlicher Kontrolle verbindet.
Fazit: Wenn die Macht schneller wird als das Recht
Die niederländischen Fälle zeigen, welche menschlichen Folgen entstehen können, wenn datenbasierte Verdachtsbildung, fehlerhafte Verwaltungsentscheidungen und unzureichender Rechtsschutz zusammenkommen.
Die deutschen Beispiele zeigen, dass auch formale digitale Zugangshürden und algorithmische Bewertungen grundsätzliche Fragen nach Transparenz und Rechtswirksamkeit aufwerfen.
Eine Gesellschaft darf ihre Bürger nicht lediglich als Datensätze behandeln, über die effizient entschieden wird.
Die gefährlichste Eigenschaft des digitalen Leviathans ist nicht, dass er alles weiß. Sondern dass er auf Grundlage seiner Daten Entscheidungen treffen kann, deren Folgen der Bürger sofort spürt, während die Überprüfung Monate oder Jahre dauern kann.
Die Verwaltung gewinnt die Geschwindigkeit der Maschine.
Der Bürger benötigt weiterhin die Zeit des Rechtswegs.
Ein freiheitlicher Staat muss verhindern, dass diese Ungleichheit zum strukturellen Prinzip seiner digitalen Ordnung wird.
Denn wenn Digitalisierung keine wirksamen Gegenrechte, keine Transparenz und keine überprüfbare Verantwortung gewährleistet, dann digitalisiert sie nicht die Freiheit.
Sie digitalisiert nur die Macht – und macht sie schneller.
Zum Buch
Dieser Artikel greift Gedanken aus Kapitel 25 „Der digitale Leviathan“ meines Buches auf:
Die verborgene Architektur der Macht – Wie Geoökonomie, Technologie und Regulierung die Welt neu gestalten
Englische Ausgabe: The Hidden Architecture of Power – How Geoeconomics, Technology, and Regulation Are Reshaping the World
Autor: Alexander Tsolkas
Verlagshaus: Hillshire Media
Rechte: Alexander Tsolkas
Deutsch – Die verborgene Architektur der Macht
Paperback: 9781971324777
Hardcover: 9781971324814
eBook: 9781971324821
Englisch – The Hidden Architecture of Power
Paperback: 9781971324623
Hardcover: 9781971324784
eBook: 9781971324791
#Digitalisierung #Rechtsstaat #DigitaleSouveränität #KI #Governance #Datenschutz #Sectank
Weitere Artikel
Die verborgene Architektur der Macht
Artikelserie – Industrial Control Systems unter regulatorischen Druck – Artikel 8 – Diverse Architekturen normgerecht umsetzen
Artikelserie – Industrial Control Systems unter regulatorischen Druck – Artikel 5 – Referenzarchitektur
Artikelserie Digital ID – Artikel 14 – Unterstützung der offenen Petition