James McQuiggan, Security Awareness Advocate bei KnowBe4
Mit der zunehmenden Integration von KI in unser Leben werden auch die Interaktionen zwischen KI-Systemen immer wichtiger. Wir nutzen KI schon länger, als den meisten bewusst ist. Von den Anfängen der Textvorhersage und der Autokorrektur bis hin zu den heutigen KI-Systemen, die Blogs schreiben, Bilder generieren und Deepfakes erstellen.
Die Gesellschaft erlebt KI-Funktionen, die sich um menschliche Interaktionen drehen – wie Phishing-E-Mails, die von großen Sprachmodellen (LLMs) erstellt werden. Andere KI-Systeme stehen in direkter Kommunikation miteinander und lassen den Menschen oft außen vor. Ein Paradebeispiel dafür ist die „KI-Oma von O2“ mit der interaktiven KI-Stimme Daisy, die ihre Zeit damit verbringt, betrügerische Anrufer in sinnlose Gespräche zu verwickeln, um zu verhindern, dass Betrüger mit weniger aufmerksamen Menschen interagieren, die ihnen zum Opfer fallen und möglicherweise Tausende, wenn nicht sogar ihre gesamten Ersparnisse verlieren würden.
Computer, die sich miteinander unterhalten, sind kein neues Phänomen. Maschinen führen schon seit Jahrzehnten digitale Gespräche. Vom Drei-Wege-Handshake bei der TCP/IP-Kommunikation bis hin zum nahtlosen Austausch von Informationen über verschiedene Geräte hinweg – die Grundlagen dafür sind schon lange gelegt. Es ist so ähnlich wie das Senden einer Textnachricht an einen Freund – einfach, unkompliziert und sehr effizient.
Letztlich liegt der Vorteil darin, dass Computer sich hervorragend für sich wiederholende oder langweilige Aufgaben eignen. Der Mensch muss nicht mehr eingreifen, um grundlegende Interaktionen zu erleichtern; KI-Systeme übernehmen diese Aufgabe.
Laut einer Studie der Access Group sagten 52 Prozent der Befragten, dass sie „sehr“ oder „stark“ daran interessiert sind, dass mühsamere Aspekte ihrer Arbeit von der Automatisierung übernommen werden. Zu diesen Aufgaben gehören zeitraubende Tätigkeiten wie Papierkram (45 %), Stundenzettel und Rechnungen (39 %), Aufräumen und Organisieren (37 %) und Notizen machen (36 %).
Interaktionen zwischen Computern nehmen zu und KI-Systeme werden immer autonomer, deshalb muss die Zukunft der KI mit ruhiger Hand gesteuert werden. Da automatisierte Interaktionen zur Norm werden, brauchen Unternehmen Rahmenbedingungen, die ethische Überlegungen berücksichtigen und gleichzeitig Innovationen fördern. Die Zusammenarbeit zwischen Tech-Giganten, Regulierungsbehörden und anderen Interessengruppen wird entscheidend sein.
Der EU Artificial Intelligence Act zielt darauf ab, KI-Systeme auf der Grundlage ihrer Risikostufen von minimal bis inakzeptabel zu kategorisieren und strenge Anforderungen an Anwendungen mit hohem Risiko zu stellen, während Innovationen in Bereichen mit geringerem Risiko gefördert werden. Dieser proaktive Ansatz spiegelt die wachsende Erkenntnis wider, dass es mit der zunehmenden Integration von KI in den Alltag wichtig ist, robuste Kontrollmechanismen zu schaffen.
Auch Bildungsinitiativen sind wichtig. Wir müssen eine digitale Kompetenz kultivieren, die die Menschen befähigt, KI und ihre Auswirkungen besser zu verstehen. Der Nutzer sollte nicht nur ein passiver Beobachter des Spektakels der KI sein, sondern ein aktiver Teilnehmer, ein Befürworter und, wenn nötig, ein Herausforderer.
Wenn diese intelligenten Systeme aneinandergeraten, müssen wir uns daran erinnern, wie wichtig die menschliche Kontrolle ist. Es geht nicht darum, auf die Fähigkeiten der KI zu verzichten, sondern sie mit menschlichen Werten und Ethik in Einklang zu bringen. Schließlich geht es darum, eine bessere Welt zu schaffen.
