«KI-Agenten schaffen völlig neue Angriffsflächen»

Daniel Riedener, künstliche Intelligenz verändert die Cybersecurity derzeit rasanter als jede andere Technologie. Welche Entwicklung hat Sie in den vergangenen zwölf Monaten am meisten überrascht?
Ich staune vor allem über die Geschwindigkeit, mit der sich das KI-Ökosystem entwickelt. Besonders überrascht hat mich aber, wie schnell aus reinen Chat-Assistenten handelnde Systeme geworden sind: KI-Agenten, die selbstständig Software schreiben und ganze Aufgaben erledigen. Stichwort «Vibe Coding», bei dem Anwendungen im Dialog mit der KI entstehen. Für deren Absicherung ist bereits ein eigener Markt für Sicherheitslösungen entstanden.

Immer mehr Unternehmen setzen KI-Assistenten wie ChatGPT, Copilot oder Claude im Arbeitsalltag ein. Welche neuen Sicherheitsrisiken entstehen dadurch?
Die Risiken reichen von der Preisgabe sensibler Daten bis zur Beschädigung der eigenen Infrastruktur. Vertrauliche Informationen gelangen in KI-Modelle, Coding-Assistenten erzeugen mitunter verwundbaren Code. Mit KI-Agenten kommt eine neue Dimension hinzu: Sie versenden E-Mails, verändern Daten oder führen Befehle auf Systemen aus.

An der Digital Conference Ostschweiz sprechen Sie über «Frontier-Modelle und Prompt Injection». Was genau versteht man unter einer Prompt Injection, und weshalb sollten Unternehmen dieses Thema ernst nehmen?
Frontier-Modelle sind die jeweils leistungsfähigsten KI-Modelle ihrer Generation, etwa jene hinter ChatGPT, Claude oder Gemini. Bei einer Prompt Injection wird ein Modell über speziell formulierten Text dazu gebracht, Dinge zu tun oder preiszugeben, die es eigentlich nicht darf. Das Grundproblem: Eine KI unterscheidet im Wesentlichen nicht zwischen Daten und Instruktionen. Deshalb kann jeder verarbeitete Text versteckte Anweisungen enthalten. Ein KI-Assistent, der E-Mails zusammenfasst, könnte eine solche Anweisung als Befehl statt als Inhalt interpretieren und beispielsweise Kundenofferten an eine externe Adresse weiterleiten. Sobald Unternehmen ihre Daten mit einer KI verbinden, besteht deshalb die Gefahr, dass genau diese KI zum Diebstahl dieser Daten missbraucht wird. Deshalb sollte jedes Unternehmen, das KI produktiv einsetzt, dieses Risiko ernst nehmen.

Viele Unternehmen möchten KI möglichst schnell produktiv einsetzen. Wo beobachten Sie derzeit die häufigsten Fehler beim sicheren Einsatz solcher Systeme?
Ich beobachte häufig, dass KI eingeführt wird, ohne die interne IT beziehungsweise die Security genügend einzubeziehen. Deshalb braucht es zunächst Transparenz darüber, wo im Unternehmen bereits KI im Einsatz ist, offiziell oder inoffiziell. Darauf aufbauend braucht es klare Richtlinien, freigegebene Tools als sichere Alternative und Schulungen. Das gilt besonders für KMU ohne eigenes Security-Team: Ein Verbot funktioniert erfahrungsgemäss nicht, die Mitarbeiter nutzen KI dann einfach privat und unkontrolliert weiter. 

KI unterstützt heute nicht nur Verteidiger, sondern auch Cyberkriminelle. Wer verschafft sich derzeit den grösseren Vorteil: die Angreifer oder die Verteidiger?
Kurzfristig sehe ich die Angreifer vorne, allerdings nicht, weil ihnen KI grundsätzlich mehr nützen würde. Beide Seiten profitieren, etwa bei der Analyse von Vorfällen oder der Erkennung von Phishing. Angreifer können KI jedoch hemmungslos einsetzen, ohne Rücksicht auf Fehler, Datenschutz oder Compliance. Für sie ist jeder Einsatz unmittelbar gewinngenerierend. Für die Verteidiger wird KI dagegen zur Doppelbelastung: Sie müssen die Technologie einerseits für die Verteidigung einsetzen und andererseits den internen Gebrauch von KI im eigenen Unternehmen absichern. Diese Asymmetrie ist aber kein Naturgesetz: Wer den eigenen KI-Einsatz früh und konsequent absichert, kann den Rückstand aufholen.

Sie beschäftigen sich intensiv mit KI und Automatisierung in der Cybersecurity. Welche Aufgaben werden in den nächsten Jahren zunehmend von KI übernommen, und wo wird der Mensch unverzichtbar bleiben?
In der Security ist der Wandel bereits sichtbar: Das Priorisieren von Alarmmeldungen, die Analyse grosser Datenmengen, das Erkennen von Phishing und erste Sicherheitstests übernimmt KI zunehmend schneller und in grösserem Umfang, als Menschen es je könnten. Unverzichtbar bleibt der Mensch dort, wo es um Verantwortung und weitreichende Entscheidungen geht. Wer haftet, wenn ein KI-gestütztes System einen Angriff übersieht oder in einer kritischen Situation das falsche System abschaltet? Diese Verantwortung lässt sich nicht an eine Maschine delegieren.