Am Ende entscheidet der Mensch
Durch den Tag führte die Journalistin und Moderatorin Bigna Silberschmidt. Sie begleitete die Referenten und Gäste durch ein Programm, das künstliche Intelligenz und Cybersicherheit aus technischer, wirtschaftlicher und gesellschaftlicher Sicht beleuchtete.
Ist künstliche Intelligenz Waffe oder Werkzeug? Für Anna-Lena Horlemann ist sie zunächst ein Werkzeug. «Die Frage ist aber, wer profitiert.» Denn KI kann sowohl von Angreifern als auch von Verteidigern eingesetzt werden. Die Professorin für theoretische Informatik und Mathematik an der Universität St.Gallen eröffnete damit die Conference. Unter dem Motto «Cybersecurity trifft KI – Risiko oder Chance?» beschäftigten sich die Gäste mit den Auswirkungen einer Technologie, die längst weit über die IT-Abteilung hinausreicht.
In der Cybersecurity beschleunigt KI vor allem bestehende Prozesse. Angreifer können Informationen schneller beschaffen oder Schwachstellen suchen, Verteidiger dieselben Technologien zur Analyse und Erkennung von Angriffen einsetzen. Für Horlemann verändert sich damit weniger das grundsätzliche Spiel als dessen Geschwindigkeit.
Der Mensch bleibt angreifbar
Wie stark der Mensch dabei im Zentrum steht, zeigte Wirtschaftspsychologin Jill Wick. Social Engineering funktioniert, weil Menschen häufig schnell und intuitiv entscheiden. Das ist im Alltag hilfreich, macht sie aber auch anfällig für Manipulation.
KI verändert diese Mechanismen nicht grundsätzlich. Sie macht ihre Ausnutzung aber schneller und einfacher skalierbar. Informationen über potenzielle Opfer lassen sich rascher zusammentragen und Betrugsversuche leichter personalisieren. Wick zeigte anhand verschiedener Beispiele, wie KI bereits für Betrugsversuche und Voice Phishing eingesetzt wird. Das Problem ist damit weniger eine völlig neue Art des Angriffs als dessen Umfang.
Austausch und Vertiefung
Auch der St.Galler Regierungsrat Beat Tinner betonte die Rolle des Menschen. Der Kanton habe untersucht, wo künstliche Intelligenz einen tatsächlichen Mehrwert bieten könne und welche Risiken damit verbunden seien. Nun sollen Voraussetzungen für einen verantwortungsvollen Einsatz geschaffen werden. Die Verantwortung dürfe aber nicht an Maschinen delegiert werden. «Es überwiegen die Chancen, aber nur, wenn wir aufmerksam bleiben», sagte Tinner.
Nach den ersten Referaten ging es für die Besucher selbst an die Arbeit. In fünf parallelen Breakout-Sessions wurden einzelne Themen vertieft. Sylvain Luiset von Zurich Insurance sprach über Cyber Resilience, Christian Loser und Benedict Vuilleumier von Acreo Consulting über Vibe Coding und Hanspeter Pfändler von Mait Swiss über datenbasiertes Arbeiten mit KI. Daniel Riedener von Ceruno widmete sich der Prompt Injection, Yannick Brühl von Arctic Wolf dem menschlichen Faktor in der Cybersicherheit.
Desinformation ist älter als KI
Henriette Engbersen, Leiterin Public Value der SRG, machte deutlich, dass Manipulation und Desinformation keine Erfindungen des digitalen Zeitalters sind. Von historischen Falschinformationen bis zu heutigen Deepfakes zeigte sie, wie neue Technologien immer wieder auch zur Manipulation von Informationen genutzt wurden.
Verändert haben sich jedoch Geschwindigkeit und Reichweite. Mit Smartphones und sozialen Medien verloren klassische Medien ihre frühere Stellung als wichtigste Verteiler von Informationen. Heute bestimmen Algorithmen mit, was Menschen sehen und was besonders viel Aufmerksamkeit erhält. «Was provoziert, wird auf Social Media mehr gezeigt», sagte Engbersen. Polarisierung und Desinformation bezeichnete sie als «zwei toxische Freunde».
Die Herausforderung besteht damit nicht nur darin, falsche Inhalte zu erkennen. Ebenso wichtig ist es, die Mechanismen zu verstehen, die ihre Verbreitung begünstigen.
Urteilskraft statt Informationsmangel
Den Schlusspunkt setzte Richard David Precht. Der Philosoph und Publizist beschäftigte sich weniger mit einzelnen Anwendungen als mit den gesellschaftlichen Folgen der künstlichen Intelligenz.
Die Arbeitswelt sei auf die bevorstehenden Veränderungen noch nicht ausgerichtet. Deshalb müssten grundlegende Strukturen überdacht werden, etwa das Steuersystem. Die verbreitete Angst vor einer künstlichen Superintelligenz, die sich gegen den Menschen richtet, teilt Precht dagegen nicht. Das grössere Problem sieht er darin, dass Menschen technischen Systemen vertrauen, obwohl sie diese nicht verstehen. «Wir verlassen uns auf KI, weil wir sie nicht durchschauen. Und genau deshalb haben wir auch so viel Angst davor.»
Für Precht führt dies unmittelbar zur Bildung. Wissen ist heute jederzeit verfügbar. Umso wichtiger werde die Fähigkeit, Informationen zu prüfen, einzuordnen und eigene Schlüsse daraus zu ziehen. Die Stärkung dieser Urteilskraft sei letztlich ein wesentlicher Grund dafür, weshalb es weiterhin Schulen brauche. Beim Einsatz von KI gebe es zudem klare Grenzen. So dürfe sie etwa nicht über menschliche Lebensschicksale entscheiden.
Mehr als eine Konferenz
Die Digital Conference Ostschweiz lebt aber nicht allein von den Referaten und Breakout-Sessions. Sie bringt an einem Tag Fachleute aus Technologie, Wirtschaft, Wissenschaft und Politik mit Praktikern und internationalen Anbietern zusammen. Für die Ostschweizer Wirtschaft bedeutet das laut Andy Kutter, Geschäftsführer des Hauptsponsors Kyos, kurze Wege und direkte Kontakte. «Diese Nähe macht aus einer Konferenz ein Netzwerk.»
So unterschiedlich die Perspektiven an diesem Tag waren, in einem Punkt trafen sie sich: Künstliche Intelligenz eröffnet neue Möglichkeiten und schafft neue Risiken. Wie wir damit umgehen und wo wir ihr Grenzen setzen, bleibt eine menschliche Aufgabe.
Vier Ausgaben, ein wachsendes Netzwerk
Die Idee zur Digital Conference Ostschweiz entstand Ende 2022 aus gleich drei Jubiläen: fünf Jahre Rechenzentrum Ostschweiz, zehn Jahre rockt! und zwanzig Jahre LEADER. Gemeinsam mit der SAK wurde daraus ein neuer Anlass für die digitale Ostschweiz. Die erste Conference fand am 15. Juni 2023 beim Rechenzentrum Ostschweiz in Gais statt. Ziel war von Beginn an, Wissen zu vermitteln, den Austausch zu fördern und die Akteure der Region miteinander zu vernetzen. 2026 ging die Conference bereits in die vierte Runde. Heute tragen Unternehmen, Hochschulen, Verbände und kantonale Stellen den Anlass mit und machen ihn zu einer breit abgestützten Plattform für den digitalen Austausch in der Ostschweiz.
Weitere Informationen: digitalconference.ch
Text: Patrick Stämpfli
Bild: Marlies Beeler-Thurnheer, Rebekka Grossglauser
