KI-Sparringspartner soll Unternehmen bei ethischen Entscheidungen helfen
Text: pd/stz.
Datenbasierte Projekte und Künstliche Intelligenz (KI) eröffnen Unternehmen enorme Chancen, bergen aber auch komplexe Risiken. Werden bei der Umsetzung ethische Aspekte, rechtliche Anforderungen oder negative gesellschaftliche Konsequenzen übersehen, drohen Reputationsschäden und Haftungsrisiken.
Eine neue Studie der FH Graubünden zeigt, dass rund zwei Drittel der verantwortlichen Mitarbeiter sogenannte «blinde Flecken» aufweisen. Das heisst, dass sie ethische, rechtliche und soziale Risiken gar nicht erst erkennen. In der Praxis stellt dies viele Unternehmen vor grosse Herausforderungen.
KI als digitaler Sparringspartner
Die Forscher haben ein KI-basiertes, interaktives Dialogsystem entwickelt, das Mitarbeiter in Unternehmen bei schwierigen Entscheidungen unterstützt. Es fungiert dabei als digitaler Sparringspartner zur Bewertung ethischer, rechtlicher und sozialer Risiken. Anstatt sich durch dicke Regelwerke zu arbeiten, beschreiben die Mitarbeiter ihr Vorhaben in einem Chat.
Eine speziell für diesen Zweck optimierte generative KI analysiert die Pläne in Echtzeit und stellt gezielte Rückfragen. Diese Rückfragen sind darauf ausgerichtet, die «blinden Flecken» aufzudecken, die im hektischen Unternehmensalltag oft übersehen werden. So entsteht ein dynamischer Dialog, der den Blick für die möglichen ethischen, rechtlichen und sozialen Folgen datenbasierter Projekte schärft.
Der entscheidende Punkt: Die KI trifft keine eigenen Entscheidungen. Sie dient lediglich als fundierte Analysehilfe. «Unternehmen benötigen praxistaugliche Unterstützung in komplexen Entscheidungssituationen», erklärt Projektleiter Prof. Dr. Christian Hauser. «Unser System stärkt die Entscheidungsqualität der Mitarbeiter, wobei die Verantwortung klar bei den handelnden Personen bleibt.»
Erfolgreiche Zusammenarbeit in der Praxis
Das System ist das Ergebnis eines von der Schweizerischen Agentur für Innovationsförderung Innosuisse geförderten Projekts, das von der FH Graubünden und der Universität Zürich in enger Zusammenarbeit mit vier Schweizer Unternehmen durchgeführt wurde. Im Rahmen der Studie wurden rund 1100 Personen befragt, die in Unternehmen an datenbezogenen Entscheidungen oder deren Umsetzung beteiligt sind.
Das Handbuch, in dem das Dialogsystem detailliert beschrieben wird, steht nun allen interessierten Unternehmen zur Verfügung, um die verantwortungsvolle Digitalisierung in der Schweiz breitenwirksam zu fördern.
Bei PostFinance, einem der vier Partnerunternehmen, hat das Dialogsystem eine technische Testphase durchlaufen und wurde in die bestehende IT-Infrastruktur integriert. Dabei wurden insbesondere Qualität und Abdeckung der generierten ethikbezogenen Rückfragen systematisch evaluiert und als geeignet befunden. «Auf dieser Grundlage ist vorgesehen, das System in einem nächsten Schritt in Projekten der Compliance- und Data-Governance-Bewertung einzusetzen», sagt Yihan Deng, Staff Data Scientist von PostFinance, zum Stand der Arbeiten.
Breite Kompetenz
Das Schweizerisches Institut für Entrepreneurship der FH Graubünden orientiert sich thematisch an aktuellen Herausforderungen der Praxis. Es erforscht Fragestellungen zur digitalen Transformation, Servicerobotik, Innovation und Design Thinking, Internationalisierung und Supply Chain sowie Corporate Responsibility. Es geht dabei um Strategien für Produkte und Leistungen sowie neue Geschäftsmodelle, aber auch um organisatorische Fragen, die sich aufgrund der Digitalisierung und Vernetzung eröffnen.
Zudem beschäftigt sich das Institut mit der Frage, wie Unternehmen und Organisationen Transparenz, nachhaltige Entwicklung und unternehmerische Verantwortung in ihrer Unternehmensphilosophie verankern können.
Mehr zum Projekt und Download des Handbuchs: fhgr.ch/ai-ethics
