Welche Auswirkungen hat der Einsatz Künstlicher Intelligenz (KI) auf die Rationalität von Entscheidungsprozessen? Dürfen wir uns auf das Orakel einer „Blackbox“ verlassen oder müssen intelligente Entscheidungsunterstützungssysteme die Grundlagen ihrer Empfehlungen nachvollziehbar „erklären“? Wie verändert sich durch den Einsatz Künstlicher Intelligenz unsere Diskussionskultur?
In seiner Antrittsvorlesung am 5. Oktober 2021 nahm Matthias Wendland das Auditorium im Festsaal des Meerscheinschlössls mit auf eine gedankliche Reise zu den Schnittpunkten zwischen Recht, Technologie und Philosophie. Den Ausgangspunkt bilden dabei Entscheidungsunterstützungssysteme, die mittlerweile in zahlreichen Anwendungsfeldern, wie etwa in der Medizin, im Banksektor aber auch in der Unternehmensleitung eingesetzt werden. Solche Decision Support Systems (DSS) generieren aus der Analyse entscheidungsrelevanter Daten konkrete Handlungsempfehlungen, deren Zustandekommen aufgrund des Blackbox-Charakters der KI-Systeme jedoch nicht mehr argumentativ nachvollzogen werden kann.
Das Hinzutreten einer Instanz, deren Entscheidungsempfehlungen mit der Vermutung unfehlbarer Richtigkeit ausgestattet, jedoch in ihrer Plausibilität nicht nachprüfbar sind, hat – so Matthias Wendland – disruptive Auswirkungen auf die Integrität individueller und institutioneller Entscheidungsprozesse, für die er insgesamt 9 Problemfelder identifiziert. So ergeben sich etwa durch den Verweis auf die unfehlbare Autorität intransparenterer Algorithmen Anreizstrukturen zugunsten einer Konformität mit der begrenzten Rationalität von KI-Systemen, die den freien Diskurs als Grundlage rationaler Entscheidungen beeinträchtigen. Eng verbunden mit dem Phänomen der „Diktatur der Algorithmen“ ist eine Tendenz zur zunehmenden Delegation von Verantwortung, die mit dem Anspruch menschlicher Autonomie und Letztverantwortung kollidiert. Neben diese Phänomene tritt ein erhöhtes Risiko algorithmischer Diskriminierung und manipulativer Interventionen, aus denen sich erhebliche Gefahren für die Integrität von Entscheidungsprozessen ergeben. Zentrale Bedeutung wird daher der Entwicklung von Standards und Tool-Boxes für die Zertifizierung transparenter und nachvollziehbarer KI-Anwendungen zukommen. An einem solchen Zertifizierungssystem für Künstliche Intelligenz arbeitet Matthias Wendland derzeit gemeinsam mit Stefan Thalmann (BANDAS-Center, Universität Graz), Stefanie Lindstaedt (TU Graz, Know-Center) und dem SGS-Konzern im Rahmen der neu gegründeten Initiative Trust Your AI.
Matthias Wendland ist Universitätsprofessor für Law and Business Innovation am Institut für Unternehmensrecht und Internationales Wirtschaftsrecht. Nach der Promotion und Habilitation an der Ludwig-Maximilians-Universität München und Stationen unter anderem in Harvard, Heidelberg und Freiburg ist Matthias Wendland seit Dezember 2020 Brückenprofessor der REWI- und SOWI-Fakultät. Im profilbildenden Exzellenzfeld „Smart Regulation“ forscht er interdisziplinär zu aktuellen Fragen am Schnittpunkt zwischen Unternehmensrecht, Ethik und digitalen Technologien, insbesondere im Bereich Künstlicher Intelligenz, Datenschutzrecht und Legal Tech. Dabei geht er der Frage nach, wie innovative Technologien menschliches Denken, die Gesellschaft und normative Ordnungen verändern und wie das Recht auf disruptive Entwicklungen regulativ reagieren kann.