Wie trifft Künstliche Intelligenz Entscheidungen? Hohe Fördersumme für fachübergreifende Forschung

Viele Computersysteme arbeiten heute mit Rechenverfahren der Künstlichen Intelligenz. Doch wie fällen diese ihre Entscheidungen? Und wie lässt sich ihr Verhalten erklären, damit wir ihnen vertrauen können? Mit solchen Fragen befassen sich jetzt Forscherinnen und Forscher der Informatik, Philosophie, Psychologie und Rechtswissenschaft im Projekt „Explainable Intelligent Systems (EIS)“. Die Volkswagen-Stiftung fördert das Forschungsprojekt der Universität des Saarlandes und TU Dortmund mit rund 1,5 Millionen Euro über drei Jahre.

 

15. Dezember 2020


Das interdisziplinäre Team setzt sich aus verschiedenen Blickwinkeln mit der Frage auseinander, inwieweit künstlich intelligente Systeme und ihr Verhalten erklärbar sein sollten. „Nur wenn wir verstehen, warum solche Systeme bestimmte Entscheidungen treffen, können wir ihnen vertrauen und nachvollziehen, ob sie unseren gesellschaftlichen, moralischen und rechtlichen Werten entsprechen“, sagt Philosophie-Juniorprofessorin Lena Kästner von der Universität des Saarlandes, die die Gesamtleitung des Projekts innehat. Die Ergebnisse sollen richtungsweisend sein für die zukünftige Forschung und die Politikgestaltung im Bereich der Künstlichen Intelligenz.

Prof. Holger Hermanns: „Damit wir KI-Systemen vertrauen können, entsteht der Anspruch, dass ihre Entscheidungen in verschiedenen Dimensionen nachvollziehbar und belastbar sind“
 
So genannte KI-Systeme sind längst Bestandteil unseres Alltags. Dabei handelt es sich um Maschinen oder Software, die Menschen beim Treffen von Entscheidungen unterstützen oder sie ihnen ganz abnehmen. „Die Tragweite der Entscheidungen, die durch künstlich intelligente Systeme getroffen werden, variiert stark“, erklärt Informatik-Professor Holger Hermanns. Schlagen manche dieser Systeme nur auf Grundlage der bisherigen Vorlieben eines Nutzers Musik oder Serien vor, entscheiden andere, wer ein Darlehen bekommt, mit wem eine freie Stelle besetzt wird oder welchen Weg ein selbstfahrendes Auto einschlägt. „Damit wir KI-Systemen vertrauen können, entsteht spätestens hier der Anspruch, dass ihre Entscheidungen in verschiedenen Dimensionen nachvollziehbar und belastbar sind“, so Hermanns weiter. Bereits seit 2014 setzen sich die Forscherinnen und Forscher an der Universität des Saarlandes mit den ethischen Aspekten der Digitalisierung auseinander. Gemeinsam mit dem Informatiker und Philosophen Kevin Baum und der Philosophin Sarah Sterz entwickelte Holger Hermanns die Vorlesung „Ethics for Nerds“. Sie wurde 2016 erstmalig angeboten und durch den Stifterverband für die Deutsche Wissenschaft mit der „Hochschulperle des Jahres 2019“ ausgezeichnet.

Großer interdisziplinärer Forschungsbedarf
 
„Aus dieser Vorlesung hat sich die Idee für ein Projekt entwickelt, bei der die Grenzen gleich mehrerer Fachbereiche überschritten werden“, sagt Kevin Baum, der über die Ethik kollektiven Handelns und über Maschinenethik promoviert. „Im Rahmen der Vorlesung stellten wir schnell fest, dass Erklärbarkeit und Nachvollziehbarkeit zwar für eine ganze Reihe gesellschaftlicher Ansprüche an Künstliche Intelligenz wichtig erscheinen“, erklärt Baum. „Aber inwiefern und wieso besteht dieser Zusammenhang zwischen Verständlichkeit und gesellschaftlichen Ansprüchen tatsächlich? Und können die Methoden, die das Feld der erklärbaren Künstlichen Intelligenz hervorbringt, dieser Rolle überhaupt gerecht werden? Falls nicht, was folgt daraus? Wir sagen: Hier besteht großer Forschungsbedarf, der Expertise aus verschiedensten Fachrichtungen voraussetzt.“ Aus dieser Einsicht entstand ein interdisziplinäres Projekt, das weitere hochdotierte Forschungsvorhaben an der Universität des Saarlandes ergänzt, in denen ebenfalls zu verständlicher und vertrauenswürdiger Software geforscht wird: Seit Februar 2019 wird „Explainable Intelligent Systems“ mit einem „Planning Grant“ der Volkswagen-Stiftung unterstützt – dieser wurde nun in einen mit rund 1,5 Millionen Euro dotierten „Full Grant“ überführt. Beteiligt sind hier von der Universität des Saarlandes Junior-Professorin Lena Kästner und Professorin Ulla Wessels aus der Fachrichtung Philosophie, Professor Georg Borges vom Institut für Rechtsinformatik, der promovierte Psychologe Markus Langer und Informatik-Professor Holger Hermanns. Von der TU Dortmund ist Juniorprofessorin Eva Schmidt von der Fachrichtung Philosophie und Politikwissenschaft beteiligt.

Internationale Kooperationen
 
Darüber hinaus finden im Rahmen des Projekts zahlreiche internationale Kooperationen statt. So haben die Saarbrücker Forscherinnen und Forscher bereits im vergangenen Herbst eine große wissenschaftliche Tagung mit öffentlicher Podiumsdiskussion im Rathaus Saarbrücken St. Johann organisiert. Gemeinsam mit Partnern aus Cambridge, Delft und Stanford wird nun eine ganze Reihe solcher Veranstaltungen organisiert. Auch lokal und national vernetzen sich die Forscherinnen und Forscher des Projekts. Auf Seiten der Informatik etwa arbeiten sie eng mit dem transregionalen Sonderforschungsbereich „Grundlagen verständlicher Softwaresysteme (CPEC)“ zusammen, der in Zusammenarbeit mit der TU Dresden läuft und dessen Sprecher ebenfalls Informatik-Professor Holger Hermanns ist.

Innovativer und zukunftsweisender Forschungsverbund

„Künstliche Intelligenz betrifft inzwischen viele Bereiche unseres täglichen Lebens und geht weit über rein technische Anwendungen der Informatik hinaus. Mit dem Einsatz von KI sind häufig komplexe Fragen verbunden, die nur interdisziplinär und in enger Kooperation verschiedener Wissenschaftsdisziplinen beantwortet werden können. Genau hier setzt dieser innovative und zukunftsweisende Forschungsverbund an. Ich bin davon überzeugt, dass der fächerübergreifende Campus der Universität des Saarlandes den am Projekt beteiligten Wissenschaftlerinnen und Wissenschaftlern ideale Voraussetzungen hierfür bietet", ergänzt Universitätspräsident Manfred Schmitt.
 
Fragen beantworten:

 
Juniorprof. Dr. Lena Kästner
Philosophisches Institut
Tel. 0681 302 2841
lena.kaestner@uni-saarland.de
 
Prof. Dr. Holger Hermanns
Dependable Systems and Software
Tel. 0681 302 5630
Email: hermanns@cs.uni-saarland.de

Kevin Baum
Tel. 0681 302-2351
Kevin.baum@uni-saarland.de
 
Weitere Informationen:

explainable-intelligent.systems
 
Pressemitteilung der Volkswagenstiftung: idw-online.de/de/news760051
 
Hintergrund Saarland Informatics Campus:


800 Wissenschaftlerinnen und Wissenschaftler und rund 2000 Studierende aus mehr als 80 Nationen machen den Saarland Informatics Campus (SIC) zu einem der führenden Standorte für Informatik in Deutschland und Europa. Fünf weltweit angesehene Forschungsinstitute, nämlich das Deutsche Forschungszentrum für Künstliche Intelligenz (DFKI), das Max-Planck-Institut für Informatik, das Max-Planck-Institut für Softwaresysteme, das Zentrum für Bioinformatik und das Cluster für „Multimodal Computing and Interaction“ sowie die Universität des Saarlandes mit drei vernetzten Fachbereichen und 21 Studiengänge decken das gesamte Themenspektrum der Informatik ab.

Die Öffentlichkeitsarbeit am Saarland Informatics Campus wird unterstützt durch das Kompetenzzentrum Informatik Saarland, gefördert aus Mitteln des Europäischen Fonds für regionale Entwicklung (EFRE) und Mitteln der Staatskanzlei Saarland.