Evaluation von digitalem Support in ethischen Entscheidungen

Ein Kernmerkmal der Digitalisierung ist die zunehmende Delegation von Entscheidungsfunktionen an Software-Systeme. Dies betrifft insbesondere Fälle, in denen menschliche Entscheider unter Zeitdruck und Unsicherheit entscheiden müssen. Solche Entscheidungen sind typisch für den Sicherheitskontext (Militär, Polizei, Schutz und Rettung). Hier ist zu erwarten, dass zunehmend digitale Systeme eingesetzt werden, die den menschlichen Entscheider unterstützen oder ihm gar bestimmte Entscheidungen abnehmen.

Dies stellt ethische Fragen bezüglich der Verantwortlichkeit und Akzeptanz, wenn technische Systeme zunehmend mit autonomen Fähigkeiten ausgestattet werden und in Bedingungen operieren, in denen die Entscheidoptionen vielfältiger werden, die Entscheide selbst aber kritische ethische Fragen stellen, z.B. die Inkaufnahme von Kollateralschäden.

In diesem Projekt soll untersucht werden, wie man sicherstellen kann, dass digitalisierter Entscheidungs-Support und automatisierte Entscheidungsfunktionen zu einem ethisch akzeptablen Resultat führen, wenn ein menschlicher Entscheider rasch und unter Unsicherheit entscheiden muss. Zu diesem Zweck werden sowohl normative Analysen als auch Experimente durchgeführt. Das Projekt soll zu einem System führen, das als Demonstrator die systematische experimentelle Untersuchung dieser Fragestellung ermöglicht und Daten generiert, die für das Training künftig möglicher Entscheidungs(support)systeme genutzt werden können. 
 

Beteiligte Forscher und Partner

  • Prof. Abraham Bernstein, DSI & Institut für Informatik der Universität Zürich
  • PD Dr. Markus Christen, DSI & Institut für biomedizinische Ethik & Medizingeschichte der Universität Zürich
  • Dr. Markus Kneer, Ethikzentrum der Universität Zürich
  • MSc Suzanne Tolmeijer, Institut für Informatik der Universität Zürich

Finanzierung

Das Projekt läuft seit 2017 und wird von einem Forschungsbeitrag von armasuisse Wissenschaft+Technologie unterstützt.

Kontakt

Markus Christen