Evaluation von digitalem Support in ethischen Entscheidungen

Dieses Projekt untersucht in empirischen Studien sowie ethischen und rechtlichen Analysen die Auswirkungen der Automatisierung ethischer Entscheidungsfindung im Sicherheitsbereich.

Ein Kernmerkmal der Digitalisierung ist die zunehmende Delegation von Entscheidungsfunktionen an Software-Systeme. Dies betrifft insbesondere Fälle, in denen menschliche Entscheider unter Zeitdruck und Unsicherheit entscheiden müssen. Solche Entscheidungen sind typisch für den Sicherheitskontext (Militär, Polizei, Schutz und Rettung). Hier ist zu erwarten, dass zunehmend digitale Systeme eingesetzt werden, die den menschlichen Entscheider unterstützen oder ihm gar bestimmte Entscheidungen abnehmen.

Dies stellt ethische Fragen bezüglich der Verantwortlichkeit und Akzeptanz, wenn technische Systeme zunehmend mit autonomen Fähigkeiten ausgestattet werden und in Bedingungen operieren, in denen die Entscheide-Optionen vielfältiger werden, die Entscheide selbst aber kritische ethische Fragen aufwerfen, z.B. die Inkaufnahme von Kollateralschäden.

In diesem Projekt soll untersucht werden, wie man sicherstellen kann, dass digitalisierter Entscheidungs-Support und automatisierte Entscheidungsfunktionen zu einem ethisch akzeptablen Resultat führen, wenn ein menschlicher Entscheider rasch und unter Unsicherheit entscheiden muss. Zu diesem Zweck werden sowohl normative Analysen als auch Experimente durchgeführt.

Im Rahmen des Projekts entstand auch ein Video-Podcast der DSI und des Schweizer Drohnen- und Robotik-Zentrums (SDRZ VBS). Dieser geht der Frage nach, warum die Schweizer Armee dereinst auch Rettungsroboter einsetzen könnte und erläutert die damit zusammenhängenden technischen, ethischen und rechtlichen Fragen.
 

Kernteam

• Prof. Abraham Bernstein (DSI)
• Prof. Thomas Burri (Universität St. Gallen)
• Dr. Markus Christen (DSI)

Finanzierung

armasuisse Wissenschaft+Technologie