Breites Interesse an Regulierung von KI

dsi-strategy-lab

 

Die Ergebnisse des ersten DSI Strategy Lab sind auf grosses Interesse gestossen: mehr als 120 Personen verfolgten die Vorstellung des Positionspapiers «Ein Rechtsrahmen für Künstliche Intelligenz» anlässlich einer Veranstaltung an der Digital Society Initiative der Universität Zürich.

Künstliche Intelligenz (KI) bzw. algorithmische Systeme spielen in zahlreichen gesellschaftlichen Bereichen eine zunehmend wichtige Rolle. So etwa bei der Auswahl von Bewerberinnen, der Entscheidungsfindung von Richtern oder der Zusammenstellung von Medieninhalten. Mit algorithmischen Systemen sind jedoch auch Herausforderungen und Risiken verbunden, denen sich die Rechtsordnung stellen muss.

Diese Herausforderungen thematisierte das erste Strategy Lab der DSI an einer Veranstaltung am Mittwoch 10. November an der DSI in Zürich. Die Veranstaltung wurde zusammen mit dem Center for Information Technology, Society, and Law (ITSL) und der Universität Basel organisiert und durchgeführt. Sie lancierte zugleich das von der Mercator-Stiftung finanzierte Forschungsprojekt «Nachvollziehbare Algorithmen: ein Rechtsrahmen für den Einsatz von Künstlicher Intelligenz», das von Prof. Dr Florent Thouvenin (Universität Zürich, ITSL und DSI) und Prof. Dr. Nadja Braun Binder (Universität Basel) geleitet wird. Rund 80 Personen vor Ort und weitere 50 Personen online verfolgten die Ausführungen der Referentinnen und Referenten aus Wissenschaft, Wirtschaft und Zivilgesellschaft.

Im Zentrum der Debatte standen vieldiskutierte Aspekte von KI wie fehlende Transparenz und Nachvollziehbarkeit von Entscheidungen sowie mögliche Diskriminierung und Manipulation von Personen. Während die EU und der Europarat bereits erste Massnahmen zur rechtlichen Regulierung solcher Schwierigkeiten formuliert haben, steht die Schweiz noch ganz am Anfang dieser Entwicklung.

Um das Bewusstsein der Notwendigkeit einer klugen Regulierung von KI zu fördern, gibt das interdisziplinäre Positionspapier konkrete Empfehlungen. So soll die Schweiz kein neues „KI-Gesetz“ schaffen, sondern durch eine Anpassung und punktuelle Ergänzung des bestehenden Rechts die Herausforderungen von KI angehen. Gefordert werden unter anderem Vorschriften zur Transparenz bei einer Interaktion mit autonomen Systemen und ein allgemeines Anti-Diskriminierungsgesetz. Auch ein Verbot oder Moratoriums für besonders heikle KI-Anwendungen wie automatisierte Gesichtserkennung für Massenüberwachung soll geprüft werden. Eine interdisziplinäre Kommission von Fachleuten soll diese und weitere Vorschläge im Detail ausarbeiten. Erarbeitet wurde das Positionspapier von verschiedenen Wissenschaftlerinnen und Wissenschaftlern aus der Schweiz mit Unterstützung des Strategy Lab der DSI.

An der Universität Zürich laufen zahlreiche Forschungsprojekte rund um die gesellschaftlichen Herausforderungen von KI. Unter anderem wird im Rahmen des von der Stiftung Mercator Schweiz geförderten Projekt des ITSL und der Universität Basel ein Rechtsrahmen für den Einsatz von KI in der Schweiz entwickelt, der aus allgemeingültigen Gesetzesnormen und ausgewählten sektorspezifische Regelungen für die öffentliche Verwaltung und den Bereich der Medien bestehen wird.

Weitere Infos zum DSI Strategy Lab