3 Fragen zu OpenOSR – Projekt der Reihe «DSI Infrastrukturen & Labs»
DSI Infrastrukturen & Labs sind gemeinsam nutzbare Infrastrukturen oder strukturelle Gefässe zur Schaffung kollaborativer Forschungsumgebungen, die sich auf die digitale Transformation beziehen. Prof. Dr. Manuel Günther stellt das Projekt OpenOSR vor.
Was ist das zentrale Ziel von OpenOSR?
Mit OpenOSR wollen wir zum einen darüber aufklären, dass maschinelle Lernmethoden nicht uneingeschränkt in allen Szenarien angewendet werden können. Zum anderen wollen wir Forschenden an der Universität Zürich und darüber hinaus unsere Methoden zur Verfügung stellen, die sie zur Verbesserung der Klassifikation unter Einbezug des Unbekannten auf ihre Problemstellung anwenden können.
Was ist mit «Unbekannten» gemeint und wie erkennt OpenORS diese?
Maschinelle Lernalgorithmen sind meist zur Anwendung auf einen beschränkten Rahmen ausgelegt. Alle Eingaben, die über diesen Rahmen hinaus gehen, sind für das System unbekannt. Um solche unerwartete Eingaben zu erkennen, gibt es generell zwei Möglichkeiten: Für vorhandene Modelle können wir die Verteilung von internen Merkmalen bekannter Klassen berechnen und Abweichungen von diesen Merkmalen als unbekannt deklarieren. Neue Modelle können wir so trainieren, dass die internen Merkmale besser für die Berechnung einer solchen Verteilung geeignet sind.
Welchen Nutzen erwarten Sie langfristig für Forschenden oder Entwickler:innen?
Wir hoffen, dass die Forschendengemeinschaft OpenOSR annimmt und weiterentwickelt, um weitere und bessere Methoden zur Erkennung unerwarteter Eingaben zur Verfügung zu stellen. Durch den strikten Fokus auf Reproduzierbarkeit der Evaluierungen kann schnell festgestellt werden, ob Methoden zielführend sind, und welche der Methoden am besten für die Problemstellungen der Forschenden geeignet sind.
Mehr über OpenOSR erfahren Sie hier.
Alle Projekte der Reihe «DSI Infrastrukturen & Labs» finden Sie hier.
Prof. Dr. Manuel Günther ist seit Juli 2020 DSI Professor und Assistenzprofessor für Künstliche Intelligenz (KI) und Maschinelles Lernen am Institut für Informatik der Universität Zürich. Dort befasst er sich mit Themen rund um das Gebiet des Deep Learning, welches er meist auf Bilder anwendet. Spezielle Projekte befassen sich zum Beispiel mit der Erkennung von Personen anhand von Gesichtsbildern, mit der Entwicklung von Methoden zur Reduktion von Bias in Deep-Learning-Methoden, mit der Erweiterung von erklärbarer KI in der Bildanalyse, mit der Integration von Erkenntnissen der Bildverarbeitung im menschlichen Gehirn in Deep Learning Modelle, sowie mit der Erkennung des Unbekannten.