Dr.-Ing. Benedikt Lorch

Titel des Promotionsprojektes: Reliable Machine Learning Methods in Image Forensics

Fachmentorat: Christian Riess, Hany Farid, Hans Kudlich

Zeitraum der Mitgliedschaft im Kolleg: 01.10.2019–30.09.2022

Finanzierung (Art, Zeitraum): DFG, 01.10.2019–30.09.2022

Beginn und Zeitpunkt der Promotion: 01.09.2018–15.2.2023

Darstellung des Promotionsprojekts und der erzielten Forschungsergebnisse

Bei strafrechtlichen Ermittlungen kommen häufig Bilder vor, die wichtige Hinweise liefern und vor Gericht als Beweismittel dienen können. Um die Authentizität eines Bildes zu überprüfen und dessen Quelle zu identifizieren, wurde bisher ein breites Spektrum an forensischen Werkzeugen fur Bilder entwickelt. Seit einigen Jahren basieren die leistungsfähigsten dieser Werkzeuge auf maschinellem Lernen. Allerdings werfen Bedenken hinsichtlich der Zuverlässigkeit, der Sicherheit und der Undurchsichtigkeit von maschinellem Lernen die Frage auf, ob solche Werkzeuge bei strafrechtlichen Ermittlungen eingesetzt werden konnen.

Im Verlauf meiner Arbeit habe ich drei Aspekte der praktischen Anwendbarkeit von maschinellem Lernen in der Bildforensik untersucht, zwei davon aus technischer und einer aus rechtlicher Perspektive. Aus technischer Perspektive ist eine der größten Herausforderungen bei der Verwendung von maschinellen Lernmethoden ihre Fehleranfälligkeit, wenn die Testdaten von den Trainingsdaten abweichen. Das Problem ist besonders relevant in der Forensik, da die zu analysierenden Bilder meistens aus unbekannter Herkunft stammen, zum Beispiel aus dem Internet. Bei unbekannten Eingaben versagen maschinelle Lernmethoden oftmals stillschweigend. Als Lösungsansatz haben wir uns Bayesische maschinelle Lernverfahren anhand von drei beliebten forensischen Anwendungen angeschaut. Im Gegensatz zu klassischen maschinellen Lernmethoden geben diese Methoden, zusätzlich zur Vorhersage, eine Vorhersageunsicherheit mit aus. Mithilfe dieses Unsicherheitsmaßes kann ein forensischer Analyst abschätzen, inwieweit man der Vorhersage vertrauen kann.

Ein zweites Problem aus technischer Sicht ist die Anfälligkeit von maschinellem Lernen gegenüber Angriffen. Das Ziel der Manipulation von Bildern ist den Betrachter zu täuschen. Aber es besteht auch die Sorge, dass ein versierter Fälscher noch einen Schritt weitergeht und nicht nur versucht, den Betrachter zu täuschen, sondern auch die Werkzeuge eines forensischen Analysten. Zu diesem Thema haben wir uns die Widerstandsfähigkeit einer kürzlich vorgeschlagenen Verteidigung angeschaut und dabei drei subtile Fallstricke identifiziert, welche die Widerstandsfähigkeit untergraben. Darauf basierend haben wir eine verbesserte Variante dieser Verteidigung mit hoherer Widerstandsfähigkeit gegen Angriffe vorgeschlagen.

Aus rechtlicher Sicht ist bis vor kurzem unklar gewesen, ob maschinelle Lernmethoden bei Strafermittlungen eingesetzt werden konnen. Um diese Lücke zu schließen, hat die Europäische Kommission im April 2019 einen Entwurf für das KI Gesetz vorgestellt. Laut dem Gesetzesentwurf dürfen maschinelle Lernmethoden eingesetzt werden, müssen aber verbindliche Anforderungen erfüllen. Wir haben uns diese Anforderungen angeschaut und ihre Übereinstimmung mit jüngsten Forschungsarbeiten anhand von zwei Beispielen diskutiert, nämlich der Erkennung von KFZ Kennzeichen und der Erkennung von Deep Fakes. Die Diskussion zeigt die wichtigsten Herausforderungen und die Richtungen auf für künftige Forschungsarbeiten zur Erfüllung der Anforderungen aus dem KI Gesetz.

Mit meiner Dissertation hoffe ich, die praktische Anwendbarkeit von maschinellen Lernmethoden in der Bildforensik aus mehreren Perspektiven beleuchtet und das Forschungsfeld einen kleinen Schritt vorangebracht zu haben. Nichtsdestotrotz bleiben noch viele offene Herausforderungen. Unsere Methoden haben vielversprechende Ergebnisse geliefert, aber bei oft relativ eng gesteckten Problemstellungen. Ein naheliegender nachster Schritt wäre jetzt, die Methoden auf breitere Problemstellungen anzuwenden.

Bei meinem Promotionsprojekt konnte ich mit zwei anderen geförderten WissenschaftlerInnen aus dem GRK zusammengearbeiten. Bei der Analyse der rechtlichen Aspekte zur Verwendung von maschinellem Lernen in der Strafverfolgung habe ich mit Nicole Scheler zusammengearbeitet, die mich mit ihrem juristischen Hintergrund bei der Recherche zu den rechtlichen Rahmenbedingungen und der Interpretation des KI Gesetzes tatkraftig unterstützt hat. Aus der Zusammenarbeit ist auch ein Konferenzbeitrag entstanden. Zum anderen konnte ich Janine Schneider bei der Analyse ihrer Messdaten zur Manipulation von digitalen Spuren unterstützen. Janine hatte sich mit der Frage beschäftigt, wie leicht man digitale Spuren fälschen und damit einen forensischen Analysten täuschen kann. Hier haben wir auch einige Parallelen zu anti-forensischen Methoden in der Bildforensik identifiziert. Letztendlich ist aus ihrer Arbeit auch eine gemeinsame Publikation entstanden.

Publikationen