XAIFace

CHIST-ERA XAIface - Measuring and Improving Explainability for AI-based Face Recognition

Gesichtserkennung kann zunehmend als eine Schlüsseltechnologie in unserer Gesellschaft betrachtet werden, die in verschiedenster Weise Anwendung findet und durch diese gleichzeitig auch erhebliche Auswirkungen auf die Privatsphäre miteinhergehen können. Da Gesichtserkennungslösungen, die auf maschinellem Lernen basieren, immer häufiger verwendet werden, ist es entscheidend, die Funktionsweise dieser Technologie vollständig zu verstehen und zu erklären.

In diesem Projekt konzentrieren sich die technischen Partner auf die konkreten Anwendungsfälle von Gesichtserkennung, die auf künstlicher Intelligenz basieren und gleichzeitig auf die Analyse der für die endgültige Entscheidung relevanten Einflussfaktoren. Dies soll als wesentlicher Schritt zum Verständnis und zur Verbesserung der zugrunde liegenden Prozesse beitragen. Der im Projekt verfolgte wissenschaftliche Ansatz ist so konzipiert, dass er auch andere Anwendungsfälle wie Objekterkennung und Mustererkennungsaufgaben in einer breiteren Palette von Anwendungen bewältigen kann.

Aus juristischer Sicht ergeben sich im Zusammenhang mit dem geplanten Projektvorhaben zahlreiche noch offene Rechtsfragen, die im Rahmen dieses Projekt von der Arbeitsgruppe Rechtsinformatik beantwortet werden sollen. Dabei werden insbesondere die datenschutzrechtlichen Implikationen, aber auch die aktuellen europäischen Entwicklungen (Gesetz über Künstliche Intelligenz) berücksichtigt werden müssen, um den Rechtsrahmen adäquat abbilden zu können.

https://xaiface.eurecom.fr/