General Information
The complexity that comes with Artificial Intelligence (AI) poses great challenges to companies as well as citizens. While using and developing AI-systems often isn’t a problem anymore, the problem of effectively protecting people’s privacy remains largely unsolved because it often opposes performance.
The project Privacy E2E aims at developing a framework that works data efficiently and only processes necessary information to both keep perfomance high and protect the end users’s privacy to the highest possible degree.
Full Description (in German)
Die mit künstlicher Intelligenz (KI) verbundene Komplexität stellt Unternehmen und Bürger/innen vor große Herausforderungen. Während die Verwendung und Entwicklung von KI-Systemen oft kein großes Problem mehr darstellt, ist die effektive Wahrung der Privatsphäre weitgehend ungelöst, da diese oft im Gegensatz zur Performanz des KI-Systems steht. Statt einen angemessenen Mittelweg zu finden, vermeiden Unternehmen meist komplexe Implementierungen basierend auf aufwändige Abwägung zwischen diesen gegensätzlichen Zielen und lösen sie juristisch durch umfassende Geschäftsbedingungen. Dabei räumen Bürger/innen den Unternehmen umfassende Rechte zur Verarbeitung ihrer personenbezogenen Daten ein, obwohl dies technisch häufig nicht notwendig ist.
Um die Privatsphäre von Bürgern/Bürgerinnen zu erhöhen und Unternehmen bei der Erstellung datensparsamer KI-Systeme zu unterstützen, schlagen wir das auf dem Privacy-by-Design-Prinzip beruhende Framework PrivacyE2E zur Erstellung von KI-Systemen vor. Unternehmen werden durch ein auf domänenspezifischen Bausteinen basierendes Anforderungsmanagement dabei unterstützt, die für ihr KI-System aus Privatsphärensicht relevanten Daten zu identifizieren und angemessene privatsphäreerhöhende Maßnahmen zu realisieren. Basierend auf erstellten Anforderungen kann ein KI-System entwickelt werden, welches danach kontinuierlich optimiert wird, um möglichst datensparsam zu sein, ohne den Mehrwert des Systems für das Unternehmen zu opfern.
PrivacyE2E eröffnet ein Spektrum zwischen den gegensätzlichen Extremen maximale Performance ohne Privatsphäre sowie absoluter Datensparsamkeit mit äußerst schlechter Performanz. Die Modellierung von Privatsphäreanforderungen und die automatisierte Konfiguration KI-Systemen erlaubt eine deutlich feinere Optimierung in diesem neu eröffneten Spektrum. Der aktuelle Zwiespalt zwischen gegensätzlichen Zielen wird reduziert oder aufgehoben. Schlussendlich unterstützt PrivacyE2E die Generierung eines Gütesiegels, das dem/r Bürger/in bei der Identifikation von datensparsamen KI-Systemen hilft und dem Unternehmen, das dieses System betreibt, einen Wettbewerbsvorteil bietet.
Participants
Privacy E2E is a research project of three collaborating parties:
- University of Koblenz, PI: Prof. Dr. Jan Jürjens, Department of Computer Science
- Ruhr University Bochum, PI: Prof. Dr. Thorsten Berger, Faculty of Computer Science
- ai.dopt GmbH, PI: Martina Schuster LL.M.
Project Activities
- Project meeting on August 26, 2024.
- Publication: 120 Domain-Specific Languages for Security by Markus Krausz, Sven Peldszus, Francesco Regazzoni, Thorsten Berger, Tim Güneysu.
The project Privacy E2E is funded by the German Federal Ministry of Education and Research (BMBF).
