Artikelaktionen

Sie sind hier: Startseite Newsroom Pressemitteilungen … Europäisches Regelungskonzept …

Europäisches Regelungskonzept für vertrauenswürdige KI in der öffentlichen Verwaltung

Freiburger Forschende wirkten am KI-Modellgesetz des European Law Institute mit, das im April in einem Webinar präsentiert wird

Freiburg, 24.03.2022

Die europäische und globale Rechtsgemeinschaft diskutiert derzeit intensiv, wie die Entwicklung und der Einsatz Künstlicher Intelligenz (KI) angemessen reguliert werden kann. Ziel soll sein, deren Potentiale optimal zu nutzen und zugleich unerwünschte Risiken für Grundrechte und das Gemeinwohl zu vermeiden. Wissenschaftler*innen des European Law Institute (ELI) haben nun ein Modellgesetz entwickelt, das für algorithmische und insbesondere KI-basierte Entscheidungsfindungssysteme, die von der öffentlichen Verwaltung eingesetzt werden, eine umfassende und risikoangepasste Folgenabschätzung vorsieht. Behörden setzen KI beispielsweise ein, um Geldwäsche und Steuerbetrug zu bekämpfen oder öffentliche Dienstleistungen im Bereich der Energie- und Gesundheitsversorgung zu verbessern. Das ELI-Modellgesetz ergänzt für den spezifischen Kontext behördlicher KI-Systeme die derzeit in den EU-Gesetzgebungsgremien debattierten allgemeineren Rechtsvorschriften über die Vermarktung von KI-Technologien im EU-Binnenmarkt. „Das ELI-Modellgesetz ist vom EU-Recht inspiriert und mit dem bestehenden EU-Recht vereinbar, wurde aber so konzipiert, dass es nicht vom EU-Recht abhängig ist, könnte also auch von Staaten außerhalb der EU als Vorlage genutzt werden“, erklärt Prof. Dr. Jens-Peter Schneider vom Institut für Medien- und Informationsrecht der Universität Freiburg.

Leitfaden soll Vertrauen in KI-Technologie stärken

Schneider war einer der drei vom ELI berufenen Berichterstatter, die ein internationales Projektteam leiteten, dem mit Jonathan Dollinger auch ein Freiburger Nachwuchswissenschaftler angehörte. Das ELI vereinigt über 1600 Fellows aus Rechtswissenschaft und Rechtspraxis sowie ca. 110 institutionelle Mitglieder aus ganz Europa und versteht sich als rechtspolitischer Thinktank. „Das ELI-Modellgesetz schlägt vor, KI der öffentlichen Verwaltung auf eine Weise zu regulieren, die Innovationen nicht behindert, aber zugleich solide Garantien bietet, um das Vertrauen der Bürger*innen in die Nutzung der Technologie in diesem Bereich zu stärken“, erklärt der Freiburger Rechtswissenschaftler.

Unterscheidung der Systeme statt Einheitslösung

Technologien wie KI können eine wichtige Rolle spielen, um die öffentliche Verwaltung zu modernisieren und ihre Funktionsweisen zu verbessern. KI-Anwendungen sind abhängig von Daten, weshalb deren Transparenz, Korrektheit und Verlässlichkeit gesichert sein muss. „Vertrauenswürdige KI in der öffentlichen Verwaltung verlangt ein hohes Maß an Zuverlässigkeit der verwendeten Technologien sowie den Schutz der Bürger*innen vor Diskriminierungen und anderen Grundrechtsverletzungen“, schildert Schneider die durch die algorithmische Entscheidungsfindung aufgeworfenen Probleme.

Die zentrale Idee, die dem ELI-Modellgesetz zugrunde liegt, ist eine Folgenabschätzung. Da die Vielfalt der Situationen, in denen die algorithmische Entscheidungsfindung zum Einsatz kommt, eine Einheitslösung ausschließt, wird in den Modellregeln unterschieden zwischen Systemen mit hohem Risiko, die eine Folgenabschätzung erfordern, Systemen mit geringem Risiko, bei denen dies nicht der Fall ist, und Systemen, die nicht ohne Prüfung des konkreten Anwendungskontextes eingestuft werden können. Aus diesem Stufensystem entwickelten die Forschenden für das ELI 16 Artikel, die das Folgenabschätzungsverfahren ausgestalten und zusätzliche Schutzmaßnahmen für Systeme mit hohem Risiko vorsehen. „Für Hochrisikosysteme ist zum Beispiel – anders als in den derzeit auf EU-Ebene diskutierten Regelungsvorschlägen – die Überprüfung der behördlichen Folgenabschätzung durch unabhängige Sachverständige sowie eine Öffentlichkeitsbeteiligung vorgesehen“, sagt Schneider. Außerdem reagiert das Modellgesetz auf die besonders dynamischen Risiken maschinellen Lernens durch anlassgebundene sowie periodisch wiederholte Folgenabschätzungen.

Webinar zum ELI-Modelgesetz am 13. April 2022

Weitere Informationen über das Projekt und den vollständigen Bericht in englischer Sprache finden sich hier. Das ELI veranstaltet zudem ein öffentliches und kostenloses Webinar: Dieses findet unter Beteiligung der beiden Freiburger Rechtswissenschaftler am 13. April 2022 von 12:00-13:30 Uhr statt. Die Anmeldung ist hier möglich.


Kontakt:
Prof. Dr. Jens-Peter Schneider
Institut für Medien- und Informationsrecht
Albert-Ludwigs-Universität Freiburg
Tel.: 0761/203-97730
jp.schneider@jura.uni-freiburg.de

Annette Kollefrath-Persch
Hochschul- und Wissenschaftskommunikation
Albert-Ludwigs-Universität Freiburg
Tel.: 0761/203 - 8909