Die Maschinen entscheiden bereits mit: Sind EU-Staaten angemessen vorbereitet?

Gütersloh, 29.01.2019. Der Einsatz automatisierter Entscheidungen (automated decisionmaking, ADM) und Künstlicher Intelligenz nimmt Fahrt auf: In Finnland werden private E-Mails von Jobsuchenden analysiert, um Persönlichkeitsprofile zu erstellen, in Italien helfen Maschinen zu entscheiden, wer eine medizinische Behandlung erhält, in Dänemark sollen automatisierte Systeme dabei helfen, vernachlässigte Kinder zu identifizieren.

Für politische Entscheidungsträger ist es derzeit kaum möglich, zu überblicken, wo welche Systeme zu welchen Zwecken eingesetzt werden. Auf EU-Ebene und in einigen Mitgliedstaaten wird daher meist theoretisch über Kriterien diskutiert, nach denen derartige Systeme beurteilt werden sollten, etwa durch ethische Leitlinien. Das ist durchaus zu begrüßen, allerdings helfen praktische Beispiele dabei, die Grundlagen für konkretere, aber auch realistischere Ansätze zu schaffen. Der Report liefert mehr als 60 konkrete Beispiele aus 12 Ländern, zudem eine Übersicht der relevanten Akteure und der politischen Debatte.

Die untersuchten Länder begegnen den Herausforderungen Künstlicher Intelligenz und automatisierter Entscheidungsfindung sehr unterschiedlich. Drei Beispiele:

Finanzielle Förderung

Während in Spanien (Bruttosozialprodukt BSP 1.437 Mrd. USD) die Regierung über das Programm Activa Industria 4.0 gerade einmal vier Millionen Euro für 400 Unter-nehmen zur Verfügung stellt, um „die digitale Transformation voran zu treiben und besser zu verstehen, wie Big Data, Robotik, Sensorik“ und viele weitere Entwicklungen angewendet werden können, fördert in Schweden (BSP 276 Mrd. USD) eine einzige private Stiftung über das „Wallenberg Autonomous Systems and Software Program“ zwei Universitäten mit 100 Mio. Euro, um maschinelles Lernen und KI zu erforschen.

Regierungs- und Expertenkommissionen

In Deutschland und Großbritannien widmen sich parallel Parlaments- und Regierungskommissionen, Datenschützer, Plattformen, Interessenvereinigungen und zivilgesellschaftlichen Organisationen dem Thema automatisierter Entscheidungen. In Ländern wie Polen, Slowenien oder Italien werden zwar entsprechende Systeme in der Praxis verwendet, eine politische Diskussion darüber findet dagegen kaum statt.

Gesetzliche Regulierung und Aufsicht

In Frankreich sieht ein Gesetz vor, dass Algorithmen offengelegt werden müssen, aber niemand hält sich daran. In Finnland haben ein Ombudsmann und ein Tribunal entschieden, dass eine Bonitätsprüfungsfirma einen Mann diskriminiert hat und ihr unter Androhung eines Bußgelds von 100.000 Euro untersagt, das System weiter einzusetzen.

Der Report macht nicht nur deutlich, wie verbreitet ADM-Systeme bereits sind, sondern auch, wie unterschiedlich und ungesteuert der Umgang mit ihnen ist. Politik und Zivilgesellschaft sollten die Ergebnisse nutzen, um Vergleiche zwischen Ländern zu ziehen und die Herangehensweise im eigenen Land auf den Prüfstand zu stellen.

„Diskussionen über ‚Künstliche Super-Intelligenz, die Menschen unterjocht’, sind derzeit en Vogue, aber irrelevant“, beschreibt Matthias Spielkamp, Geschäftsführer von Algorithm-Watch und Herausgeber des Reports. „Entscheidend ist, zu verstehen, welche Herausforderungen Entwicklungen wie ‚predictive analytics’ mit sich bringen, die menschliches Handeln vorhersagen – sei es bei Wahlen, Kriminalität oder der Kindererziehung. Diesen Herausforderungen müssen wir durch angemessen Regulierung, Prüfverfahren und Aufsichtsbehörden gewachsen sein.“

Ralph Müller-Eiselt, Direktor des Programms Megatrends der Bertelsmann Stiftung, mahnt mit Bezug auf die Empfehlungen des Reports, „die Lücken zwischen den Mitgliedsstaaten der EU zu schließen – Europa muss mit einer Stimme sprechen, wenn es darum geht, Standards für automatisierte Entscheidungsfindung zu setzen.“ Er sieht einen besonderen Schwerpunkt darin, die öffentliche Verwaltung für den Umgang mit derartigen Systemen zu befähigen: „Die Verwaltungen müssen lernen, diese Technologien zum Wohl der Gesellschaft zu nutzen.“