Justizminister Maas fordert behördliche Kontrolle von Algorithmen

Bundesjustizminister Heiko Maas (SPD) drängt auf eine behördliche Kontrolle von Algorithmen sowie mehr Transparenz seitens der Internetkonzerne. In einer Grundsatzrede zur Rechts- und Werteordnung in der digitalen Welt sprach er sich in Anlehnung an das seit zehn Jahren in der analogen Welt geltende Allgemeine Gleichbehandlungsgesetz (AGG) für ein digitales AGG aus, „gegen digitale Diskriminierung und für vorurteilsfreies Programmieren“.

„Nicht nur Menschen, auch Maschinen können diskriminieren“, sagte Maas am Montag auf einer Veranstaltung seines Ministeriums in Berlin. „Algorithmen sind nur so gut, wie diejenigen, die sie programmiert haben und die Datenbasis, mit der sie gelernt haben.“ Deshalb werde ein rechtlicher Ordnungsrahmen benötigt, der den Einsatz von diskriminierenden Algorithmen verhindere, zugleich aber viel Raum für Innovationen biete.

Für problematisch hält Maas die Auswahl bestimmter Personengruppen allein aufgrund der von ihnen – bewusst oder unbewusst – im Internet hinterlassenen Daten. Durch den Einsatz sozialer und wirtschaftlicher Scoring-Verfahren könne schnell eine „gefährliche Gleichung“ entstehen, nach der positive Daten Vorteile und Teilhabe bedeuten, während negative Daten Nachteile und Ausgrenzung zur Folge haben. „Schon heute beeinflussen Algorithmen viele Entscheidungen – sowohl im Geschäftsleben als auch politisch und sozial“, erläuterte Maas. Flugticket-Preise, die Kreditwürdigkeit eines Verbrauchers oder der Zugang eines Kunden zu bestimmten Versicherungstarifen werde immer öfter individuell von Algorithmen bestimmt.

Als „besonders schwierig“ schätzt Maas digitale Bewertungsverfahren ein, die nicht nur kommerzielle, sondern soziale oder politische Ziele verfolgen. Beispiele dafür gebe es in den USA und in China. In den Vereinigten Staaten würden Bewerbungen durch Algorithmen vorsortiert, und die Justiz lasse mancherorts sogar Rückfallwahrscheinlichkeiten von Straftätern von Algorithmen prognostizieren. In bestimmten Regionen Chinas würden für jeden Bürger rund 5000 verschiedene Behördendaten zusammengeführt, um seine „soziale Zuverlässigkeit“ zu errechnen, und je nach Ergebnis Privilegien gewährt oder Sanktionen verhängt.

„Wenn Daten, die aus unserem Verhalten gewonnen werden, so weitreichende Schlussfolgerungen erlauben, wäre es sicherlich sinnvoll, Licht in dieses digitale Dunkel bringen“, so Maas. „Deshalb brauchen wir mehr Transparenz von Algorithmen. Wir brauchen auch eine Rechtsdurchsetzung, Aufsicht und die Kontrolle von Transparenz.“ Dies könne eine von der nächsten Bundesregierung zu gründende „Digital-Agentur“ übernehmen. Ihr Ziel sei es, im Austausch mit Wissenschaft, Wirtschaft und Verbrauchern mehr Expertise über Algorithmen, das Internet der Dinge und das Leben in der digitalen Welt zu erlangen.

Die Forderungen des Justizministers nach einer behördlichen Kontrolle von Algorithmen und mehr Transparenz sorgen bereits für ähnlich hitzige Diskussionen wie das vergangene Woche im Bundestag verabschiedete Netzwerkdurchsetzungsgesetz (NetzDG). Der Verband der Internetwirtschaft eco hält ein Gesetz zur Algorithmenkontrolle für „überflüssig und innovationsfeindlich“. „Algorithmen sind per se ohnehin erstmal diskriminierungsfrei und entfalten erst im Kontext des jeweiligen Geschäftsmodells, in dem sie eingesetzt werden, evaluierende Funktionen. Eine gesetzliche Verpflichtung zur Offenlegung der zugrundeliegenden Algorithmen käme einer Verpflichtung zur Veröffentlichung von Geschäftsgeheimnissen gleich und würde jeden Wettbewerbsvorteil vernichten“, sagte Oliver Süme, eco-Vorstand für Politik und Recht. Der Digitalverband Bitkom übte ebenfalls scharfe Kritik: „Deutschland geht so erneut einen Sonderweg und schneidet sich von digitalen Entwicklungen ab. Pixellandschaften in Online-Landkarten, Löschorgien in sozialen Netzwerken und jetzt Bremsklötze für technologische Innovationen – das ist das Gegenteil dessen, was Deutschland braucht, um zu einem weltweit führenden Digitalstandort zu werden“, erklärte Bitkom-Hauptgeschäftsführer Bernhard Rohleder.

Verbraucherschützer loben Maas‘ Vorstoß hingegen. „Eine vertiefte Auseinandersetzung mit Algorithmen und auch die Möglichkeit, die Wirkung von Algorithmen für eine unabhängige Institution nachvollziehbar und damit kontrollierbar zu machen, begrüßen wir sehr“, sagte Klaus Müller, Vorstand des Verbraucherzentrale Bundesverbands (VZBV), dem Handelsblatt. Eine Überprüfbarkeit von Algorithmen sei unabdingbar.

Wie die Diskussion zeigt, gehen die Meinungen zu dem von Maas vorgeschlagenen „Algorithmen-Gesetz“ weit auseinander. Wir bei Cliqz sehen das grundlegende Problem weniger in den Algorithmen selbst, sondern vielmehr darin, dass häufig persönliche Daten aus verschiedensten Quellen zusammengeführt werden, um Personen zu bewerten. Daher sollte der Datenschutzaspekt im Mittelpunkt der Diskussion stehen. Wenn von vornherein keine persönlichen Daten erfasst würden, könnte auf ihrer Basis auch keine ethisch fragwürdige Auswertung erfolgen.