Vier Thesen zur neu entbrannten Scoring-Debatte

Seit 2009 enthält das BDSG Regelungen zum Scoring. Thilo Weichert ("Scoring nach der Datenschutz-Novelle 2009 und neue Entwicklungen", Studie des ULD, 2014) und Die Grünen halten diese Regelungen für unzureichend. Die Grünen haben einen Gesetzesvorschlag vorgelegt, der die Regelungen zum Scoring reformieren soll (Gesetzentwurf v. 8.5.2015 für ein Scoringänderungsgesetz, BT-Ds. 18/48/1804864).

These 1: Das geltende Recht verlangt für das Scoring ein "mathematisch-wissenschaftliches Verfahren". Dies ist eine weitsichtige Regelung, die ein Vorbild für die Regulierung von Big Data-Verfahren sein sollte.

§ 28b Nr. 1 BDSG verlangt für das Scoring ein "mathematisch-wissenschaftliches Verfahren" (Kamlah, in Plath (Hrsg), BDSG, § 28b Rz. 21 ff.; Wäßle/Heinemann, CR 2010, 410 ff.). Dies ist eine sinnvolle, weitsichtige Regelung. Ob Kreditvergabe, Versicherungsvertrag oder auch Lieferung auf Rechnung: Beim Scoring werden komplexe Rechenformeln verwendet. In diese Rechenformeln sollten nur Faktoren einfließen, die für den Berechnungszweck erheblich sind. Die Vorgabe eines wissenschaftlich anerkannten Verfahrens ist daher angemessen und sinnvoll.

Wenn komplexe Rechenformeln (Algorithmen) verwendet werden, besteht die Gefahr der unerkannten Diskriminierung oder Manipulation. Die Vorgabe eines mathematisch-wissenschaftlich anerkannten Verfahrens stellt sicher, dass eine Bank, eine Versicherung oder auch ein Online-Händler nicht unter dem Deckmantel der Komplexität Minderheiten gezielt benachteiligen kann.

These 2: Bei Big Data-Algorithmen geht es nicht um Datenschutz, sondern um Verbraucherschutz.

Die Gefahr der Diskriminierung, der Manipulation und der Fremdbestimmung tritt in allen algorithmusgesteuerten Big Data-Verfahren auf. Mit Datenschutz oder informationeller Selbstbestimmung hat dies wenig bis gar nichts zu tun. Es geht nicht darum, was ein Unternehmen über einen Bürger weiß, sondern ausschließlich um den Schutz von Verbrauchern gegen systematische Benachteiligungen - um Verbraucherschutz. So sinnvoll die Vorgabe eines mathematisch-wissenschaftlichen Verfahrens ist, so wenig passt sie in das BDSG. Wenn man somit eine Gesetzesreform verlangen könnte, dann am ehesten die Auslagerung der Scoringregeln in ein Verbraucherschutzgesetz.

__________ Anzeige: __________

These 3: Die Kontrolle der "Neutralität" von Algorithmen ist möglich, notwendig und unausweichlich.

Sowohl Thilo Weichert als auch Die Grünen beklagen, dass die Datenschutzbehörden nicht imstande seien zu kontrollieren, ob Algorithmen mathematisch-wissenschaftlichen Standards entsprechen. Ob diese Einschätzung zutreffend ist, sei einmal dahingestellt. Die Folgerungen, die Weichert und Die Grünen ziehen, überzeugen jedenfalls nicht.

Wenn in den Aufsichtsbehörden Sachverstand fehlt, müssen die Behörden besser ausgestattet werden. Bei immer komplexer werdenden Big Data-Prozessen werden Experten dringend benötigt, die die "Neutralität" der Algorithmen überwachen. Die Big Data-Experten Mayer-Schöneberger und Cukier prognostizieren die Entstehung eines neuen Berufsstandes der "Algorithmiker" als ausgewiesene Kontrolleure der Rechenprozesse ("Rezension: Mayer-Schönberger/Cukier, Big Data", telemedicus.de v. 21.12.2013"). Otto Normalbürger kann weder eine Bilanz lesen noch eine versicherungsmathematische Formel prüfen. Daher gibt es Wirtschaftsprüfer und Aktuare, deren Aufgabe die Prüfung ist. In Zukunft wird es auch "Algorithmiker" geben.

Statt ausgebildeter "Algorithmiker" verlangen Weichert und Die Grünen Einschränkungen und Verbote. Scoringverfahren sollen nur noch nach vorheriger aufsichtsbehördlicher Zulassung verwendet werden dürfen. Der Einsatz von Algorithmen würde zu einem Hürdenmarathon. Die abschreckende Wirkung nimmt man dabei in Kauf: Wenn man Algorithmen schon nicht verbieten kann, so tut man sein Bestes, um deren Einsatz nach Kräften zu erschweren. Dies ist technologiefeindlich, rückwärtsgewandt und vor allem hilflos.

These 4: Die Ausweitung von "Betroffenenrechten" geht an den Bedürfnissen der "Betroffenen" vorbei. Der starre und weltfremde Blick auf Individualrechte weicht der Technik aus, um deren Regulierung es geht.

So hilflos die Vorschläge von Thilo Weichert und Die Grünen zu den Algorithmen sind, so liebevoll ausgearbeitet sind die Vorschläge für die "Betroffenenrechte", die deutlich ausgeweitet werden sollen. Man möchte

• Widerspruchsrechte,
• detaillierte Auskunftsrechte und
• eine Verpflichtung der Unternehmen einführen, die Verbraucher auch ungefragt regelmäßig über Scoringwerte detailliert unterrichten.

Dass nur äußerst wenige Verbraucher von ihren bereits nach geltendem Recht bestehenden Auskunftsrechten Gebrauch machen, irritiert Weichert und Die Grünen wenig. Dabei liegt es auf der Hand zu fragen, ob es wirklich im Sinne der Verbraucher ist, selbst entscheiden zu müssen, ob man Einwände gegen die Scorewerte erheben möchte, die etliche Unternehmen erheben.

"Neutrale", mathematisch-wissenschaftliche und solide kontrollierte Rechenverfahren nützen dem Verbraucherschutz wesentlich mehr als eine Überfrachtung des Verbrauchers mit Informationen. Zugleich ist die Ausgestaltung der Verfahren für den Gesetzgeber eine deutlich anspruchsvollere Aufgabe als die feinzisilierte Ausarbeitung von Auskunfts- und Widerspruchsrechten. Der starre Blick von Thilo Weichert und Die Grünen auf die "Betroffenen" ist letztlich der Versuch, eine komplexe Welt der Algorithmen in übersichtliche Zwei-Personen-Verhältnisse herunterzubrechen. Weltfremd, an den Notwendigkeiten eines wirksamen Verbraucherschutzes vorbei.