Offenlegung von Algorithmen

Bundeskanzlerin Angela Merkel fordert mal wieder was vom Neuland:

Ich persönlich bin auch der Meinung, dass Algorithmen transparenter sein müssen, sodass interessierten Bürgern auch bewusst ist, was eigentlich mit ihrem Medienverhalten und dem anderer passiert

Einheimische Internetunternehmen und Ausländische sowieso werden sich hüten ihr Allerheiligstes freiwillig offen zu legen, sind die sich ständig ändernden Algorithmen doch Grundlage des Geschäfts, mithin also Betriebsgeheimnis.

Wie so oft geht ihre Forerung mal wieder ziemlich am eigentlichen Problem vorbei. Es geht immer gegen die Internetgiganten, aber vor der eigenen Haustür wird nicht gekehrt. Wesentlich relevanter, weil direkt spürbar mit konkreten Folgen in der realen Welt für uns alle, sind die Ergebnisse der geheimen Bewertungsalgorithmen von Unternehmen wie der Schufa und deren Verwandten. Der einem zugeteilte Scorewert entscheidet darüber, ob man auf Rechnung oder nur gegen Vorkasse beliefert wird, ob man einen Bankkredit oder eine Wohnung erhält. Bevor man also von Anderen in einem in der Relation eher unwichtigen Bereich Transparenz fordert, sollte man diese zuerst hier nicht nur fordern, sondern auch herstellen. Aber dafür müsste man sich mit einer heimischen Branche anlegen, was offenbar seit Jahren nicht gewollt ist. Im Nationalen üben und Präzedenzfälle schaffen und dann auf’s internationale Tablett bringen wäre die richtige Vorgehensweise.

Nebenbeibemerkt scheint mir das Einprügeln auf Algorithmen sich seit diesem Jahr zur neuen Mode zu entwickeln. Auch auf dem 3. Netzkongress der Grünen gab es Einiges dazu. So versuchte sich Matthias Spielkamp von Algorithmwatch in seinem Vortrag „Transparenz, Neutrlität und Kontrolle von Algorithmen“ an diesem Thema. Seiner Auffassung nach könne die Beurteilung von Algorithmen informationstechnisch, juristisch und journalistisch erfolgen und da er Journalist sei, präferiere er die journalistische Methode. Für mich klang das dann eher nach „ich habe keinen blassen Schimmer wie Algorithmen funktionieren, aber ich will was dazu sagen“. Übrigens gilt meines Erachtens für die Diskussionen um Computeralgorithmen, daß ihre reine Existenz keine neuen prinzipiellen Probleme schafft, sondern nur bestehende Lücken und Widersprüche im gesellschaftlichen/juristischen System aufzeigen. Algorithmen sind keine eigenständigen Lebewesen, sondern formalisierte Entscheidungsprozesse, Verfahrensabläufe und daher nicht an Computer gebunden, auch wenn fast nur in diesem Zusammenhang der Begriff Algorithmus verwendet wird. So folgt bspw. seit Jahrhunderten jeder Dienstweg, jede Entscheidungsfindung in einer Behörde einer strengen Vorgabe. Algorithmus ist nur ein anderes Wort für Handlungsanweisung. Insofern sind auch die Aussagen der Mitbegründerin Prof. Dr. Katharina Zweig von Algorithmwatch von der re:publica 2016 irreführend:

„Nehmen Sie den hypothetischen Fall eines Hartz-IV-Empfängers“, sagt Zweig. „Er wohnt in einer Wohnung, die nach dem Gesetz eigentlich 5 Euro im Monat zu teuer ist, doch er ist in dem Stadtviertel verankert, die Kinder gehen dort zur Schule.“ Würde der Algorithmus entscheiden, sei der Fall klar. Ein menschlicher Entscheider könnte in diesem Fall ein Auge zudrücken. Wie die Entscheidung ausfalle, habe großen Einfluss auf die individuelle Lebensplanung der Person.

Warum sollte in diesem Falle ein Algorithmus schlechter für die Entscheidungsfindung sein als ein Sachbearbeiter? Weil er unbestechlich ist? Entweder der Sachbearbeiter hat Ermessensspielraum oder nicht. Genau dieser Ermessensspielraum ließe sich im genannten Beispiel problemlos algorithmisch formulieren. Die rechnergestützte Umsetzung läuft immer genau dann in Probleme, wenn die herkömmlichen Handlungsanweisungen, entweder weil sie tatsächlich nicht durchdacht wurden oder aus politischem Kalkül heraus, um ein Element der Willkür zu erhalten, unvollständig oder sich widersprechend sind. Hier dem Algorithmus ein Eigenleben zuschreiben zu wollen ist unsinnig. Genau dies scheint mir aber gerade zu passieren, vermutlich bedingt dadaurch, daß hier viele mitreden (wollen), aber nicht wirklich verstanden haben, worum es geht.

2 Kommentare

  1. […] haben wir sie wieder, die gefährlichen Algorithmen, die ein Eigenleben auf der Erde […]

  2. Katharina A. Zweig sagt:

    Moinmoin. Natürlich hat der Feuerwächter Recht, wenn er (oder sie?) sagt, dass man auch Ermessensspielräume programmieren kann. Aber sobald man sie programmiert hat, sind es eigentlich keine Ermessensspielräume mehr, sondern klare Regeln, die man dann auch gleich in Gesetze gießen könnte. Ein „Ermessenspielraum“ sieht aber vor, dass jemand auch bei sehr ähnlichen Fällen zu unterschiedlichen Ergebnissen kommen darf. Wenn wir darauf in Zukunft als Gesellschaft verzichten wollen, können wir viele Entscheidungen, die heute von Menschen getroffen werden, in Algorithmen gießen. Das Beispiel zeigt die Konsequenzen aber ganz gut: wenn eine Kaltmiete von 320 Euro für Hartz-IV-Empfänger erlaubt ist, der Beamte aber eine Kaltmiete von 325 Euro erlauben kann (nicht muss) – sollte dann die algorithmische Regel dahingehend verändert werden, dass jetzt immer eine Kaltmiete von 325 Euro erlaubt ist, oder nur dann, wenn es ein Kind gibt, das nachweislich gut integriert ist und die alternativen Wohnviertel für eine schlechtere schulische Bildung bekannt sind? Wie genau würde man diese zwei Aspekte quantifizieren (operationalisieren), so dass sie für einen Algorithmus verarbeitbar sind? Dies sind keine grundsätzlichen Hemmschuhe für eine Algorithmisierung der Entscheidungsfindung – zeigt aber, dass wir hier jetzt entweder anfangen müssten, eine absurd hohe Menge an Einzelentscheidungen in Regeln zu gießen oder recht willkürliche Operationalisierungen von wichtigen Aspekten (wie „gute Integration in soziales Netzwerk“, „gute zu erwartende Schulbildung“) vorzunehmen. Beides wird gemacht und halte ich nicht für gute Praxis.

    Es ist meiner Meinung nach also ein interessante Phänomen, dass in manchen Situationen dieser Ermessensspielraum ganz explizit vorgesehen ist. Er soll beispielsweise der Tatsache Rechnung tragen, dass es für manche Einzelfälle nicht lohnt, Regeln aufzustellen, oder dafür, dass sich Gesellschaft verändert. Er ermöglicht aber auch (zu) subjektive Entscheidungen. Wie immer gilt, dass wir als Gesellschaft entscheiden müssen, wann wir diese Ermessensspielräume für gesellschaftlich sinnvoll halten.

Schreibe einen Kommentar

Deine E-Mail-Adresse wird nicht veröffentlicht. Erforderliche Felder sind mit * markiert.