Datenpaternalismus ist auch keine Aufklärung

Statistische Auswertungen, Berücksichtigung einer größeren Menge relevanter Fakten, computergestützte Entscheidungsgrundlagen — für derlei smarte Neuerungen bin ich gerne zu haben. Natürlich kann ein Mensch im Leben nicht so viele Dinge im Kopf überschlagen wie ein Rechner in einem Bruchteil einer Sekunde zu überreißen vermag. Diese Kapazitäten soll sich der Mensch gerne zunutze machen. Dennoch halte ich es für einen Irrweg, durch ein bloßes „Mehr“ an Daten, die man in eine Blackbox reingießt, den ausgespuckten Handlungsanweisungen umso naiver zu vertrauen. @tante hat erst kürzlich wunderbar aufgezeigt, dass der Mensch moralische Abwägungen treffen muss, die dann wiederum in die Algorithmen hineinprogrammiert werden müssen, damit ethisch vertretbare Ergebnisse dabei herauskommen.

Deshalb habe ich große Bauchschmerzen, wenn ich Sätze lese wie diesen:

Vielleicht ist es besser für einen Bankkunden, wenn er den gewünschten Kredit nicht bekommt, weil ein Algorithmus berechnet hat, dass er ihn sehr wahrscheinlich nicht zurückzahlen kann. Frank Schmiechen, 20.3.2015 in „Dialektik der Daten“, Gründerszene.de

Ja, vielleicht. Wird schon stimmen. Der zuvor im Text noch als aufgeklärte Mensch glorifizierte Depp weiß womöglich selbst nicht so recht, was wirklich gut für ihn ist. Wir wollen nur das Beste für ihn. Was das Beste ist, fällt aus dem Wissensgenerator raus. Die algorithmischen Stellschrauben stammen zwar von Menschen, aber der Sachbearbeiter am Bankschalter zieht nur noch die Augenbrauen hoch und hinterfragt das Ergebnis nicht. Die Herleitung ist nicht mehr präsent. Das Resultat abgekoppelt. Dass in einen solchen Algorithmus die Nachbarschaft im Wohnort einfließt, bei der — der Einfachheit halber — angenommen wird, man würde durchschnittlich schon in etwa so viel verdienen wie die Leute nebenan, kann schon mal zu einer Ablehnung eines Kredits führen, obwohl man ihn hätte bedienen können. Naja, 80/20-Regel… Is nich‘ jeden Tag Sonntag…

Techevangelisten mögen dann einwenden, der Algorithmus hätte eben noch nicht genug Daten, noch nicht genügend präzise Daten. Aber das wird immer der Fall sein. Und hilft dem „vom Kredit zu seinem Wohl Verschonten“ in dem Moment der Abweisung wenig. Daher ist es so wichtig, die eigene Lampe nicht auszuschalten. Daten und Algorithmen als Entscheidungsgrundlagen heranzuziehen, deren Zustandekommen aber immer auch zu hinterfragen. Ein Urvertrauen in alles, was die Maschine am Bildschirm ausspuckt, ist das Gegenteil von Aufgeklärtheit.

1. Daten machen uns frei.
2. Daten sind unser mächtigstes Werkzeug.
3. Algorithmen sind gut.
4. Daten verbessern unser Leben.
5. Daten schaffen Erkenntnis. Frank Schmiechen, 20.3.2015 in „Dialektik der Daten“, Gründerszene.de

Daten machen uns frei??? Entschuldigung, aber klingelt’s? Abgesehen davon, dass dieses Vokabular historisch ein ganz fieser Griff in die Schüssel ist, habe ich die Befürchtung, es hier mit einer auf Erlösung hoffenden Sekte zu tun zu haben. Und nein, von allein sind Algorithmen weder gut noch schlecht. Sind sind amoralisch. Das heißt nicht, dass sie moralisch per se schlecht seien, sondern neutral.

Rechner können besser rechnen als Menschen. Die moralische Abwägung müssen wir aber genauso wie die Daten noch selbst einspeisen.

Schreibe einen Kommentar


Diese Website verwendet Akismet, um Spam zu reduzieren. Erfahre mehr darüber, wie deine Kommentardaten verarbeitet werden.