Total berechenbar?

Einleitung
Das Zeitalter der Algorithmen

Ich hatte kürzlich Geburtstag. Wer bei Facebook, dem sozialen Netzwerk, eingeschrieben ist, der weiß, was an diesem Tag passiert: Meine »Freunde«, also die Menschen, mit denen ich mich auf Facebook verbunden habe, bekommen an diesem Tag einen Hinweis. Dann können sie in meine »Chronik« einen Gruß hineinschreiben. Die meisten beschränken sich auf ein »Happy Birthday«, manche garnieren ihre Gratulation mit einem der vielen Emojis, die Facebook für solche Zwecke anbietet. Der Beglückwünschte freut sich, dass über 100 Menschen an diesem Tag an ihn denken. Er klickt bei jedem der Glückwünsche auf den »Gefällt mir«-Button. Am nächsten Tag, also nach 24 Uhr, so verlangt es die Etikette, postet er selbst einen Beitrag, in dem er sich für die vielen Glückwünsche bedankt und beteuert, dass er einen wundervollen Tag verbracht hat. Das lesen dann wiederum viele Freunde, die am Tag vorher den Anlass übersehen hatten, gratulieren nachträglich, und das Geburtstagskind freut sich noch einmal.

Im Ernst? Ist das das Niveau, auf dem wir heute unsere persönlichen Beziehungen pflegen? Gesteuert von einem Algorithmus, der dafür sorgt, dass wir keinen Jubeltag mehr vergessen? Haben wir die Verantwortung für unser soziales Leben dem Computer übergeben und klicken nur noch reflexhaft auf die Schaltflächen, die er uns anbietet? Babybild posten, Babybild liken, ach wie knuddelig, Smiley!

Man muss nicht gleich den Untergang des Abendlandes befürchten angesichts dieser neuen Rituale, die wir im Zeitalter der digitalen Vernetzung pflegen. Schließlich sind die Rituale der alten analogen Welt, mit Abstand betrachtet, nicht weniger absurd und manchmal sogar geradezu lächerlich. Und ich muss zugeben, dass ich mich tatsächlich über viele der Glückwünsche gefreut habe. Aber wir können es nicht abstreiten: Algorithmen haben unser Leben im Griff, und nicht alle Beispiele sind so harmlos wie dieses. Algorithmen suchen für uns nach Informationen, zeigen uns den Weg von A nach B. Sie beeinflussen, welches Buch wir lesen und welchen Film wir schauen. Sie beurteilen unsere Kreditwürdigkeit und haben zunehmend Einfluss darauf, welcher Bewerber eine begehrte Stelle bekommt. Sogar unsere Liebes- und Lebenspartner können wir uns per Algorithmus vermitteln lassen.

»Die Algorithmen« für allerlei Übel in der Welt verantwortlich zu machen, ist eine deutsche Spezialität. Wir beschuldigen nicht die Computer und deren Programme oder die Technik allgemein – nein, die Algorithmen sind uns unheimlich. In anderen Ländern hat das Wort längst nicht so eine Brisanz. In den USA habe ich im Supermarkt sogar einen Wein namens »Algorithm« gefunden, der in Deutschland wahrscheinlich im Regal verstauben würde. Schuld am schlechten Image der Algorithmen ist wohl hauptsächlich der 2014 verstorbene Herausgeber der Frankfurter Allgemeinen Zeitung Frank Schirrmacher. In seinen Büchern Payback und Ego machte er die Rechenregeln verantwortlich für die Endsolidarisierung der Gesellschaft und letztlich den Siegeszug des digitalen Kapitalismus.

Natürlich hat Schirrmacher den Gegner nicht zufällig gewählt. Hätte er sich den Computer vorgenommen, hätte man bei diesem noch an ein Werkzeug denken können, das man so oder so benutzen kann, zu guten oder schlechten Zwecken – wie etwa einen Hammer. Der Algorithmus dagegen ist für ihn mehr als ein reines Werkzeug – er ist ein logisches Prinzip, das unser Denken infiziert und schleichend unsere Zivilisation verändert. Wir setzen nicht nur den Computer für Berechnungen ein, wir halten alles für berechenbar. Und machen uns selbst berechenbar.

Was ein Algorithmus eigentlich ist, erklärt Schirrmacher nur unzureichend, und viele von denen, die das Wort heute im Mund führen, werden um eine Definition verlegen sein. Der Zweck dieses Buchs ist es, die Diskussion über die Macht der Algorithmen zu erden. Ich versuche, einige der wichtigsten Algorithmen zu erklären, die heute unser Leben beeinflussen. Dabei hoffe ich auf zwei Effekte beim Leser: Erstens möchte ich die Rechenverfahren ein wenig entmystifizieren. Wenn es heißt, dass der Algorithmus einer Supermarktkette herausfinden kann, ob eine Kundin schwanger ist (siehe Seite 137), dann klingt das zunächst nach Spionage in den intimsten Bereichen. Bei näherem Hinsehen entpuppt sich das Verfahren aber als eine simple Analyse der Einkaufshistorie der Kundin, die Alarm schlägt, wenn diese eine Reihe von bestimmten Produkten gekauft hat.

Ich hoffe aber auch, dass ich beim Leser ein wenig Bewunderung wecken kann für die teilweise genialen Ideen, die in Algorithmen stecken. Es geht bei der Entwicklung der Rechenverfahren ja nicht nur darum, ein Problem überhaupt zu lösen, sondern auf möglichst schlanke und elegante Weise. Wir erwarten, dass unser Navigationsgerät eine Route zwischen zwei Städten in ein paar Sekunden berechnet, sonst ist es nutzlos. Und selbst Aufgaben, die wir banal finden, etwa eine Liste alphabetisch zu sortieren, kann ein Computer elegant oder weniger elegant bewältigen. Allein für den Sortier-Job gibt es mindestens 15 trickreiche Algorithmen (siehe Seite 42).

Wenn man sich konkret mit Algorithmen beschäftigt, wird aber auch deutlich: Sie »denken« anders als wir. Ihre Stärke ist es, viele simple Rechenschritte in kürzester Zeit durchzuführen. Sie brauchen exakte Eingaben, und sie bestehen aus sehr konkreten kleinen Schritten, die einer nach dem anderen abgearbeitet werden. Ein Schachcomputer spielt anders als ein menschlicher Schachspieler. Er berechnet bis zu einem gewissen Horizont alle möglichen Spielzüge, bewertet sie kühl und sucht sich dann den besten aus. Das können Menschen nur bis zu einem gewissen Grad, sie verlassen sich viel mehr auf ihre Intuition und ziehen dann den Turm von h1 nach e1, weil es sich richtig anfühlt. Man kann Gefühle als eine geniale »Abkürzung« des Denkens ansehen: Wer aus dem Bauch heraus entscheidet, der schont den Kopf, entlastet sein Gehirn von der Aufgabe, jede Situation neu bis ins Letzte zu durchdenken. Er lässt sich buchstäblich von »Vor-Urteilen« leiten, die ihre Wurzel in seinen Erfahrungen haben. Man nennt solche intuitiven Denk-Abkürzungen auch »Heuristiken«.

Was ist die bessere Alternative? Das kann man nicht pauschal beantworten. Nehmen wir das Beispiel der Bewerberauswahl für eine zu besetzende Stelle: Viele Chefs werden sich ihres Bauchgefühls rühmen, das ihnen sagt, ob ein Bewerber auf die Stelle »passt«. Gut möglich, dass dahinter lediglich ein vorurteilsbehaftetes Schubladendenken steckt, das einsetzt, wenn ein dicker, schwarzer oder weiblicher Bewerber den Raum betritt. Es gibt gute Argumente dafür, Bewerbungsverfahren so lange wie möglich anonym durchzuführen – und auch dafür, zumindest eine gewisse Vorauswahl einem Algorithmus zu überlassen, der nur auf die objektiven Qualifikationen der Bewerber schaut.

Das heißt nicht, dass Algorithmen keine Vorurteile hätten und nicht diskriminierend wirken. Bekannt ist das Beispiel von Googles »Autocomplete«-Funktion, die einem schon während der Eingabe von Suchbegriffen Vorschläge macht. So ergänzte die Suchmaschine bei der Eingabe von »Bettina Wulff« ehrabschneidende Begriffe. Das lag natürlich daran, dass über die damalige Präsidentengattin die wildesten Gerüchte im Netz kursierten – und die »objektive« Suchmaschine gab sie blind wieder. Kurz bevor die Sache vor Gericht kam, änderte Google die Funktion, jetzt ist es möglich, rufschädigende Ergänzungen zu unterdrücken. Das geschieht aber nur, weil hier Menschen in den Algorithmus eingreifen. Lässt man ihm freien Lauf, so hat er immer noch einen hohen Unterhaltungswert: Gibt man »Angela Merkel …« ein, so steht an oberster Stelle die Ergänzung »Jüdin«, auf »Darf man …« ergänzt Google »… sein Kind Adolf nennen«.

Noch ein Google-Beispiel: Geben Sie einmal in die Bildersuche »CEO« ein, das Kürzel für den Vorstandschef einer Firma, das auch bei uns zunehmend verwendet wird. Als ich das getan habe, zeigten die ersten 49 Bilder Männer. Das 50. war eine Fotografie der »CEO Barbie«, einem Sondermodell der Anziehpuppe. Auf Platz 67 schließlich die erste richtige Frau, Angela Ahrendts, Ex-Chefin der Modemarke Burberry. Auf Platz 99 ein Foto der Yahoo!-Managerin Marissa Meyer, es begleitete die Meldung, dass sie 2012 einen gesunden Jungen zur Welt gebracht hatte. Die nächste Frau stand schließlich auf Platz 143: Ursula Burns von Xerox, gleichzeitig die erste Schwarze.

Dahinter steckt keine böse Absicht – der Algorithmus (siehe Kapitel 2) gibt letztlich das wieder, was die Nutzer ins Netz stellen beziehungsweise worauf sie klicken. Er zeigt uns den Status quo – und zementiert ihn damit gleichzeitig. In automatisch generierten Stellenanzeigen, die einem auf manchen Websites begegnen, zeigte Google Männern höher dotierte Jobs als Frauen. Das ist ebenso wie das Ergebnis der Bildersuche eine logische Folge der Tatsache, dass Männer in den Chefetagen überrepräsentiert sind. Logisch im Sinne des Programms, das diese Anzeigen auswählt.

Algorithmen müssen diskriminieren, denn das ist ihr Zweck. Wenn ich ein Programm schreibe, das die Kreditwürdigkeit von Menschen beurteilen soll, dann muss ich manche Menschen gegenüber anderen bevorzugen. Welche Kriterien sollen dabei erlaubt sein? Rein statistisch kann kein Zweifel daran bestehen, dass bei Bewohnern eines Stadtteils, in dem vorwiegend biedere Eigenheime stehen, die Chance größer ist, dass sie brav ihre Monatsraten zahlen, als wenn der Kreditnehmer in einem...