Weiter zu verfolgen: Arbeitender Mensch abhängig und manipuliert, um mehr Profit zu generieren

Digitale Manipulation Werden Sie Teil der Maschine!

Fast unbemerkt krempelt eine neue wissenschaftliche Disziplin die Welt um. Digitale Überredungstechnik lässt Menschen nach ihrer Pfeife tanzen. Nicht nur Konsumenten, sondern auch Arbeiter.

Eine Kolumne von

Sonntag, 21.05.2017   11:03 Uhr

Das Buch, das alles verändert hat, beginnt mit diesem Satz: „Als ich zehn Jahre alt war, studierte ich Propaganda.“ Geschrieben hat es der der US-Wissenschaftler B.J. Fogg, der seit vielen Jahren in Stanford lebt. Gerade Propagandisten profitieren heute enorm von dem, was Fogg damals niederschrieb.

Der Psychologe hat eine wissenschaftliche Disziplin erfunden, mit deren Hilfe gerade die Welt umgekrempelt wird. Viele seiner Schüler sind mithilfe von Foggs Modellen und Methoden reich geworden, zum Beispiel Mike Krieger, einer der Gründer von Instagram. Fogg selbst findet diese Entwicklung beunruhigend: „Wenn ich mir manche meiner ehemaligen Studenten ansehe, frage ich mich, ob sie wirklich die Welt verbessern oder nur Geld verdienen wollen.“

„Computer gehen dorthin, wo Menschen nicht willkommen sind“

Die Disziplin, die Fogg Mitte der Neunziger erfand, hat er selbst Captology getauft, ein Kunstwort aus der Abkürzung für Computer Aided Persuasive Technology, Überredungstechnik also. Computer seien in mehrfacher Hinsicht viel besser geeignet, Menschen zu etwas zu überreden, als andere Menschen, schrieb Fogg 2003 in „Persuasive Technology“.

Computer seien hartnäckiger als Menschen, böten Anonymität, könnten mit riesigen Datenmengen umgehen, auf diversen Kanälen Einfluss ausüben, leicht skalieren, also Wachstum ermöglichen, und „dorthin gehen, wo Menschen nicht hingehen können oder nicht willkommen sind“. Das war vier Jahre vor dem ersten iPhone, also vier Jahre, bevor das Zeitalter begann, in dem fast jeder Bewohner der industrialisierten Welt immer einen Computer dabeihat, auch im Schlafzimmer, auch auf der Toilette.

Captology ist im Kern die Anwendung hundert Jahre alter lerntheoretischer Prinzipien auf die Welt der digitalen Benutzeroberflächen. Erkenntnisse aus Experimenten mit Ratten oder Tauben werden benutzt, um dafür zu sorgen, dass Menschen mit höherer Wahrscheinlichkeit das tun, was Software ihnen sagt.

Klicken, liken, teilen, kaufen, los!

Klicken zum Beispiel. Liken. Teilen. Kaufen. Noch eine Runde spielen, eine nur. Noch eine Folge ansehen. Noch schnell das eigene Geburtsdatum, den Wohnort, Vorlieben preisgeben. Reiz, Verhalten, Belohnung, immer wieder. In den vergangenen Jahren sind vergleichbare Methoden meist unter dem fröhlich klingenden Schlagwort „Gamification“ verhandelt worden. „Persuasive Technologies“ trifft es aber weit besser.

Nir Eyal ist einer von Foggs Schülern und der Autor eines Buches namens „Hooked“, das Entwicklern erklärt, wie man Produkte baut, von denen man nicht mehr loskommt. Eyal formuliert es so: „Damit eine Handlung eingeleitet werden kann, muss Tun einfacher sein als Denken.“ Es geht immer um „Engagement“. Mach was, Nutzer, los. Und jetzt noch was.

Ein schönes Beispiel ist die Autostart-Funktion von Videoplattformen wie Netflix: Wenn man nichts tut, läuft die nächste Serienfolge sofort nach dem Ende der vorangegangenen an. Weiterschauen ist einfacher als Aufhören. Das ist Captology in Aktion. Oder die „nur noch 20 Prozent, dann ist Ihr Profil vollständig“-Statusbalken, die man von Netzwerkplattformen kennt. Facebooks „Reaction“-Emojis. Amazons „andere kauften auch…“. All das sind keine spontanen Ideen cleverer Designer, sondern Konzepte aus der Verhaltenspsychologie.

„Evil by Design“

In einem Buch mit dem erfrischend ehrlichen Titel „Evil by Design“ heißt es: „Wie bei einem guten Zaubertrick sind die besten Beispiele die, bei denen man nicht einmal bemerkt, dass man manipuliert wird, wenn einen niemand darauf hinweist.“

Unglücklicherweise dienen manche der Plattformen, die heute nach Captology-Prinzipien optimiert werden, Zwecken, denen „erst denken, dann handeln“ als Prinzip besser täte als „Handeln ohne Denken“.

Bei Facebook und Twitter zum Beispiel teilen Nutzer nachweislich Artikel zu politischen – und anderen – Themen, ohne sie jemals gelesen zu haben. So können sich sensationalistische, aber falsche Behauptungen schnell und weit verbreiten. Stichwort: Hillary Clintons angeblicher Kinderporno-Ring. Stichwort: Der Papst empfiehlt Donald Trump.

Eine demokratische Öffentlichkeit, die sich an Orten konstituiert, wo Denken als Hindernis beim „Engagement“ betrachtet wird, bekommt früher oder später Probleme.

Optimierung zur Gedankenlosigkeit

„Aus meiner Sicht sollte die Evolution von Überredungstechnologie nicht allein dem Zufall oder dem Markt überlassen werden“, schrieb B.J. Fogg 2003. Aber genau das ist passiert, und wir haben es nicht einmal bemerkt. Die Ziele, die mit den neuen Techniken erreicht werden sollen, sind am Ende in der Regel monetär, von Ausnahmen wie Fitnesstrackern oder Ernährungshelfern einmal abgesehen. „Engagement“ bringt, Klicks, Daten, Absatz. Für gesellschaftlichen Fortschritt wird eher nicht optimiert.

Die Entwicklung ist aber mit der Optimierung zur Gedankenlosigkeit nicht abgeschlossen. Bei Uber, der Firma, die wie keine andere für die rücksichtslose Ausnutzung digitaler Profitmaximierungsmöglichkeiten steht, ist man schon einen Schritt weiter. Dort wird nicht nur das Konsum- und Kommunikationsverhalten captologisch optimiert, sondern auch der Fleiß der freiberuflichen Fahrer.

Wenn die Maschine sich als Frau ausgibt, ist sie erfolgreicher

Die bekommen ihre Aufträge bekanntlich von einer Smartphone-App, und die wiederum wird zentral so gesteuert, dass immer eine möglichst ideale Zahl verfügbarer Mitfahrgelegenheiten am richtigen Ort ist. Eigentlich sind Uber-Fahrer frei, ihre eigenen Schichten zu definieren und einfach aufzuhören, wenn sie keine Lust mehr haben, schließlich sind sie keine Angestellten. Wenn die Maschine, von der sie ihre Aufträge bekommen, aber weiß, dass ihre Arbeitskraft eigentlich gerade noch gebraucht würde, dann wird die Überredungstechnologie ausgepackt, wie die „New York Times“ berichtete.

Uber-Fahrer in den USA bekommen zum Beispiel, wenn sie sich aus der App ausloggen, also Feierabend machen wollen, unter Umständen Botschaften wie „Sie sind noch 10 Dollar von einem Nettoverdienst von 330 Dollar entfernt – wollen Sie wirklich aufhören?“. Besonders gut funktionieren die Motivationsbotschaften, wenn sie von einer angeblich weiblichen Person kommen. Ubers Fahrer sind überwiegend männlich.

Welcome to the machine

Wenn ein Fahrer von Passagieren gut bewertet wird, kann er virtuelle Trophäen gewinnen, für „exzellente Konversation“, oder „exzellenten Service“. Diese Trophäen sind so viel wert wie Highscores in einem Computerspiel: nichts. Gleichzeitig sind sie die digitale Umsetzung einer Therapiemethode, die in Psychiatrien seit den späten Sechzigerjahren angewendet wird, um etwa Psychosepatienten dazu zu bringen, sich selbst anzuziehen: Token Economies. In der Schule hieß so etwas früher „Gutkärtchen“.

Das Softwaresystem, aus dem Uber in Wahrheit besteht, weiß, wer wann wo gebraucht wird, es verteilt Aufgaben, lobt und tadelt, und wenn jemand nicht ausreichend motiviert scheint, stupst es den Betreffenden ein bisschen an, damit er weiterfährt. Zwischen der Management-Ebene des Unternehmens und denen, die die Arbeit machen, ist eine undurchdringliche Schicht künstliche Intelligenz eingezogen. Wer unterhalb dieser Schicht arbeitet, ist kein Angestellter, kein Angehöriger des Unternehmens.

Er ist ein freiberuflicher Teil der Maschine.

Advertisements

Kommentar verfassen

Trage deine Daten unten ein oder klicke ein Icon um dich einzuloggen:

WordPress.com-Logo

Du kommentierst mit Deinem WordPress.com-Konto. Abmelden / Ändern )

Twitter-Bild

Du kommentierst mit Deinem Twitter-Konto. Abmelden / Ändern )

Facebook-Foto

Du kommentierst mit Deinem Facebook-Konto. Abmelden / Ändern )

Google+ Foto

Du kommentierst mit Deinem Google+-Konto. Abmelden / Ändern )

Verbinde mit %s