Endstation Menschenzoo?
 

Endstation Menschenzoo?

Seb Braun/www.sebbraun.co.uk

Diese Woche geht´s bei Walter`s Weekly um geheime Beurteilungsprogramme

Rechenverfahren, der neue Tyrann



In einer dreiteiligen Podcast-Serie zu Arbeitsverhältnissen in der Sharing Economy berichtete ein Uber-Taxifahrer folgendes: Zuerst versuchte das Unternehmen, ihn zu einem ungünstigen Kredit zu überreden (damit er sich ein neues Auto kauft). Dann erhielt er diverse E-Mails mit einer Reihe von Ultimaten – ohne jemals mit einem Menschen kommunizieren zu können. Die unsichtbaren Chefs kürzten auch seine Kommission ohne zu fragen. Und sein Job hängt prinzipiell immer an einem Seidenfaden: Sind zwei, drei Fahrgäste nicht rundum zufrieden – Rauswurf! Nicht ganz zufällig ist die Aussicht demnächst von einem digitalen Chef beaufsichtigt zu werden bereits ernsthaft diskutiert worden.

Diese Entwicklung basiert auf Rechenverfahren, zu denen keine Kunden und keine Angestellten Zugang haben oder darüber Auskunft erhalten. Geheime Beurteilungsprogramme tauchen überall auf – bei Jobbewerbungen, bei Kreditansuchen, bei der Auswertung von Persönlichkeitsprofilen.

Marketer verlassen sich zunehmend auf Schnüffelprogramme, die unsere Bedürfnisse vorhersagen können. Amazon überflutet einen mit Kaufempfehlungen, basierend auf bisherigem Einkaufs- und Suchverhalten. Netflix dient uns auf dieselbe Weise neue Filme an, Spotify macht Musikvorschläge. Wir sollen mit unseren eigenen Vorlieben verführt werden.

Es ist unheimlich, wie sehr das Potenzial zur Fernbeeinflussung angewachsen ist. Laut Stanford-Professor Michal Kosinski ist sein Programm in der Lage, allein anhand von Facebook-„Likes“ ein komplexes Persönlichkeitsprofil der Nutzer zu entwerfen. So konnten die Forscher abschätzen, ob jemandes Eltern geschieden sind. Die Rede ist hier nicht von Kindern, die leicht durchschaubar sind, sondern von 30- bis 40-Jährigen (bei denen die Trennung der Eltern vermutlich schon Jahre zurück liegt und eigentlich nicht im Verhalten sichtbar sein sollte). Hier eine Demonstration des Persönlichkeits-Rekonstruierungsprogrammes: Applymagicsauce.com (man braucht dazu einen Facebook-Account – je aktiver genutzt, umso genauer das Profil).

Aufgrund der dicken Datenschleimspuren, die wir online hinterlassen, sind wir viel zu durchsichtig (und daher dirigier- und manipulierbar) geworden. Immer mehr Auswertungen werden dazu benutzt, um uns zu bewerten und einzureihen. Die eingesetzten Algorithmen sind Privateigentum, daher nicht so einfach zu kontrollieren. Der müde Schlachtruf ‚Recht auf Privatsphäre’ hinkt der Wirklichkeit weit hinterher: Wie sollten wir eine Black Box, die alle Daten von uns besitzt, bekämpfen?

Die einzige Chance wäre totale digitale Enthaltsamkeit. Die wird aber auch nicht helfen, wenn wahr wird, was Martin Ford in seinem brandneuen Buch skizziert: Dass man mit Daten plus selbstlernenden(!) Rechenverfahren massenhaft Jobs automatisieren kann. Keine Branche ist davor gefeit. Selbst Kreativität lässt sich erfolgreich imitieren – eine Computer-generierte Symphonie ist bereits aufgeführt worden; Forscher an der Universität Tübingen haben ein Programm konstruiert, das Fotos in Gemälde im Stil bekannter Maler umwandeln kann; einige Medien lassen Basismeldungen (z.B. Sportergebnisse und Finanznachrichten) von Software verfassen. Einfache Anwaltsarbeit wird demnächst auch nicht mehr viel wert sein.

Werden wir nicht schon auf diese Welt vorbereitet? Jede Menge Apps zur Vermeidung mitmenschlicher Kontakte, Online-Chats mit Programmen, Sex mit Robotern, Online-Einkaufen, Selbstscanner-Kassen, Zustell-Drohnen, Fastfood-Restaurants, die fast vollständig automatisiert sind, wie das Eatsa in San Francisco...

Wie digitale Scharfrichter schweben diese mathematischen Modelle über unseren Köpfen, ohne dass wir sie je zu Gesicht bekommen. Die massive Gefahr besteht darin, den Bürger des 21. Jahrhundert als überfordert und im Grunde als etwas lebensunfähig zu betrachten. Denken & Urteilen ist zu anstrengend für dich, Hascherl, lass uns das machen.

Facebook ist gerade eben mit einem digitalem Assistenten herausgekommen – dieser „M“ ist darauf trainiert, jede Interaktion mit ihm zu speichern und auszuwerten; im Grunde soll diese Kunstintelligenz leisten, was die FB-Angestellten nicht zustande bringen. Über kurz oder lang wird der „M“ mehr über eifrige Facebook-Nutzer wissen als jede Behörde, selbst als der beste Freund. Gruselig, nicht? Aber der Sog der Bequemlichkeit ist stärker, darauf können sich die Schleusenwärter des Digitalreichs felsenfest verlassen.

Fazit:

Unter dem Anspruch, Roboter und Künstliche Intelligenz würden eine Vielzahl von Aufgaben besser erledigen als fehleranfällige Fleischwesen, werden wir zuerst aus der Arbeitswelt verdrängt und dann, zur Belohnung, zu passiven Wohlfahrtsempfängern reduziert. Natürlich werden uns in dieser neuen Welt auch die wesentlichen ethischen Entscheidungen abgenommen.

Wollen wir wirklich das Hirn abgeben und rein gefühls- und triebgesteuert in einer Art Unterhaltungszoo leben?

Das oftmals von weltfremden Sozialaktivisten geforderte ‚bedingungslose Basiseinkommen’ wäre der erste große Schritt in diese Richtung, unproduktives Menschenmaterial im großen Stil auszusondern und zu verwahren. Dazu wird es  jede Menge gratis Zudröhndrogen geben, damit nur keine Fragen nach dem Sinn des Ganzen aufkommen...

Lesetipps:

„The Black Box Society – the secret algorithms that control money and information“, von Frank Pasquale, Harvard University Press

sowie „The Rise of the Robots: Technology and the Threat of Mass Unemployment”, von Martin Ford, Oneworld Publications.

Quellen:

http://aeon.co/magazine/technology/judge-jury-and-executioner-the-unaccountable-algorithm/

http://news.stanford.edu/news/2015/august/social-media-kosinski-082515.html

http://thenextweb.com/creativity/2015/08/31/machine-or-picasso-this-algorithm-can-transform-photos-into-fine-art/

http://techcrunch.com/2014/11/16/meet-your-new-boss-mr-algorithm/

http://www.abc.net.au/worldtoday/content/2015/s4305382.htm

http://www.nytimes.com/2015/09/09/upshot/restaurant-of-the-future-service-with-an-impersonal-touch.html

http://knowledge.wharton.upenn.edu/article/how-data-analytics-is-shaping-what-you-watch

http://theconversation.com/the-web-has-become-a-hall-of-mirrors-filled-only-with-reflections-of-our-data-46969

[Walter Braun]
stats