Cathy O’Neil: Angriff auf Algorithmen
 

Cathy O’Neil: Angriff auf Algorithmen

Adam Morganstern
Die Bestsellerautorin Cathy O’Neil hat den Begriff „Weapons of Math Destruction“ geprägt.
Die Bestsellerautorin Cathy O’Neil hat den Begriff „Weapons of Math Destruction“ geprägt.

Die international profilierte Algorithmen-Kritikerin Cathy O’Neil hält die Keynote am Werbeplanung.at Summit am 13. Juni. Harte Worte findet sie etwa gegenüber der datengetriebenen Online-Werbebranche.

Cathy O'Neil ist Keynote-Speakerin auf dem Summit 2018. Tickets sind unter diesem Link erhältlich.

Diese Artikel ist zuerst in Ausgabe Nr. 14/2018 des HORIZONT erschienen. Noch kein Abo? Hier klicken!

Algorithmen bestimmen das Leben von Millionen Menschen. Sie sind dafür verantwortlich, dass User in ihren digitalen Filterblasen leben, in denen sie manche Nachrichten verstärkt, andere hingegen gar nicht mehr wahrnehmen. Sie helfen Werbetreibenden, Botschaften gezielt an Mikro-Zielgruppen auszuspielen; negativ äußerst sich das im aktuellen Facebook-Datenskandal. Und, so heißt es von namhaften Kritikern: Sie beeinflussen die persönlichen Erfolgschancen eines jeden einzelnen Menschen, von beruflichen Chancen bis zu Auswirkungen auf Kredit- oder Versicherungskonditionen.

Internationale Expertin in Wien

Die komplexe Thematik rund um die Potenziale, Auswirkungen und Kritik an Algorithmen macht den Auftakt zum Werbeplanung.at Summit. Das Top-Event der österreichischen Digitalbranche, das am 13. und 14. Juni im Hilton Vienna Danube Waterfront stattfindet, wird dieses Jahr von einer prominenten Kritikerin der Algorithmen eröffnet: Cathy O’Neil, Bestsellerautorin und Mathematikerin aus den USA, analysiert die Kraft der Algorithmen, und wird mit ihren kritischen Einblicken die Entscheidungsträger der heimischen Digitalbranche zum Nachdenken anregen. O’Neil arbeitete zunächst als Dozentin, dann als Hedgefonds-Managerin, bevor sie begann, sich bei Occupy Wall Street zu engagieren. Inzwischen ist sie eine der profiliertesten Kritikerinnen der Digitalbranche und hat den Begriff „Weapons of Math Destruction“ (WMDs) geprägt. Heute arbeitet sie als Datenanalystin und Bloggerin und ist erfolgreiche Buchautorin.

Die finstere Seite von Big Data

In ihrem Bestseller „Angriff der Algorithmen“ erklärt die Datenexpertin, was geschieht, wenn in immer mehr Lebensbereichen die Ergebnisse algorithmischer Berechnungen unsere Entscheidungen bestimmen. O’Neil zeigt in ihrem Buch auf, wie Algorithmen in der Theorie objektive Entscheidungen ermöglichen, im wirklichen Leben aber mächtigen Interessen folgen: Algorithmen nehmen Einfluss auf die Politik, gefährden freie Wahlen und manipulieren die Demokratie über soziale Netzwerke; sie entscheiden, ob man einen Kredit oder den gewünschten Job bekommt – und auch das Thema Onlinewerbung wird in ihren Überlegungen nicht ausgespart.

Dabei vergleicht sie das Konzept der datengetriebenen Werbung mit einem Quacksalber in einem alten Western: Die persönlichen Schwachstellen der Opfer werden ausgemacht, um ihnen basierend darauf die entsprechenden Produkte anzupreisen. Dabei werde der „pain point“ ausgemacht – also jenes Thema, an dem Menschen am meisten leiden. „Viele Menschen verraten arglos ihren Schmerzpunkt, indem die mit Google nach Antworten suchen,“ schreibt die Kritikerin.

Ins Visier nimmt die Autorin auch die Vorgehensweise kostenpflichtiger US-amerikanischer Hochschulen, die Online-Werbung mit Hilfe von Algorithmen und Big Data gezielt einsetzen: „Eine entscheidende Eigenschaft einer Weapon of Math Destruction ist, dass sie schädlich ist für die Leben zahlreicher Menschen“, so O’Neil: „Und die von solchen räuberischen Anzeigen verursachten Schäden beginnen erst, wenn Studenten große Darlehen aufnehmen, um davon ihre Studiengebühren zu bezahlen.“

Die Hochschulen seien aber nicht die einzigen Institutionen, die „räuberische Werbung“ einsetzen: „Wo immer es den Menschen schlecht geht oder wo sie verzweifelt sind, w i r d m a n auch Werbetreibende finden, die räuberische Modelle nutzen.“ Dazu zähle auch das Vorgehen der Kreditwirtschaft, die auf die Angebote von Datenhändlern zurückgreift: Im Jahr 2015 habe die Federal Trade Commission (FTC) zwei Datenhändler verklagt, weil die die Kreditanträge von mehr als einer halben Million Menschen verkauft hatten, zeigt die Autorin auf.

Cathy O’Neils dringlicher Appell in ihren Ausführungen zeigt, wie Algorithmen Diskriminierung und Ungleichheit verstärken und so zu Waffen werden, die das Fundament unserer Gesellschaft erschüttern. „Willkommen auf der finsteren Seite von Big Data“, lautet der finale Satz des Einleitungstextes. In ihrem Fazit schließlich weist sie darauf hin, dass derzeit zwar vor allem Menschen aus ärmeren Schichten unter der Macht der Algorithmen leiden, weil für sie ein gefährlicher Teufelskreis aus verwendeten Daten in Gang gesetzt wird – die Technologie jedoch erst am Anfang steht und somit bald jedermann betreffen könnte.

Nicht nur ‚böse‘

Analog dazu wird O’Neil in ihrer Keynote den Einsatz von Algorithmen beleuchten und ihre Erfahrungen mit einbringen. Als Mathematikerin ist sie mit den Berechnungen hinter den Algorithmen vertraut; durch ihre Berufserfahrung ist sie skeptisch, da sie direkt mit den Algorithmen gearbeitet hat und sowohl deren Stärken als auch deren Schwächen kennt. Sie warnt davor, den mathematischen Berechnungen allzu blind zu vertrauen: Gerade auch in der Welt der digitalen Werbung und des Marketings sollten die Umsetzer vor „unsichtbaren“ Überraschungen und Problemen gewappnet sein. Algorithmen greifen mittlerweile in das Leben der User ein, indem sie wichtige Entscheidungen steuern, ohne dass der Konsument dies merkt.

Doch nicht alle Algorithmen sind „böse“ – auch hier gibt es Unterschiede, die von der Bestsellerautorin in ihrer Keynote erläutert werden.

Cathy O'Neil ist Keynote-Speakerin auf dem Summit 2018. Tickets sind unter diesem Link erhältlich.

stats