Frau Pidoux, vorab die Huhn-oder-Ei-Frage: Haben Sie sich zuerst mit den Algorithmen oder mit Dating Apps beschäftigt?

Im Jahr 2015 kam Tinder in der Schweiz auf, Menschen begannen plötzlich online zu daten. Ich fragte mich damals, welche Auswirkungen Dating Apps auf die Partnersuche haben würden, und entschied mich, meine Masterarbeit diesem Thema zu widmen. Nach Selbsterfahrungen, im wissenschaftlichen Kontext den sogenannten teilnehmenden Beobachtungen, und Interviews mit User:innen, habe ich das Patent von Tinder analysiert. Später, während meiner Doktorarbeit, wurde das Projekt ausgeweitet und ich analysierte etwa 30 Apps, ihre Schnittstellen und die Daten, die über die Nutzer gesammelt wurden. Da wurde mir klar: Dating Apps sind nicht nur ein Trend. Sie entwickeln sich zu einer Industrie der Partnersuche.

Deshalb arbeiten Sie nun als digitale Soziologin an der Universität Neuchâtel und erforschen Algorithmen. Was genau ist ein Algorithmus?

Ein Algorithmus ist im Grunde genommen eine mathematische Operation, die auf einem Gerät wie dem Handy arbeitet, um dann zu wissen, was auf einer App wie Tinder zu tun ist. Eine Person loggt sich also auf der Dating App ein, schaut sich diverse Profile an und hat dann einen Match. Im Hintergrund läuft Folgendes ab: Der Input einer Person, wie z. B. ihr Alter, wird mit ihrem durchschnittlichen Wischverhalten multipliziert. Dieser Faktor soll dann mit dem erwarteten Ergebnis, wie einem Profil, übereinzustimmen – denn der Algorithmus hat gelernt, was das beste Ergebnis sein wird, oder wer die am besten geeigneten Nutzer:innen sein könnten. Diese Profile werden dann der Person angezeigt.

Arbeitet der Algorithmus dabei nur mit denjenigen Informationen, die ich in meinem Profil angegeben habe? 

Die Informationen lassen sich in zwei Arten unterteilen. Als deklarierte Informationen gelten diejenigen Informationen, die wir in unserem Profil angeben, wie Name, Alter oder Ausbildung. Dann gibt es Informationen, die vom Online-Verhalten abgeleitet werden. Beispielsweise die Zeitspanne, in der du ein Profil anschaust. Und hier liegt die Krux: Letztere Informationen können von der Dating App kommen, durch welche du jetzt gerade scrollst, oder von allen anderen Apps wie Spotify oder Instagram, die damit verbunden sind. Wir müssen daher in Daten-Ökosystemen denken, die diesen Datenaustausch ermöglichen und versuchen, unser Verhalten zu verstehen – was immer komplexer, aber nicht immer genauer wird.

Dann wird mein Verhalten heimlich erfasst? 

Das ist ein wichtiger Punkt. Wir sprechen hier von Transparenz oder im Umkehrschluss von Undurchsichtigkeit. Oft müssen wir den Nutzungsbedingungen zustimmen, sobald wir eine App herunterladen. Und das machen wir dann auch, weil wir die App ja nutzen wollen. Die Klauseln sind komplex und unverständlich. Was sie eigentlich aussagen: Wir sammeln Daten über dich, um unser System weiterzuentwickeln und um sie mit Drittanbieter:innen zu teilen – und das oft für andere Zwecke als Dating Apps. Oftmals steht jedoch nicht, welche Informationen genau getrackt oder mit wem sie geteilt werden. Je mehr Daten gesammelt werden, desto komplexer und undurchsichtiger wird das Ganze. Deshalb ist es schwierig, genau zu sagen, welche Informationen Algorithmen sammeln.

Aber führen mehr Daten nicht immer zu besseren Matches? 

Das ist wohl einer der grössten Mythen rund um künstliche Intelligenz. Denn wir benötigen nicht mehr Daten, sondern qualitativ bessere Daten und menschengemachte Prozesse. Lassen Sie mich ein Beispiel machen: Nehmen wir an, es befänden sich auf 200 gebildete nur zwei ungebildete Männer auf Tinder. Die kleinere Anzahl, also die weniger gebildeten Männer, können aufgrund des Algorithmus in Zusammenspiel mit den Nutzer:innen immer wie weniger angezeigt werden und werden dadurch häufiger diskriminiert. Dies gilt für jede Minderheit. Wir können Diskriminierung nur verhindern, wenn wir die Qualität und die Art der Daten kontrollieren und Massnahmen zur Gestaltung und Nutzung von Dating-Apps ergreifen.

Algorithmen benachteiligen also bestimmte Gruppen. Welche sind davon am stärksten betroffen?

Algorithmen arbeiten mit Scores, also Punkten, und diese sind Teil der menschlichen Entscheidungen, die ein Unternehmen trifft. Bei Tinder gibt es zum Beispiel einen Attraktivitätswert, einen Intelligenzwert und einen Nervositätswert, je nach Patent. Die Algorithmen bringen dann Menschen mit gleich hohen Punktzahlen zusammen. Mit anderen Worten: Schöne Menschen werden schönen Menschen gezeigt, und intelligente Menschen werden intelligenten Menschen gezeigt. Aber hier gibt es ein soziales Problem, nämlich die Frage, wie wir innerhalb eines Unternehmens entscheiden, was Attraktivität oder Intelligenz ist. Dabei gehen marginalisierte Gruppen meist unter, denn sie sind untervertreten. Wenn dieser Algorithmus nicht korrigiert wird, wird er immer und immer wieder diesen Mechanismus verstärken.

Das ist ein Teufelskreis.

Ja, als User:in beginnst du generell bei allen Profilen die harten Fakten zu analysieren. Auch ein höheres Alter oder ein geringerer Bildungsstand können Ausschlusskriterien sein - die Person hinter dem Profil wird oft nicht mehr als solche wahrgenommen, sondern objektiviert. Das Gleiche gilt auch für marginalisierte Menschen. Denn in einer Bar würde niemand sagen «Ich mag dich nicht, weil du im Rollstuhl bist». Was zählt, ist die Dating-Erfahrung als Ganzes. Es ist ein Zusammenspiel der Stimme, des Geruchs, des Charakters.

Verstärken die Algorithmen diese vorhandenen Vorurteile oder geben sie sie einfach nur eins zu eins wieder?

Beides. Sie reproduzieren sie, weil sie von Menschen und früheren Daten lernen. Sie eignen sich nicht plötzlich neuen Verhaltensweisen an. Algorithmen verstärken aber auch die Vorurteile, weil sie beispielsweise bei Neuanmeldungen den User:innen diejenigen Profile anzeigen, die bereits beliebt sind.

Gibt es für marginalisierte Gruppen eine Möglichkeit, diese Diskriminierung zu umgehen?

Das ist sehr schwierig bei Apps wie Tinder, Badoo, Bumble usw., die allgemein gehalten und für so viele verschiedene Gruppen offen sind. Wenn sich Menschen mit unterschiedlichen Fähigkeiten, bestimmten geschlechtlichen Identitäten oder ethnischer Zugehörigkeit, die nicht die Mehrheit darstellen, auf diesen Plattformen registrieren, müssen sie sich bewusst sein, dass sie mit dem Urteil anderer und der Logik von Algorithmen konfrontiert werden. Denn diese beruhen oft auf konventionellen oder heteronormativen Annahmen, da die Systeme typischerweise so konzipiert sind, dass sie aus geschäftlichen Gründen die Mehrheitsdemografie bedienen.

Ziehen wir ein Fazit: Nutzer:innen formen den Algorithmus durch ihre Nutzung, Anbieter:innen kreieren die Apps. Wer ist nun verantwortlich für die Diskriminierung?

Auf der Seite der Anbieter:innen ist es eine Kombination aus technischen Zwängen, Marketinginteressen und Entscheidungen der Manager:innen. Auf der Seite der Nutzer:innen sind es grundsätzlich alle, die diese Apps nutzen. Wer ist also verantwortlich? Ich denke, es ist eine kollektive Verantwortung. Eine, die auch der Staat aufgrund mangelnder Durchsetzung von Vorschriften mitträgt. Die Privatsphäre der User:innen muss deshalb dringend besser geschützt und das Antidiskriminierungsgesetz eingehalten werden.

Wie kann jede Person dazu beitragen, dass weniger Diskriminierung besteht?

Jede Person hat das Recht zu wissen, wie diese Apps funktionieren und sie sollte dieses Wissen auch haben. Zudem ist wichtig zu verstehen, dass ein Business dahintersteckt. Denn die Apps basieren auf kommerziellen Interessen, die sich auf die Ergebnisse auswirken können, die man bei der Online-Partnersuche erhält. Wer trotzdem Dating-Apps nutzen möchte, dem rate ich, beim Swipen die eigene Komfortzone zu verlassen und Neues auszuprobieren.