Der Vermietdienst Airbnb will im US-Bundesstaat Oregon vorerst nur mehr verkürzte Profile von Gästen anzeigen, gab das Unternehmen Ende Dezember bekannt. Vor einer Buchung sollen Gastgeber:innen lediglich die Initialen statt den vollen Namen der Mietwilligen sehen.
Mit dem Pilotversuch will das Online-Portal gegen rassistische Diskriminierung auf seinem Dienst vorgehen. So hatte etwa eine unabhängige Studie bereits 2015 herausgefunden, dass Gäste mit Schwarz klingendem Namen signifikant öfter von Vermieter:innen abgewiesen werden als identische Gäste mit Weiß klingendem Namen.
Ein Puzzleteil unter vielen
Die Diskriminierung Schwarzer Menschen hat in den USA eine lange Tradition. Dies schlägt sich oft genug auch im Tech-Sektor nieder, etwa auf dem Wohnungsmarkt, bei zielgerichteter Online-Werbung oder in der Strafverfolgung. Airbnb hatte 2020 das „Project Lighthouse“ ins Leben gerufen, um diskriminierende Praktiken auf dem Portal aufzudecken.
Zuvor einigte sich das Unternehmen außergerichtlich mit drei Klägerinnen aus Oregon. Sie hatten Airbnb vorgeworfen, die damals geltende Verpflichtung, den vollen Namen und Photos im Nutzer:innen-Profil anzugeben, sei diskriminierend. Noch vor der Einigung änderte Airbnb seine Richtlinien, potenzielle Gäste müssen seit 2018 vor einer Buchung nicht mehr ihr Gesicht zeigen.
Zudem gelobte das Unternehmen, in Zusammenarbeit mit Bürgerrechtsgruppen weiter an antidiskriminierenden Maßnahmen zu arbeiten. So begann im Sommer 2020 ein groß angelegtes Datenprojekt für US-Nutzer:innen, daneben führt das Unternehmen regelmäßig Bürgerrechts-Audits durch. Das Projekt in Oregon soll ab Ende Januar für zumindest zwei Jahre laufen.
Umstrittenes Geschäftsmodell
Trotz dieser Bemühungen trägt das Unternehmen jedoch keine weiße Weste. So macht etwa das Geschäftsmodell den lokalen Wohnungsmarkt kaputt und lässt die Mieten steigen. Vor allem in Europa ist das Kernprodukt von Airbnb in vielen Städten deshalb verboten oder stark eingeschränkt.
Abseits dessen errechnet das Unternehmen offenbar mit einem Algorithmus die Vertrauenswürdigkeit von Nutzer:innen und schließt sie gegebenenfalls von dem Dienst aus. Besonders betroffen sollen Sexarbeiter:innen sein, die Airbnb für den privaten Urlaub nutzen wollen. Das Unternehmen bestreitet, in Deutschland dieses Verfahren zur Risikoeinschätzung zu nutzen.
Wegen massiver Verstöße gegen die Datenschutzgrundverordnung muss die niederländische Regierung ein Bußgeld von 2,75 Millionen Euro zahlen. Im Rahmen der sogenannten Toeslagenaffaire (deutsch: Kindergeldaffäre) hat die Steuerbehörde jahrelang in diskriminierender und unrechtmäßiger Weise Informationen über die Nationalität von Menschen genutzt, teilte die nationale Datenschutzbehörde im Dezember mit. Die Regierung räumte die Fehler inzwischen ein.
Die Aufsichtsbehörde reagiert mit dem Bußgeld auf einen Skandal, der die Niederlande bis heute tief erschüttert. In den 2010er Jahren forderte die nationale Steuerbehörde Belastingdienst von zehntausenden Eltern fälschlicherweise Rückzahlungen des Kindergeldes. Bereits kleine Formfehler beim Ausfüllen von Formularen führten zu horrenden Forderungen, eine vermeintlich falsche Nationalität konnte jahrelang zu stigmatisierenden Betrugsermittlungen führen. Viele von staatlicher Unterstützung abhängige Familien wurden dadurch zu Unrecht in den Ruin getrieben.
Das Vorgehen der Behörde hatte dabei erwiesenermaßen eine rassistische Prägung. Wie die Datenschutzaufsicht in ihrer Pressemitteilung aufzählt, habe der Belastingdienst Daten über die Nationalität von Kindergeldbewerber:innen als Indikator für verschiedene Zwecke genutzt. So sei etwa die Information, ob jemand eine doppelte Staatsbürgerschaft hat, in die Entscheidung über die Vergabe der Unterstützungsleistung eingeflossen, obwohl die Steuerbehörde diese Daten über mehr als 1,4 Millionen Menschen längst hätte löschen müssen.
Bei der Erkennung und Bekämpfung von Betrugsfällen seien Informationen über die Staatsangehörigkeit der Betroffenen ebenfalls als Verdachtsmarker genutzt worden. Auch in einem automatisierten System zur Risikoprüfung von Antragsteller:innen sei eine nicht-niederländische Nationalität als Risikofaktor gewertet worden. Wer eine nicht ausschließlich niederländische Staatsbürgerschaft hatte, war der Steuerbehörde per se verdächtig.
Opfer mussten für Aufklärung kämpfen
„Die Bevölkerung hat keine Wahl, als ihrer Regierung die Verarbeitung ihrer persönlichen Daten zu erlauben“, erklärte der niederländische Datenschutzbeauftragte Aleid Wolfsen in einem Statement. Deshalb sei es unabdingbar, dass alle absolutes Vertrauen haben können, dass diese Verarbeitung vernünftig abläuft. „Dass die Regierung keine Daten über Individuen behält und nutzt, die eigentlich nicht notwendig sind. Und dass es niemals eine Form von Diskriminierung gibt, wenn Menschen in Kontakt mit Behörden treten“, ergänzte Wolfsen.
Eine Sprecherin des Finanzministeriums bestätigte netzpolitik.org, dass ihr Haus das Bußgeld akzeptiere und Maßnahmen eingeleitet habe, um die diskriminierende Datenverarbeitung zu unterbinden. Unter anderem habe der Belastingdienst die Datenbank mit Informationen über die doppelte Staatsbürgerschaft gelöscht.
Die niederländische Regierung hatte ihr Fehlverhalten erst nach zahlreichen Vertuschungsversuchen eingestanden. Opfer des Skandals mussten jahrlang für Aufklärung und Anerkennung kämpfen. Ihnen wurde inzwischen die Rückzahlung der Mittel sowie eine Entschädigung in Höhe von je 30.000 Euro zugesagt.
Nachdem ein parlamentarischer Untersuchungsausschuss Ende 2020 die systematische Diskriminierung und massives Unrecht festgestellt hatte, trat Anfang 2021 das gesamte Kabinett unter Premierminister Mark Rutte zurück. Nachhaltig geschadet hat der Skandal dem Langzeit-Premier aber offenbar nicht: Bei den Wahlen im März wurde Ruttes rechtsliberale Partei VVD erneut stärkste Kraft, erst im Dezember einigte sie sich mit den drei anderen Regierungsparteien auf eine Fortführung ihrer Koalition unter Ruttes Führung.
Datendiskriminierung: „Wenn es schiefgeht, dann richtig“
Weltweit sorgen immer wieder Fälle für Aufsehen, bei denen Verwaltungen sensible Daten für die automatisierte Bewertung von Bürger:innen nutzen und dabei massive Fehler machen. In Australien etwa versendete eine Algorithmus fälschlicherweise Nachzahlungsforderungen an Empfänger:innen staatlicher Mittel und stürzte damit hunderttausende Menschen in die Krise. Österreich streitet seit Jahren über ein System, das die Chancen von Arbeitssuchenden auf dem Jobmarkt vorhersagen soll und dabei systematisch Frauen und alte Menschen benachteiligt.
Das Bußgeld in den Niederlanden ist der wohl erste Fall, bei dem eine Regierung eine Strafe für die datenbasierte Diskriminierung von Bürger:innen zahlen muss. Der Datenschutzbeauftragte Aleid Wolfsen hebt deshalb die grundsätzliche Bedeutung des Falles hervor. „In einer Welt, in der die Digitalisierung rasant voranschreitet, wird es immer wichtiger, die persönlichen Daten von Individuen zu schützen, um andere Grundrechte wie die auf Sicherheit, Eigentum und Gesundheit zu wahren.“
Der Fall zeige exemplarisch, warum dies so wichtig ist. „Die unrechtmäßige Datenverarbeitung durch einen Algorithmus führte zu einer Verletzung des Rechts auf Gleichbehandlung und Nicht-Diskriminierung“, so Wolfsen weiter. Digitale Anträge seien inzwischen unersetzlich und würden es ermöglichen, große Informationsmengen auf praktische Weise zu verarbeiten und zu kombinieren. „Aber wenn das schiefgeht, dann geht es richtig schief.“
