zur Artikelübersicht

Video der Buchvorstellung

Zara Rahman’s „Machine Readable Me“: How collecting data can cause harm

In which databases do we leave traces – with or without our knowledge? How is data being used to categorize and evaluate individuals and groups? These questions were one of many discussed during Zara Rahman’s presentation of her book: Machine Readable Me. In the discussion with Aline Blankertz, she demonstrated how collected data has the power to grant or deny state or private services and even realize surveillance measures.
Die Autorin und Forscheri Zara Rahman und die Moderatorin Aline Blankertz, Referentin Politik und öffentlicher Sektor bei Wikimedia Deutschland. Foto: Ekvidi, WikimediaDE210324-12, CC0 1.0

Franziska Kelch

22. April 2024

—- german version below —-

The overarching question when it comes to the topic of data-collection is always: What is the right balance between collection and protection of data? The crucial factor here clearly is the intention: Is data collected to uncover or observe discrimination? Then it should be collected. But if you start to collect data about a massive group of people in their most vulnerable situation – and without purpose: Don’t do it. As so often, the emphasis lies within the context.

The collection of data: How data about who we are influences our lives

Rahman referred with this comment to the UN Refugee Agency’s database which holds a massive amount of biometric data, from refugees and displaced persons. These are oftentimes collected with no justifiable reason and without the knowledge of the persons concerned. She affirmed: there is no need for a standing, ever growing database. She demanded to only collect data in a privacy respecting way with full consent of the people affected and with a clearly stated social purpose, e.g. examination of structural discrimination.

Categorization of data in the digital age

Data nearly always is categorized. Consequently, data concerning human beings as well. With digitalisation, the habit of categorizing per se may have not become particularly worse, as European colonizers started categorizing people long before digitalisation. But one could say that the matter now is maybe more fixed and more extensive: with one click, you can share every categorized data you collected and thus influence people’s lives in a decisive way.

Videoaufzeichnung der Diskussion (Englisch)

By playing the video you agree that YouTube and Google might store and process your data. Please refer to Google’s Privacy Policy.

Discriminatory aspects of data collections

Digital data is assigned to different people differently without them even knowing, stated Rahman. She pointed to  a very specific example regarding this topic: the so-called Gangs Matrix in the UK. This database collected data from young, mostly black men in the UK based on the unjustified suspicion they might be members of a gang. This highly discriminatory database influenced people’s everyday lives negatively. For example, they were denied jobs because they were registered or schools did not accept the children of those affected. The justification for the collection of their data was in turn rooted in racist prejudices.

Here lies the problem with collecting biometric data: it is often deeply connected with various factors, such as a passport, skin color or even a refugee status.

The entire book presentation and subsequent discussion can be rewatched in this video

Zara Rahmans „Machine Readable Me“: Wann Daten sammeln Schaden anrichtet

In welchen Datenbanken hinterlassen wir Spuren – mit oder ohne unser Wissen? Wie werden diese Daten genutzt, um Individuen und Gruppen zu kategorisieren und zu bewerten? Und welche – mitunter diskriminierenden – Auswirkungen haben diese Bewertungen? Um diese Fragen ging es bei der Präsentation von Zara Rahmans Buch “Machine Readable Me”. In der Diskussion mit Aline Blankertz zeigte die Autorin auf, wie mit Daten, die über Individuen gesammelte werden Macht ausgeübt wird – weil sie zur Überwachung genutzt werden oder bestimmen, ob wir staatliche oder private Dienstleistungen erhalten.

Wie Datensammlungen unser Leben beeinflussen

Die übergreifende Frage beim Thema Datensammlung ist immer: Was ist die richtige Balance zwischen Sammeln von Daten und Schutz von Daten? Entscheidend ist dabei immer die Intention: Daten sammeln, um Diskriminierung aufzudecken und zu beobachten? Ja, natürlich! Aber eine ziellose Sammlung von Daten  einer großen Menschengruppe in einer extrem verletzlichen Situation? Nein. Wie so oft liegt die Betonung auf dem Kontext.

Rahman verwies mit dieser Bemerkung auf die Datenbank der UN Refugee Agency, die eine riesige Menge biometrischer Daten hauptsächlich von geflüchteten Personen enthält, und die ohne rechtfertigenden Grund gesammelt werden. Sie betont: Es besteht keine Notwendigkeit für eine solche ständig wachsende Datenbank. Rahman forderte, Daten nur unter Wahrung der Privatsphäre und mit der vollen Zustimmung der Betroffenen zu erheben und einen klar formulierten sozialen Zweck zu verfolgen, z. B. die Untersuchung von struktureller Diskriminierung.

Kategorisierung von Daten im digitalen Zeitalter

Daten werden fast immer kategorisiert. Folglich auch Daten, die Menschen betreffen. Mit der Digitalisierung hat sich die Gewohnheit des Kategorisierens vielleicht nicht neu erfunden, da europäische Kolonisatoren schon lange vor der Digitalisierung damit begonnen haben, Menschen zu kategorisieren. Aber man könnte sagen, dass die Verbreitung der Daten heute einfacher und weitreichender ist: mit einem Klick kann man alle kategorisierten Daten, die man gesammelt hat, teilen und so das Leben der betroffenen Menschen entscheidend beeinflussen.

Diskriminierende Aspekte von Datensammlungen

Digitale Daten unterschiedlicher Personen werden unterschiedlich behandelt, ohne dass die Betroffenen davon wissen, sagte Rahman. Sie verwies auf ein ganz konkretes Beispiel zu diesem Thema: die sogenannte Gangs Matrix in Großbritannien. In dieser Datenbank wurden Daten von jungen, meist Schwarzen Männern im Vereinigten Königreich gesammelt. Hauptsächlich aufgrund des unbegründeten und ungerechtfertigten Verdachts, diese könnten Mitglieder einer Gang sein. Die höchst diskriminierende Sammlung persönlicher Daten beeinflusste den Alltag der Menschen negativ, während die Rechtfertigung für die Erfassung ihrer Daten wiederum auf rassistischen Vorurteilen beruhte. So wurden ihnen aufgrund einer Eintragung Jobs verwehrt oder Schulen nahmen die Kinder der Betroffenen nicht auf.

Hier liegt das Problem bei der Erfassung biometrischer Daten: Sie sind eng mit verschiedenen Faktoren verknüpft, z. B. mit dem Reisepass, der Hautfarbe oder sogar dem Flüchtlingsstatus.