Zara Rahman’s „Machine Readable Me“: How collecting data can cause harm

—- german version below —-

The overarching question when it comes to the topic of data-collection is always: What is the right balance between collection and protection of data? The crucial factor here clearly is the intention: Is data collected to uncover or observe discrimination? Then it should be collected. But if you start to collect data about a massive group of people in their most vulnerable situation – and without purpose: Don’t do it. As so often, the emphasis lies within the context.

Rahman referred with this comment to the UN Refugee Agency’s database which holds a massive amount of biometric data, from refugees and displaced persons. These are oftentimes collected with no justifiable reason and without the knowledge of the persons concerned. She affirmed: there is no need for a standing, ever growing database. She demanded to only collect data in a privacy respecting way with full consent of the people affected and with a clearly stated social purpose, e.g. examination of structural discrimination.

Data nearly always is categorized. Consequently, data concerning human beings as well. With digitalisation, the habit of categorizing per se may have not become particularly worse, as European colonizers started categorizing people long before digitalisation. But one could say that the matter now is maybe more fixed and more extensive: with one click, you can share every categorized data you collected and thus influence people’s lives in a decisive way.

Digital data is assigned to different people differently without them even knowing, stated Rahman. She pointed to  a very specific example regarding this topic: the so-called Gangs Matrix in the UK. This database collected data from young, mostly black men in the UK based on the unjustified suspicion they might be members of a gang. This highly discriminatory database influenced people’s everyday lives negatively. For example, they were denied jobs because they were registered or schools did not accept the children of those affected. The justification for the collection of their data was in turn rooted in racist prejudices.

Here lies the problem with collecting biometric data: it is often deeply connected with various factors, such as a passport, skin color or even a refugee status.

The entire book presentation and subsequent discussion can be rewatched in this video

In welchen Datenbanken hinterlassen wir Spuren – mit oder ohne unser Wissen? Wie werden diese Daten genutzt, um Individuen und Gruppen zu kategorisieren und zu bewerten? Und welche – mitunter diskriminierenden – Auswirkungen haben diese Bewertungen? Um diese Fragen ging es bei der Präsentation von Zara Rahmans Buch “Machine Readable Me”. In der Diskussion mit Aline Blankertz zeigte die Autorin auf, wie mit Daten, die über Individuen gesammelte werden Macht ausgeübt wird – weil sie zur Überwachung genutzt werden oder bestimmen, ob wir staatliche oder private Dienstleistungen erhalten.

Die übergreifende Frage beim Thema Datensammlung ist immer: Was ist die richtige Balance zwischen Sammeln von Daten und Schutz von Daten? Entscheidend ist dabei immer die Intention: Daten sammeln, um Diskriminierung aufzudecken und zu beobachten? Ja, natürlich! Aber eine ziellose Sammlung von Daten  einer großen Menschengruppe in einer extrem verletzlichen Situation? Nein. Wie so oft liegt die Betonung auf dem Kontext.

Rahman verwies mit dieser Bemerkung auf die Datenbank der UN Refugee Agency, die eine riesige Menge biometrischer Daten hauptsächlich von geflüchteten Personen enthält, und die ohne rechtfertigenden Grund gesammelt werden. Sie betont: Es besteht keine Notwendigkeit für eine solche ständig wachsende Datenbank. Rahman forderte, Daten nur unter Wahrung der Privatsphäre und mit der vollen Zustimmung der Betroffenen zu erheben und einen klar formulierten sozialen Zweck zu verfolgen, z. B. die Untersuchung von struktureller Diskriminierung.

Daten werden fast immer kategorisiert. Folglich auch Daten, die Menschen betreffen. Mit der Digitalisierung hat sich die Gewohnheit des Kategorisierens vielleicht nicht neu erfunden, da europäische Kolonisatoren schon lange vor der Digitalisierung damit begonnen haben, Menschen zu kategorisieren. Aber man könnte sagen, dass die Verbreitung der Daten heute einfacher und weitreichender ist: mit einem Klick kann man alle kategorisierten Daten, die man gesammelt hat, teilen und so das Leben der betroffenen Menschen entscheidend beeinflussen.

Digitale Daten unterschiedlicher Personen werden unterschiedlich behandelt, ohne dass die Betroffenen davon wissen, sagte Rahman. Sie verwies auf ein ganz konkretes Beispiel zu diesem Thema: die sogenannte Gangs Matrix in Großbritannien. In dieser Datenbank wurden Daten von jungen, meist Schwarzen Männern im Vereinigten Königreich gesammelt. Hauptsächlich aufgrund des unbegründeten und ungerechtfertigten Verdachts, diese könnten Mitglieder einer Gang sein. Die höchst diskriminierende Sammlung persönlicher Daten beeinflusste den Alltag der Menschen negativ, während die Rechtfertigung für die Erfassung ihrer Daten wiederum auf rassistischen Vorurteilen beruhte. So wurden ihnen aufgrund einer Eintragung Jobs verwehrt oder Schulen nahmen die Kinder der Betroffenen nicht auf.

Hier liegt das Problem bei der Erfassung biometrischer Daten: Sie sind eng mit verschiedenen Faktoren verknüpft, z. B. mit dem Reisepass, der Hautfarbe oder sogar dem Flüchtlingsstatus.