---
title: Data feminism for AI
authors:
  - L. Klein
  - C. D'Ignazio
year: 2024
type: conferencePaper
doi: 10.1145/3630106.3658543
url: "https://doi.org/10.1145/3630106.3658543"
tags:
  - paper
llm_decision: Include
llm_confidence: 0.95
llm_categories:
  - KI_Sonstige
  - Bias_Ungleichheit
  - Gender
  - Diversitaet
  - Feministisch
  - Fairness
human_decision: Exclude
human_categories:
  - AI_Literacies
  - Generative_KI
  - KI_Sonstige
  - Bias_Ungleichheit
  - Gender
  - Diversitaet
  - Feministisch
  - Fairness
agreement: disagree
---

# Data feminism for AI

## Transformation Trail

### Stufe 1: Extraktion & Klassifikation (LLM)

**Extrahierte Kategorien:** AI_Literacies, Generative_KI, KI_Sonstige, Bias_Ungleichheit, Gender, Diversitaet, Feministisch, Fairness
**Argumente:** 3 extrahiert

### Stufe 3: Verifikation (LLM)

| Metrik | Score |
|--------|-------|
| Completeness | 92 |
| Correctness | 98 |
| Category Validation | 95 |
| **Overall Confidence** | **95** |

### Stufe 4: Assessment

**LLM:** Include (Confidence: 0.95)
**Human:** Exclude

**Kategorie-Vergleich (bei Divergenz):**

| Kategorie | Human | LLM | Divergent |
|-----------|-------|-----|----------|
| AI_Literacies | Ja | Nein | X |
| Generative_KI | Ja | Nein | X |
| Prompting | Nein | Nein |  |
| KI_Sonstige | Ja | Ja |  |
| Soziale_Arbeit | Nein | Nein |  |
| Bias_Ungleichheit | Ja | Ja |  |
| Gender | Ja | Ja |  |
| Diversitaet | Ja | Ja |  |
| Feministisch | Ja | Ja |  |
| Fairness | Ja | Ja |  |

> Siehe [[Divergenz Klein_2024_Data]] fuer detaillierte Analyse


## Key Concepts

- [[Intersectional Feminism in AI]]

## Wissensdokument

# Data Feminism for AI

## Kernbefund

Die sieben Prinzipien der Data Feminism (Macht untersuchen, Macht herausfordern, Binäre und Hierarchien überdenken, Emotion und Verkörperung erheben, Kontext berücksichtigen, Pluralismus umarmen, Arbeit sichtbar machen) sind auf KI-Forschung anwendbar und können durch zwei zusätzliche Prinzipien (Umweltauswirkungen, Zustimmung) erweitert werden.

## Forschungsfrage

Wie können intersektional-feministische Prinzipien zur Förderung von gerechter, ethischer und nachhaltiger KI-Forschung angewendet werden?

## Methodik

Theoretisch; Literaturbasierte Analyse und Reartikulierung existierender Prinzipien mit neuen Anwendungen auf KI-Systeme; Keine empirische Datenerhebung

## Hauptargumente

- Feminismus, insbesondere intersektionaler Feminismus, bietet kritische analytische Werkzeuge zur Analyse und Herausforderung ungleicher Machtstrukturen in KI-Forschung und -Entwicklung, die über technische Fairness-Ansätze hinausgehen.
- Die ungleiche Machtverteilung in KI wird durch extraktive Arbeitsstrukturen, koloniale Hierarchien zwischen Global North und Global South, geschlechterbasierte Ausbeutung und mangelnde Mitsprache marginalisierter Gruppen perpetuiert.
- Ein feministischer Ansatz zu KI erfordert Sichtbarmachung unsichtbarer Arbeit (Data Annotation, Content Moderation), Berücksichtigung von Kontextualität und historischen Zusammenhängen, sowie strukturelle Umgestaltung von Forschungsfinanzierung und akademischen Einstellungspraktiken zur Überwindung von informatik-zentrierten Hierarchien.

## Kategorie-Evidenz

### Evidenz 1

Diskussion darüber, wie KI-Forscher:innen und -Entwickler:innen feministische Prinzipien in ihre Arbeit integrieren können; 'people working with data, who wanted to work with data, or who wanted to refuse to work with data on political or personal grounds'

### Evidenz 2

Extensive Diskussion von Language Models, Large Language Models (LLMs), generativen KI-Systemen und deren Trainings-Datenquellen; 'training data, which we began to discuss with respect to language models'; 'the energy and water requirements of LLMs'

### Evidenz 3

Breite KI-Themen behandelt: Computer Vision, NLP, Algorithmic Decision-Making, Facial Analysis, Topic Modeling, Deep Fakes; 'research on computer vision systems', 'text-to-image models'

### Evidenz 4

Kernfokus auf algorithmischen Bias und strukturelle Ungleichheit: 'how data was being used to amplify existing structural inequalities'; 'reproduce of sexist, racist, and colonial biases'; Analyse von Machtstrukturen und Diskriminierungsmechanismen

### Evidenz 5

Expliziter Gender-Fokus auf Geschlechtergewalt, Abtreibungsrechte, Trans-Gerechtigkeit, Gender-Bias in NLP; 'attacks on the bodily autonomy of some are attacks on the autonomy of all'; Diskussion von Deepfakes und 'AI-induced gender violence'

### Evidenz 6

Durchgehender Fokus auf marginalisierte Communities, intersektionale Perspektiven, Global South vs. Global North; 'women of color feminists, and Black feminists'; 'Two Spirit, genderqueer, travesti, nonbinary people'; indigene feministische Perspektiven

### Evidenz 7

Explizit intersektional-feministische Theorie als Fundament; Referenzen zu Crenshaw (Intersectionality), Combahee River Collective, Patricia Hill Collins (Matrix of Domination); 'intersectional feminism', 'feminist epistemology'; Wendung zu Ökofeminismus und queeren Zustimmungskonzepten

### Evidenz 8

Kritische Analyse von Fairness-Ansätzen in ML/KI; Discussion von 'AI fairness research' und deren Limitationen; Verknüpfung mit strukturellen Machtfragen über technische Fairness-Metriken hinaus

## Assessment-Relevanz

**Domain Fit:** Außerordentlich relevant für die Schnittstelle KI und Gender Studies; bietet kritische Analyse struktureller Ungleichheiten in KI-Systemen. Für Soziale Arbeit relevant als Analyse von Auswirkungen diskriminierender KI-Systeme auf vulnerable Gruppen (Reproduktive Gerechtigkeit, Trans-Gerechtigkeit, Arbeitnehmerausbeutung), aber nicht auf spezifische sozialarbeiterische Praxis fokussiert.

**Unique Contribution:** Systematische Erweiterung und Kontextualisierung von sieben etablierten Data-Feminism-Prinzipien speziell für KI-Systeme unter Berücksichtigung generativer KI und neuer Bedenken (Umweltimpakt, Zustimmung); Integration von ökofeminalistischen und indigenen Perspektiven.

**Limitations:** Primär theoretisch-konzeptionell ohne empirische Validierung der Prinzipien; begrenzte Diskussion konkreter Implementierungsmechanismen in existierenden Organisationen; Fokus auf akademische und US-amerikanische Kontexte; keine ausführliche Behandlung von spezifischen Sozialen Arbeitskontexten.

**Target Group:** KI-Forscher:innen und -Entwickler:innen; AI Ethics und FAccT-Community; Policy-Maker:innen; Digital Rights Advocate:innen; Feminist Scholars; Social Computing Forscher:innen; Sekundär relevant für Sozialarbeiter:innen, die mit KI-induzierten Harms (Überwachung, Reproduktive Justiz, Arbeitnehmerausbeutung) arbeiten

## Schlüsselreferenzen

- [[DIgnazio_Catherine_Klein_Lauren_2020]] - Data Feminism
- [[Buolamwini_Joy_Gebru_Timnit_2018]] - Gender Shades: Intersectional Accuracy Disparities in Commercial Gender Classification
- [[Crenshaw_Kimberlé_1989]] - Demarginalizing the Intersection of Race and Sex
- [[Collins_Patricia_Hill_1990]] - Black Feminist Thought: Knowledge, Consciousness, and the Politics of Empowerment
- [[Combahee_River_Collective_1977]] - A Black Feminist Statement
- [[Sloane_Mona_et_al_2022]] - Participation Is not a Design Fix for Machine Learning
- [[Hampton_Leila_Marie_2021]] - Black Feminism and Algorithmic Oppression
- [[Posada_Julian_2022]] - Capitalism, Colonialism, and AI Labor Extraction
- [[Toupin_Sophie_2023]] - Shaping Feminist Artificial Intelligence
- [[Adam_Alison_1998]] - Artificial Knowing: Feminist Epistemology and Philosophy of Mind
