---
title: How can feminism inform AI governance in practice?
authors:
  - P. Ricaurte
year: 2024
type: report
doi: 
url: "https://www.unesco.org/en/articles/how-can-feminism-inform-ai-governance-practice"
tags:
  - paper
llm_decision: Include
llm_confidence: 0.95
llm_categories:
  - KI_Sonstige
  - Bias_Ungleichheit
  - Gender
  - Diversitaet
  - Feministisch
  - Fairness
human_decision: Exclude
human_categories: []
agreement: disagree
---

# How can feminism inform AI governance in practice?

## Transformation Trail

### Stufe 1: Extraktion & Klassifikation (LLM)

**Extrahierte Kategorien:** AI_Literacies, KI_Sonstige, Soziale_Arbeit, Bias_Ungleichheit, Gender, Diversitaet, Feministisch, Fairness
**Argumente:** 4 extrahiert

### Stufe 3: Verifikation (LLM)

| Metrik | Score |
|--------|-------|
| Completeness | 92 |
| Correctness | 98 |
| Category Validation | 95 |
| **Overall Confidence** | **94** |

### Stufe 4: Assessment

**LLM:** Include (Confidence: 0.95)
**Human:** Exclude

**Kategorie-Vergleich (bei Divergenz):**

| Kategorie | Human | LLM | Divergent |
|-----------|-------|-----|----------|
| AI_Literacies | Nein | Nein |  |
| Generative_KI | Nein | Nein |  |
| Prompting | Nein | Nein |  |
| KI_Sonstige | Nein | Ja | X |
| Soziale_Arbeit | Nein | Nein |  |
| Bias_Ungleichheit | Nein | Ja | X |
| Gender | Nein | Ja | X |
| Diversitaet | Nein | Ja | X |
| Feministisch | Nein | Ja | X |
| Fairness | Nein | Ja | X |

> Siehe [[Divergenz Ricaurte_2024_How_can_feminism_inform_AI_governance_in_practice]] fuer detaillierte Analyse


## Wissensdokument

# How can feminism inform AI governance in practice?

## Kernbefund

Feminist AI Governance adressiert Machtungleichgewichte im KI-Ökosystem durch systemic-strukturelle Ansätze und erkennt algorithmische Systeme als soziotechnische Assemblierungen an, die von Machtverhältnissen geprägt sind. Drei implementierte Initiativen demonstrieren die Machbarkeit und Notwendigkeit, KI-Systeme auf Basis von sozialer Gerechtigkeit, Menschenrechten und Care-Prinzipien zu entwickeln.

## Forschungsfrage

Wie können feministische Perspektiven und Prinzipien die Governance, Entwicklung und den Einsatz von KI-Systemen demokratischer, gerechter und inklusiver gestalten?

## Methodik

Theoretisch-konzeptionell mit Praxisbeispielen; Mixed-Methods Ansatz (Dokumentation von drei Fallstudien mit partizipativen Elementen)
**Datenbasis:** Qualitativ: ~200 Teilnehmer:innen in globalen Konsultationen (GPAI Working Group); 13 inkubierte Projekte im LAC-Hub des Incubating Feminist AI; Symposium mit Regierungsvertreter:innen und Stakeholder:innen (Buenos Aires 2023)

## Hauptargumente

- Algorithmen sind nicht neutrale mathematische Entitäten, sondern kontextuelle, situierte Konstrukte, die von sozialen Relationen und kulturellen Werten geprägt sind ('Algorithms are opinions embedded in code'); daher müssen sie als Produkte von Machtverhältnissen und nicht nur als technische Systeme verstanden werden.
- Feminist AI Governance adressiert strukturelle Ungleichheiten, koloniale Kontinuitäten und multidimensionale Schäden, die marginalisierte Gemeinschaften und Territorien des globalen Südens disproportional beeinflussen; zentral ist die Umverteilung von Macht in hochkonzentrierten und ungleichen KI-Ökosystemen.
- Praktische Implementierung zeigt, dass Technologien aus Care-Prinzipien entwickelt werden können und dass Frauen und rassialisierte Communities aktiv an der Gestaltung ihrer eigenen Technologien teilhaben können ('Nothing about us, without us'); dies erfordert aber institutionelle Unterstützung, ausreichende Finanzierung und politischen Willen.
- Eine intersektionale, partizipative und auf Menschenrechten basierende Feminist AI Governance ermöglicht es, Diversitäts- und Gleichstellungsaspekte über den gesamten KI-Lebenszyklus (nicht nur Data/AI-Pipeline) zu integrieren und so zu integraler planetarer Gerechtigkeit beizutragen.

## Kategorie-Evidenz

### Evidenz 1

Der Text diskutiert grundlegende Fragen zur Kompetenzvermittlung: 'Who can develop AI? Where? How? For what purpose? Why?' und adressiert die Notwendigkeit, Verständnis für die Kontextualität von Algorithmen zu schaffen.

### Evidenz 2

Fokus auf algorithmic assemblages, algorithmische Entscheidungssysteme und deren gesellschaftliche Implikationen: 'algorithmic assemblages result from the ensemble of the mathematical and the infrastructural, the sociopolitical and the cultural'.

### Evidenz 3

Die 13 Projekte adressieren 'profound societal issues' und sind 'grounded in communities'; Care-Ansatz ist zentral: 'involve nurturing processes and challenging the underlying assumptions of what technology is'.

### Evidenz 4

Expliziter Fokus auf strukturelle Ungleichheiten: 'addressing power imbalances in the AI ecosystem, considering structural inequalities, colonial legacies, and the multidimensional harms that disproportionately affect communities of the global majority'.

### Evidenz 5

Gender ist zentral für die Initiativen: 'Argentine Ministry of Foreign Affairs and UNESCO organized the Symposium on Feminist Contributions in Artificial Intelligence' und 'Towards Real Diversity and Gender Inclusion in AI Ecosystems'.

### Evidenz 6

Inklusion und Repräsentation sind Kernziele: 'ensure that our ethical frameworks and governance structures reflect the principles of diversity, equity, and inclusion' und 'lack of representation in governance structures of countries, territories and populations of the global majority'.

### Evidenz 7

Explizit feministische Rahmenwerk und Theorie: 'Based on feminist principles and a critical understanding of the role of technology in society'; Verwendung von Design Justice Prinzipien; intersektionaler Ansatz; Bezug zu feministischen Konzepten von Care und 'Nothing about us, without us'.

### Evidenz 8

Fairness und Gerechtigkeit sind zentral für das Konzept: 'aimed to ensure that artificial intelligence systems are governed, designed, developed, deployed, and used in ways that are just, equitable, and inclusive'; 'pursuing fair, equitable and inclusive AI systems in the pursuit of universal access to human rights'.

## Assessment-Relevanz

**Domain Fit:** Hochgradig relevant für die Schnittstelle KI/Soziale Arbeit/Gender: Das Paper artikuliert einen ganzheitlichen, feministischen Governance-Ansatz, der strukturelle Ungleichheiten adressiert und Community-basierte technologische Entwicklung mit Care-Prinzipien verbindet—zentral für sozialarbeiterische Praxis mit marginalisierten Gruppen.

**Unique Contribution:** Der Text leistet einen originären Beitrag durch die konzeptionelle Definition und praktische Operationalisierung von 'Feminist AI Governance' als Feld mit systematischem, intersektionalem Ansatz und dokumentiert konkrete, multi-stakeholder Implementierungen auf regionaler und internationaler Ebene.

**Limitations:** Das Paper ist primär konzeptionell-deskriptiv; es fehlen tiefere Evaluationen der langfristigen Wirkung und quantitative Effektivitätsmessungen der beschriebenen Initiativen; zudem wird die Nachhaltigkeitsproblematik (begrenzte Finanzierung, fehlende Policy-Integration) erwähnt, aber nicht systematisch analysiert.

**Target Group:** Policymaker und Regierungsvertreter:innen in KI und Gender/Gleichstellung; KI-Entwickler:innen und Technolog:innen mit sozialem Bewusstsein; Sozialarbeiter:innen und NGOs in Kontexten des globalen Südens; Forscher:innen in Gender Studies, AI Ethics und Critical Technology Studies; internationale Organisationen (UNESCO, IDRC); Aktivist:innen und Advocate:innen für Geschlechtergerechtigkeit und digitale Gerechtigkeit.

## Schlüsselreferenzen

- [[ONeil_Cathy_nicht angegeben]] - Algorithms are opinions embedded in code
- [[UNESCO_2023]] - Recommendation on the Ethics of AI
- [[Ricaurte_Paola_2024]] - Incubating Feminist AI in Latin America (IDRC-funded)
- [[Argentine_Ministry_of_Foreign_Affairs_UNESCO_2023]] - Feminist Contributions in Artificial Intelligence: Epistemological Justice and Ethics of Equality (Buenos Aires Symposium)
- [[Global_Partnership_on_Artificial_Intelligence_GPAI_2024]] - Towards Real Diversity and Gender Inclusion in AI Ecosystems (Responsible AI Working Group)
