---
title: Training in Co-Creation as a Methodological Approach to Improve AI Fairness
authors:
  - I. Slesinger
  - E. Yalaz
  - S. Rizouli
  - E. Komninos
  - S. Papadopoulos
  - M. Gibin
year: 2024
type: journalArticle
doi: 
url: "https://cris.unibo.it/retrieve/707c849f-3aeb-4ca3-8d1f-2817960064bd/societies-14-00259%20(1).pdf"
tags:
  - paper
llm_decision: Include
llm_confidence: 0.92
llm_categories:
  - AI_Literacies
  - KI_Sonstige
  - Bias_Ungleichheit
  - Diversitaet
  - Feministisch
  - Fairness
human_decision: Include
human_categories:
  - AI_Literacies
  - KI_Sonstige
  - Soziale_Arbeit
  - Bias_Ungleichheit
  - Gender
  - Diversitaet
  - Fairness
agreement: agree
---

# Training in Co-Creation as a Methodological Approach to Improve AI Fairness

## Transformation Trail

### Stufe 1: Extraktion & Klassifikation (LLM)

**Extrahierte Kategorien:** AI_Literacies, KI_Sonstige, Soziale_Arbeit, Bias_Ungleichheit, Gender, Diversitaet, Fairness
**Argumente:** 3 extrahiert

### Stufe 3: Verifikation (LLM)

| Metrik | Score |
|--------|-------|
| Completeness | 88 |
| Correctness | 92 |
| Category Validation | 92 |
| **Overall Confidence** | **90** |

### Stufe 4: Assessment

**LLM:** Include (Confidence: 0.92)
**Human:** Include

## Wissensdokument

# Training in Co-Creation as a Methodological Approach to Improve AI Fairness

## Kernbefund

Training in Co-Creation Prozessen kann technische Barrieren reduzieren und nicht-technische Stakeholder befähigen, informiert über AI-Bias zu diskutieren, erfordert aber sorgfältige Kalibrierung des Inhalts und kritische Reflexion zur Vermeidung von instrumentalisierendem 'Ethics-Washing'.

## Forschungsfrage

Wie können Schulungskomponenten in Co-Creation-Prozessen effektiv integriert werden, um KI-Bias für vulnerable und marginalisierte Gruppen zugänglicher zu machen?

## Methodik

Mixed Methods - Empirisch: Co-Creation Workshops mit vulnerable Gruppen (n=3 Organisationen mit unterschiedlichen Teilnehmergruppen), kombiniert mit Expert:innen-Analysen, Datenerhebung durch strukturierte Workshops mit Use-Case-Evaluationen
**Datenbasis:** 3 Co-Creation Workshops mit vulnerablen Gruppen (Arbeitslose, ältere Frauen, LGBTQ+ Personen, Minderheiten), Expert:innen-Interviews, Textanalyse von Workshop-Zusammenfassungen

## Hauptargumente

- Participatory Design und Co-Creation sind notwendig für faire KI-Gestaltung, besonders wenn marginalisierte Gruppen miteinbezogen werden, da ihre Perspektiven und 'tacit knowledge' systemische Bias-Faktoren aufdecken können, die technische Expert:innen übersehen.
- Ein-Training zu AI-Definitionen und Bias-Grundlagen ermöglicht es nicht-technischen Stakeholdern, mit sozialtechnischen Komplexitäten zu engagieren, ohne sie zu entfremden - dies erfordert ein Gleichgewicht zwischen Zugänglichkeit und technischer Substanz.
- Kritische Reflexion ist notwendig, um zu verhindern, dass Co-Creation von mächtigen Institutionen als 'Compliance Theater' missbräuchlich verwendet wird - echte Inklusion erfordert Machtverhältnisse und Ressourcenausstattung zu hinterfragen.

## Kategorie-Evidenz

### Evidenz 1

Training component designed to make AI bias more accessible by incorporating AI definitions and terminology. 'RUG designed the training with the assumption that participants would have little prior knowledge of AI technology... took a deliberate strategy of ensuring the training was designed and presented in a way that participants required zero prior technical knowledge'

### Evidenz 2

Paper focuses on AI bias detection and mitigation in multiple modalities (text, datasets, images, audio) and multi-attribute approaches accounting for intersecting forms of bias in AI systems

### Evidenz 3

Engagement with vulnerable and marginalized participant groups including unemployed people, LGBTQ+ communities, ethnic minorities. Use cases relevant to social impact: financial decisions (loan applications), identity verification, academic citation searches

### Evidenz 4

Core focus on AI bias as 'the inclination or prejudice of a decision made by an AI system which is for or against one person or group, often leading to unfair treatment and discrimination'. Paper emphasizes how bias results from socio-technical factors and reproduces existing inequalities

### Evidenz 5

Explicit analysis of gender bias in AI systems. Example provided: 'DAF added an example based on generative AI queries on the responsibilities of fathers and mothers that reproduced outdated and stereotypical gender roles' and gender bias in Google Translate

### Evidenz 6

Multi-attribute approach to bias accounting for 'intersecting forms of bias... based on multiple characteristics of vulnerability or marginalization, e.g., gender, age, ethnic origin, and sexual orientation'. Paper addresses inclusion of children, refugees, older adults, people with disabilities, ethnic minorities, LGBTQ+ people

### Evidenz 7

Paper explicitly addresses algorithmic fairness through Co-Creation. 'Fairness in the context of AI systems is established by preventing bias, discrimination, and stigmatization'. Participants engaged in evaluating fairness of AI systems and suggesting fair alternatives

## Assessment-Relevanz

**Domain Fit:** Hochgradig relevant für die Schnittstelle von KI, Sozialer Arbeit und Gerechtigkeitsperspektiven. Das Paper adressiert direkt, wie vulnerable Gruppen (klassische Zielgruppen Sozialer Arbeit) in KI-Gestaltungsprozessen eingebunden werden können und welche methodologischen Hürden dabei entstehen.

**Unique Contribution:** Der einzigartige Beitrag liegt in der empirischen Analyse von Training als methodologischer Komponente in Co-Creation-Prozessen für KI-Fairness, kombiniert mit kritischer Reflexion über Machtverhältnisse, 'Ethics-Washing' und die Notwendigkeit differenzierter Ansätze für diverse marginalisierte Gruppen.

**Limitations:** Begrenzte Stichprobe (3 Workshops), keine Langzeit-Follow-up zur tatsächlichen Umsetzung der Anforderungen in das finale Toolkit, Fokus auf europäische Kontexte und EU-regulatorische Rahmenbedingungen, fehlende tiefere intersektionale Analyse einzelner Gruppen

**Target Group:** KI-Entwickler:innen und UX-Designer:innen, Sozialarbeiter:innen und Gemeinwesenarbeiter:innen, Policy-Maker im Bereich AI Governance, Disability Rights und Diversity Advocate:innen, Wissenschaftler:innen in HCI und Participatory Design, NGOs und Zivilgesellschaftsorganisationen, Regulatoren (EU AI Act)

## Schlüsselreferenzen

- [[Bødker_S_Dindler_C_Iversen_OS_Smith_RC_2022]] - What Is Participatory Design?
- [[Rose_EJ_2016]] - Design as Advocacy: Using a Human-Centered Approach
- [[Ramirez_Galleguillos_M_Coşkun_A_2020]] - How Do I Matter? A Review of the Participatory Design Practice with Less Privileged Participants
- [[Wang_Q_Madaio_M_Kane_S_Kapania_S_Terry_M_Wilcox_L_2023]] - Designing Responsible AI: Adaptations of UX Practice to Meet Responsible AI Challenges
- [[Birhane_A_Isaac_W_Prabhakaran_V_Diaz_M_Elish_MC_Gabriel_I_Mohamed_S_2022]] - Power to the People? Opportunities and Challenges for Participatory AI
- [[Delgado_F_Yang_S_Madaio_M_Yang_Q_2023]] - The Participatory Turn in AI Design: Theoretical Foundations and Current State of Practice
- [[Suresh_H_Movva_R_Dogan_AL_Bhargava_R_Cruxen_I_Cuba_AM_Taurino_G_So_W_DIgnazio_C_2022]] - Towards Intersectional Feminist and Participatory ML
- [[Katell_M_Young_M_Dailey_D_Herman_B_Guetler_V_Tam_A_Bintz_C_Raz_D_Krafft_PM_2020]] - Toward Situated Interventions for Algorithmic Equity
- [[Wagner_B_2018]] - Ethics as an Escape from Regulation: From 'Ethics-Washing' to Ethics-Shopping?
- [[Krasanakis_E_Gibin_M_Rizou_S_2024]] - AI Fairness Definition Guide
