---
title: A reparative turn in AI
authors:
  - R. Singh
  - J. Posada
  - D. Penney
year: 2025
type: report
doi: 
url: "https://arxiv.org/pdf/2506.05687"
tags:
  - paper
llm_decision: Include
llm_confidence: 0.92
llm_categories:
  - KI_Sonstige
  - Bias_Ungleichheit
  - Fairness
human_decision: Include
human_categories:
  - Generative_KI
  - KI_Sonstige
  - Bias_Ungleichheit
  - Diversitaet
  - Fairness
agreement: agree
---

# A reparative turn in AI

## Transformation Trail

### Stufe 1: Extraktion & Klassifikation (LLM)

**Extrahierte Kategorien:** Generative_KI, KI_Sonstige, Bias_Ungleichheit, Diversitaet, Fairness
**Argumente:** 3 extrahiert

### Stufe 3: Verifikation (LLM)

| Metrik | Score |
|--------|-------|
| Completeness | 88 |
| Correctness | 93 |
| Category Validation | 92 |
| **Overall Confidence** | **91** |

### Stufe 4: Assessment

**LLM:** Include (Confidence: 0.92)
**Human:** Include

## Key Concepts

- [[Algorithmic Discrimination]]
- [[Reparative Justice in AI]]
- [[Transformative Justice Framework]]

## Wissensdokument

# What Comes After Harm? Mapping Reparative Actions in AI through Justice Frameworks

## Kernbefund

Reparationsbemühungen konzentrieren sich stark auf symbolische, frühe Phasen (Ankündigung, Attribution), während Maßnahmen zur Rechenschaftspflicht und Systemreform deutlich seltener sind. Nur 10,75% der Fälle zeigen Strafen und 6,13% Kompensationen, was auf ein erhebliches Verantwortungsdefizit hindeutet.

## Forschungsfrage

Welche Arten von Reparationsmaßnahmen werden nach AI-Schäden eingeleitet, wer ist beteiligt, und wie verteilen sich diese Maßnahmen auf dokumentierte Fälle?

## Methodik

Mixed-Methods: Qualitative Themenanalyse einer absichtlich gewählten Teilmenge von Vorfällen zur Entwicklung einer Taxonomie, anschließend LLM-gestützte Kodierung und quantitative Analyse von 1.060 AI-Schäden aus dem AIAAIC-Datensatz mit manueller Überprüfung (Inter-Rater-Reliabilität: 93,33% für Aktionen, 90% für Stakeholder).
**Datenbasis:** n=1.060 AI-Harm-Vorfälle aus dem AIAAIC-Repository (dokumentiert vor Dezember 2024), qualitativ analysierte Teilmenge für Taxonomieentwicklung, Validierungsstichprobe von 200 Fällen für LLM-Genauigkeit

## Hauptargumente

- Die aktuelle Landscape der AI-Schadensbearbeitung zeigt eine systematische Verzerrung hin zu Kommunikation und symbolischen Maßnahmen: AI-Unternehmen sind in 4x höherem Maße an Stellungnahmen/Entschuldigungen beteiligt als an Kompensation, Produktrückrufen oder Designänderungen, was auf Wahrnehmungsmanagement statt substantielle Reformen hindeutet.
- Betroffene Gemeinschaften haben minimalen Einfluss auf Reparationsergebnisse: Sie erscheinen hauptsächlich in reaktiven Rollen (öffentlicher Aufschrei, Klageeinleitung), sind aber weitgehend abwesend bei Kompensation, Designänderungen oder Politikreformen, was ein Machtungleichgewicht in der Reparationspraxis offenbart.
- Drei Gerechtigkeitsrahmen (Straf-, Wiederherstellungs- und Transformative Justice) zeigen, dass bestehende Reparationspraktiken grundlegende Anforderungen für echte Gerechtigkeit nicht erfüllen: Fehlende Rechenschaftspflicht, begrenzte Unterstützung betroffener Gemeinschaften und Versäumnis, strukturelle Bedingungen zu adressieren, die Schäden ermöglichten.

## Kategorie-Evidenz

### Evidenz 1

Das Paper analysiert Schäden durch generative KI-Systeme wie Chatbots (Character AI), Deepfakes-Technologien (Synthesia) und KI-Video-Generierung explizit als Teilmenge der 1.060 Vorfälle.

### Evidenz 2

Umfassende Analyse von Schäden durch algorithmische Entscheidungssysteme, Gesichtserkennung (Clearview AI), predictive policing, Einstellungsalgorithmen und automatisierte Systeme im allgemeinen.

### Evidenz 3

Das Paper untersucht systematisch diskriminatorische und ungleiche Auswirkungen von AI, etwa Geschlechterbias in LinkedIn-Algorithmen, rassistische Beauty-Standards in FaceApp-Filtern, und disparate Impact in Einstellungssystemen. Es betont strukturelle Ungerechtigkeit und ungleiche Machtverteilung zwischen Unternehmen und betroffenen Gemeinschaften.

### Evidenz 4

Fokus auf marginalisierte Communities und unterrepräsentierte Gruppen: Kindern (TikTok-Datenschutz), Frauen (Deepfakes, KI-Nacktbilder), Minoritäten (LinkedIn-Bias, FaceApp), und systemisch benachteiligte Bevölkerungsgruppen, die von AI-Harm unverhältnismäßig stark betroffen sind.

### Evidenz 5

Das Paper entwickelt einen Rahmen für gerechte (fair) Reparationspraktiken basierend auf drei Gerechtigkeitstheorien und kritisiert bestehende Systeme für mangelnde Fairness in Reparationsprozessen, Stakeholder-Beteiligung und Resultatverteilung.

## Assessment-Relevanz

**Domain Fit:** Das Paper hat moderate Relevanz für die Schnittstelle AI/Soziale Arbeit: Es adressiert strukturelle Gerechtigkeit, marginalisierte Communities und Machtungleichgewichte, was zentrale Anliegen Sozialer Arbeit sind. Allerdings liegt der Fokus primär auf AI-Governance und Unternehmensverantwortung, nicht auf sozialarbeiterische Praxis oder Intervention.

**Unique Contribution:** Das Paper leistet einen systematischen und theoretisch grundierten Beitrag zur Schließung der Forschungslücke zwischen AI-Schadensidentifikation und -reparation durch eine umfassende Taxonomie reparativer Maßnahmen und kritische Analyse deren Unzulänglichkeit gegen drei Gerechtigkeitsrahmen.

**Limitations:** Analyse begrenzt auf dokumentierte Vorfälle im AIAAIC-Datensatz (Selektionsbias für öffentlich bekannte Fälle); Fokus auf englischsprachige Quellen; LLM-basierte Kodierung mit durchschnittlicher Stakeholder-Genauigkeit von 78,78%, was Klassifizierungsfehler einführt; begrenzte Analyse von Langzeiteffektivität oder Perspektiven betroffener Gemeinschaften direkt nach Reparation.

**Target Group:** AI-Governance-Fachleute und Regulatoren, Responsible-AI-Forscher, Unternehmensethik-Abteilungen, Aktivisten und Advocacy-Organisationen im Bereich AI-Gerechtigkeit, Policymaker im AI-Regulierungsbereich, sowie sekundär Sozialarbeiter mit Fokus auf strukturelle Gerechtigkeit und Advocacy für marginalisierte Gruppen

## Schlüsselreferenzen

- [[Feinberg_2019]] - Comparative Wrongfulness and Desert Basis for Moral Responsibility
- [[Zehr_2015]] - The Little Book of Restorative Justice
- [[Morris_2000]] - Stories of Transformative Justice
- [[Kaba_2021]] - We Do This 'til We Free Us
- [[Raji_et_al_2020]] - Closing the AI Accountability Gap: Defining an End-to-End Framework for Internal Algorithmic Auditing
- [[Mökander_2023]] - Auditing of AI: Legal, Ethical and Technical Approaches
- [[Johnson_et_al_2024]] - The Abandonment of Algorithms Following Public Backlash
- [[DeVrio_Eslami_and_Holstein_2024]] - Grassroots Actors Organizing for Redress in the Face of Institutional Power
- [[Wright_et_al_2024]] - Null Compliance: NYC Local Law 144 and the Challenges of Algorithm Accountability
- [[United_Nations_General_Assembly_2005]] - Basic Principles and Guidelines on the Right to Remedy and Reparation for Victims of Gross Violations
