---
title: "Artificial intelligence in social work: Emerging ethical issues"
authors:
  - F. G. Reamer
year: 2023
type: journalArticle
doi: 10.55521/10-020-205
url: "https://doi.org/10.55521/10-020-205"
tags:
  - paper
llm_decision: Include
llm_confidence: 0.95
llm_categories:
  - AI_Literacies
  - KI_Sonstige
  - Soziale_Arbeit
  - Bias_Ungleichheit
  - Fairness
human_decision: Exclude
human_categories:
  - Generative_KI
  - Prompting
  - KI_Sonstige
  - Soziale_Arbeit
  - Bias_Ungleichheit
  - Gender
  - Diversitaet
  - Fairness
agreement: disagree
---

# Artificial intelligence in social work: Emerging ethical issues

## Transformation Trail

### Stufe 1: Extraktion & Klassifikation (LLM)

**Extrahierte Kategorien:** AI_Literacies, Generative_KI, KI_Sonstige, Soziale_Arbeit, Bias_Ungleichheit, Diversitaet, Fairness
**Argumente:** 3 extrahiert

### Stufe 3: Verifikation (LLM)

| Metrik | Score |
|--------|-------|
| Completeness | 92 |
| Correctness | 98 |
| Category Validation | 95 |
| **Overall Confidence** | **95** |

### Stufe 4: Assessment

**LLM:** Include (Confidence: 0.95)
**Human:** Exclude

**Kategorie-Vergleich (bei Divergenz):**

| Kategorie | Human | LLM | Divergent |
|-----------|-------|-----|----------|
| AI_Literacies | Nein | Ja | X |
| Generative_KI | Ja | Nein | X |
| Prompting | Ja | Nein | X |
| KI_Sonstige | Ja | Ja |  |
| Soziale_Arbeit | Ja | Ja |  |
| Bias_Ungleichheit | Ja | Ja |  |
| Gender | Ja | Nein | X |
| Diversitaet | Ja | Nein | X |
| Feministisch | Nein | Nein |  |
| Fairness | Ja | Ja |  |

> Siehe [[Divergenz Reamer_2023_Artificial_Intelligence_in_Social_Work_Emerging]] fuer detaillierte Analyse


## Key Concepts

- [[Algorithmic Bias in Social Work]]

## Wissensdokument

# Artificial Intelligence in Social Work: Emerging Ethical Issues

## Kernbefund

Sozialarbeiter müssen sich mit neun zentralen ethischen Herausforderungen auseinandersetzen (informierte Zustimmung, Datenschutz, Transparenz, Fehldiagnose, Patientenabbruch, Überwachung, Plagiarismus, algorithmischer Bias), und es existiert derzeit keine umfassende berufsethische Reflexion dieser Themen in der Sozialarbeits-Literatur.

## Forschungsfrage

Welche ethischen Herausforderungen entstehen durch den Einsatz von Künstlicher Intelligenz in der Sozialen Arbeit und wie können Sozialarbeiter ethisch verantwortungsvoll mit KI umgehen?

## Methodik

Theoretisch/Review - Umfassende Literaturanalyse und Anwendung bestehender ethischer Standards der Sozialen Arbeit auf KI-Kontexte
**Datenbasis:** nicht empirisch - theoretische Analyse bestehender Kodizes, Standards und Fachliteratur

## Hauptargumente

- KI bietet erhebliches Potenzial für die Soziale Arbeit (Risikobewertung, Krisenintervention, Bias-Erkennung, Burnout-Vorhersage), wird aber von ethischen Risiken begleitet, die spezifische berufsethische Richtlinien erfordern.
- Bestehende sozialarbeiterische Ethik-Standards (NASW Code of Ethics 2021, ASWB/CSWE/CSWA Standards 2017) bieten Rahmen für AI-Nutzung, aber es fehlt eine spezifische In-Tiefe-Anwendung auf KI-Kontexte.
- Organisationen sollten acht konkrete Schritte implementieren: ethics-based governing principles, digital ethics steering committees, diverse focus groups, peer review, AI model simulations, social worker-focused guidance, external communication/training, und Testlogs zur Gewährleistung ethischer KI-Nutzung.

## Kategorie-Evidenz

### Evidenz 1

Social workers should familiarize themselves with AI protocols, review relevant ethical standards, undergo training on appropriate and ethical use of AI, and social work education programs should incorporate AI content into curricula. Standard 2.23: 'Social workers should keep apprised of the types of technology that are available and research best practices, risks, ethical challenges, and ways of managing them.'

### Evidenz 2

ChatGPT wird explizit erwähnt als Tool für Social Workers, das 'nearly instant suggestions' für Distress-Management bietet. Paper diskutiert Plagiarismus- und Fair-Use-Herausforderungen bei Nutzung von ChatGPT für grant applications und program evaluations.

### Evidenz 3

Umfassende Diskussion von machine learning, predictive analytics, natural language processing, computer vision, affective computing/emotion AI, expert systems, und algorithmic decision-support systems in der Sozialen Arbeit.

### Evidenz 4

Kernpapier der Sozialarbeits-Ethik mit direkter Anwendung auf Praktiken in klinischer Sozialer Arbeit, Krisenintervention, Risikobewertung mit Fokus auf vulnerable Bevölkerungsgruppen und Berufsstandards (NASW, ASWB, CSWE, CSWA).

### Evidenz 5

Machine learning datasets may not be representative of social workers' clients; algorithmic bias can manifest in recruitment, marketing, and facial recognition; risk of replicating and amplifying human biases affecting protected groups based on race, ethnicity, gender, sexual orientation.

### Evidenz 6

Focus groups should include individuals from diverse populations (clients, advocates, practitioners, community leaders); AI tools must collect data to reduce biases against protected categories including race, ethnicity, culture, gender, sexual orientation, gender expression, religion.

### Evidenz 7

Paper addresses 'algorithmic bias and unfairness' as core ethical challenge; emphasizes need for algorithms to treat similarly-situated people fairly; discusses fairness implications of AI in social service delivery and algorithmic justice in decision-making systems.

## Assessment-Relevanz

**Domain Fit:** Hochgradig relevant für die Schnittstelle AI und Soziale Arbeit; addressiert zentrale Ethik-Themen und praktische Implementierungsfragen; fehlt jedoch intersektionale und Gender-spezifische Tiefenanalyse sowie feministische Perspektiven auf AI-Ethik in der Sozialen Arbeit.

**Unique Contribution:** Erste umfassende, berufsstandard-basierte Analyse ethischer AI-Herausforderungen speziell für Sozialarbeiter mit konkrete acht-Schritte-Implementierungsprotokoll für ethische AI-Nutzung.

**Limitations:** Rein theoretischer/analytischer Ansatz ohne empirische Validierung der vorgeschlagenen Protokolle; begrenzte Diskussion spezifischer Auswirkungen auf marginalisierte Bevölkerungsgruppen; keine Gender- oder intersektionale Analyse; keine Evaluation bestehender AI-Implementierungen in Sozialarbeits-Organisationen.

**Target Group:** Primär: Sozialarbeiter in Praxis und Lehre, Hochschullehrer, Supervisoren, Agency-Administrator, Ethics Committee Members. Sekundär: KI-Entwickler in health care/social services, Policymaker, Regulierungsbehörden, Berufsverbände (NASW, ASWB, CSWE, CSWA).

## Schlüsselreferenzen

- [[National_Association_of_Social_Workers_2021]] - Code of Ethics of the National Association of Social Workers
- [[NASW_ASWB_CSWE_CSWA_2017]] - Standards for Technology in Social Work Practice
- [[Lee_Resnick_Barton_2019]] - Algorithmic Bias Detection and Mitigation: Best Practices and Policies
- [[Tambe_Rice_2018]] - Artificial Intelligence and Social Work
- [[Reamer_2023]] - Risk Management in the Behavioral Health Professions
- [[Gillingham_2019]] - Can Predictive Algorithms Assist Decision-Making in Social Work with Children and Families?
- [[Keddell_2019]] - Algorithmic Justice in Child Protection: Statistical Fairness and Social Justice
- [[Goldkind_2021]] - Social Work and Artificial Intelligence: Into the Matrix
- [[Yan_Ruan_Jiang_2023]] - Challenges of Artificial Intelligence in Recognizing Mental Disorders
