---
title: "RETHINKING SOCIAL SERVICES WITH ARTIFICIAL INTELLIGENCE: OPPORTUNITIES, RISKS, AND FUTURE PERSPECTIVES"
authors:
  - Unknown Author
year: 2024
type: bookSection
doi: 
url: "https://www.researchgate.net/publication/393509196_RETHINKING_SOCIAL_SERVICES_WITH_ARTIFICIAL_INTELLIGENCE_OPPORTUNITIES_RISKS_AND_FUTURE_PERSPECTIVES"
tags:
  - paper
llm_decision: Include
llm_confidence: 0.92
llm_categories:
  - AI_Literacies
  - KI_Sonstige
  - Soziale_Arbeit
  - Bias_Ungleichheit
  - Fairness
human_decision: Exclude
human_categories:
  - KI_Sonstige
  - Soziale_Arbeit
  - Bias_Ungleichheit
  - Gender
  - Diversitaet
agreement: disagree
---

# RETHINKING SOCIAL SERVICES WITH ARTIFICIAL INTELLIGENCE: OPPORTUNITIES, RISKS, AND FUTURE PERSPECTIVES

## Transformation Trail

### Stufe 1: Extraktion & Klassifikation (LLM)

**Extrahierte Kategorien:** AI_Literacies, Generative_KI, KI_Sonstige, Soziale_Arbeit, Bias_Ungleichheit, Diversitaet, Fairness
**Argumente:** 3 extrahiert

### Stufe 3: Verifikation (LLM)

| Metrik | Score |
|--------|-------|
| Completeness | 92 |
| Correctness | 98 |
| Category Validation | 95 |
| **Overall Confidence** | **95** |

### Stufe 4: Assessment

**LLM:** Include (Confidence: 0.92)
**Human:** Exclude

**Kategorie-Vergleich (bei Divergenz):**

| Kategorie | Human | LLM | Divergent |
|-----------|-------|-----|----------|
| AI_Literacies | Nein | Ja | X |
| Generative_KI | Nein | Nein |  |
| Prompting | Nein | Nein |  |
| KI_Sonstige | Ja | Ja |  |
| Soziale_Arbeit | Ja | Ja |  |
| Bias_Ungleichheit | Ja | Ja |  |
| Gender | Ja | Nein | X |
| Diversitaet | Ja | Nein | X |
| Feministisch | Nein | Nein |  |
| Fairness | Nein | Ja | X |

> Siehe [[Divergenz Unknown_RETHINKING_SOCIAL_SERVICES_WITH_ARTIFICIAL]] fuer detaillierte Analyse


## Key Concepts

- [[Algorithmic Bias in Social Services]]

## Wissensdokument

# Rethinking Social Services with Artificial Intelligence: Opportunities, Risks, and Future Perspectives

## Kernbefund

AI bietet bedeutende Potenziale für die Soziale Arbeit (Datenanalyse, Ressourcenallokation, administrative Automatisierung), birgt aber erhebliche ethische Risiken (Bias, Datenschutz, Verlust von Menschlichkeit), die durch multidisziplinäre Ansätze und ethische Standards adressiert werden müssen.

## Forschungsfrage

Welche Chancen und Risiken ergeben sich durch die Integration von Künstlicher Intelligenz in die Soziale Arbeit und wie können diese ethisch verantwortungsvoll gestaltet werden?

## Methodik

Theoretisch/Review - Narrative Literaturanalyse zu AI-Anwendungen in der Sozialen Arbeit mit Fokus auf Chancen, Risiken und ethische Fragen
**Datenbasis:** nicht empirisch - argumentatives Review der wissenschaftlichen Literatur

## Hauptargumente

- AI kann administrative Aufgaben automatisieren und Sozialarbeiter:innen mehr Zeit für direkte Klientenarbeit freigeben, sowie Risikovorhersagen und frühzeitige Interventionen bei vulnerablen Gruppen ermöglichen.
- Algorithmische Bias und strukturelle Diskriminierung sind zentrale Risiken, da AI-Systeme von privilegierten Gruppen entwickelt werden und bestehende Ungleichheiten verstärken können, besonders gegenüber einkommensschwachen und marginalisierten Bevölkerungsgruppen.
- Der Kern der Sozialen Arbeit basiert auf menschlicher Beziehung, Empathie und Vertrauensaufbau, die nicht durch AI-Algorithmen ersetzt werden können; informed consent, Vertraulichkeit und Transparenz sind ethische Grundvoraussetzungen.

## Kategorie-Evidenz

### Evidenz 1

Reamer (2023) states that AI has the potential to increase the effectiveness and capacity of social workers in administrative, clinical, and policy contexts. Institutions should design training programs to ensure that their employees can use AI tools appropriately and in accordance with ethical standards.

### Evidenz 2

Victor and Goldkind (2025) state that ChatGPT, a large language model introduced by OpenAI in late 2022 and recognized globally, has begun to be used as a 'public therapist.' Similar AI tools are increasingly being used in the field of mental health.

### Evidenz 3

Data analysis and predictive modeling are among the most powerful applications of AI in the social services field. This is because AI can quickly scan large data sets that would take a long time for humans to scan and analyze.

### Evidenz 4

Social workers, who play critical roles in addressing complex social issues, face various challenges due to limited resources, heavy workloads, and weak inter-agency collaboration. AI is a new and potentially beneficial technological development for social service professionals.

### Evidenz 5

Eubanks (2019) argues that AI tools can reinforce structural biases and negatively affect vulnerable population groups, particularly low-income individuals. Coeckelberg (2022) notes that global inequalities have deepened due to the concentration of AI development activities in developed and wealthy countries, which has excluded disadvantaged communities from policy-making processes.

### Evidenz 6

If an algorithm used for a specific type of assistance is trained with data that predominantly represents a particular economic or racial group, that type of assistance may be allocated to similar economic and racial groups, inadvertently perpetuating existing inequalities. McNally et al. (2024) state that families with autistic children communicate with AI tools.

### Evidenz 7

One of the most important ethical issues raised regarding the use of AI tools in social work practice is algorithmic bias and injustice. An AI tool trained with biased data sets can perpetuate systematic discrimination and thus undermine the professional values of social work, which aims to promote social justice.

## Assessment-Relevanz

**Domain Fit:** Das Paper ist hochrelevant für die Schnittstelle KI und Soziale Arbeit. Es adressiert direkt die praktischen und ethischen Implikationen von AI-Integration in sozialen Diensten und berücksichtigt die Perspektive vulnerabler Gruppen.

**Unique Contribution:** Der Beitrag liegt in einer umfassenden, ausgewogenen Analyse von Chancen und Risiken der AI-Integration in der Sozialen Arbeit mit besonderem Fokus auf ethische Standards, algorithmische Bias und die Notwendigkeit multidisziplinärer Ansätze.

**Limitations:** Das Paper ist eine narrative Literaturanalyse ohne empirische Daten; Gender-Perspektiven werden nicht explizit thematisiert; die Analyse fehlt eine explizit feministische Kritik der Machtverhältnisse in AI-Entwicklung.

**Target Group:** Sozialarbeiter:innen, Soziale-Arbeit-Fachkräfte, Akademiker:innen in der Sozialen Arbeit, Policy-Maker im Sozialsektor, AI-Entwickler:innen im Kontext sozialer Dienste, Hochschulausbildner:innen

## Schlüsselreferenzen

- [[Reamer_2023]] - Artificial Intelligence in Social Work: Emerging Ethical Issues
- [[Eubanks_2019]] - Automating Inequality
- [[Garkisch_Goldkind_2025]] - Considering a Unified Model of Artificial Intelligence Enhanced Social Work
- [[Victor_Goldkind_2025]] - The Therapist in the Machine: Confronting AI's Challenge to Clinical Social Work
- [[Fernando_Ranasinghe_2023]] - Integration of Artificial Intelligence in Social Work: Opportunities, Challenges, and Considerations
- [[Field_et_al_2023]] - Examining risks of racial biases in NLP tools for child protective services
- [[Ahn_Choi_Fowler_Song_2025]] - Artificial Intelligence (AI) Literacy for Social Work: Implications for Core Competencies
- [[McNally_et_al_2024]] - Disability Expertise and Large Language Models: A Qualitative Study of Autistic TikTok Creators' Use of ChatGPT
- [[NASW_2021]] - Code of Ethics
- [[Farahani_Ghasemi_2024]] - Artificial Intelligence and Inequality: Challenges and Opportunities
