---
title: "\"It happened to be the perfect thing\": Experiences of generative AI chatbots for mental health"
authors:
  - S. Siddals
  - J. Torous
  - A. Coxon
year: 2024
type: journalArticle
doi: 10.1038/s44184-024-00097-4
url: 
tags:
  - paper
llm_decision: Include
llm_confidence: 0.92
llm_categories:
  - Generative_KI
  - Soziale_Arbeit
human_decision: Unclear
human_categories:
  - Generative_KI
  - Soziale_Arbeit
  - Bias_Ungleichheit
agreement: disagree
---

# "It happened to be the perfect thing": Experiences of generative AI chatbots for mental health

## Transformation Trail

### Stufe 1: Extraktion & Klassifikation (LLM)

**Extrahierte Kategorien:** AI_Literacies, Generative_KI, KI_Sonstige, Soziale_Arbeit, Bias_Ungleichheit, Diversitaet, Fairness
**Argumente:** 3 extrahiert

### Stufe 3: Verifikation (LLM)

| Metrik | Score |
|--------|-------|
| Completeness | 92 |
| Correctness | 98 |
| Category Validation | 95 |
| **Overall Confidence** | **94** |

### Stufe 4: Assessment

**LLM:** Include (Confidence: 0.92)
**Human:** Unclear

**Kategorie-Vergleich (bei Divergenz):**

| Kategorie | Human | LLM | Divergent |
|-----------|-------|-----|----------|
| AI_Literacies | Nein | Nein |  |
| Generative_KI | Ja | Ja |  |
| Prompting | Nein | Nein |  |
| KI_Sonstige | Nein | Nein |  |
| Soziale_Arbeit | Ja | Ja |  |
| Bias_Ungleichheit | Ja | Nein | X |
| Gender | Nein | Nein |  |
| Diversitaet | Nein | Nein |  |
| Feministisch | Nein | Nein |  |
| Fairness | Nein | Nein |  |

> Siehe [[Divergenz Siddals_2024_It_happened_to_be_the_perfect_thing_Experiences]] fuer detaillierte Analyse


## Wissensdokument

# It happened to be the perfect thing: experiences of generative AI chatbots for mental health

## Kernbefund

Generative KI-Chatbots werden von Nutzern als emotionaler Schutzraum erlebt und bieten bedeutungsvolle psychische Unterstützung mit Berichten über positive Auswirkungen einschließlich verbesserter Beziehungen und Heilung von Trauma, erfordern aber bessere Sicherheitsvorkehrungen und menschenähnliches Gedächtnis.

## Forschungsfrage

Wie erleben Menschen die Nutzung von generativen KI-Chatbots für ihre psychische Gesundheit und ihr Wohlbefinden in realen, nicht angeleiteten Kontexten?

## Methodik

Empirisch - qualitativ: Semi-strukturierte Interviews (n=19) mit reflexiver thematischer Analyse
**Datenbasis:** n=19 Teilnehmer (12 männlich, 7 weiblich), Alter 17-60 Jahre, aus 8 Ländern in Europa, Nordamerika und Asien

## Hauptargumente

- Generative KI-Chatbots schaffen einen emotionalen Schutzraum durch ihre wahrgenommene Fähigkeit, Nutzer zu verstehen, zu validieren und nicht zu verurteilen, was besonders für Menschen in Krisensituationen wertvoll ist.
- Die Technologie bietet praktische therapeutische Anleitung insbesondere zu Beziehungsfragen und hilft Nutzern, neue Perspektiven zu entwickeln, was sich von regelgestützten Chatbots unterscheidet und teilweise lebensverändernd wirkt.
- Sicherheitsvorkehrungen (Guardrails) können kontraproduktiv sein und werden von Nutzern in Momenten der Verletzlichkeit als Zurückweisung erlebt, was auf die Notwendigkeit nuancierterer Sicherheitsansätze hindeutet.

## Kategorie-Evidenz

### Evidenz 1

Die Studie untersucht, wie Nutzer generative KI-Technologien verstehen und nutzen: 'Given the novelty of generative AI and the nascent state of the field, qualitative research is an important starting point to generate rich foundational insights into individuals' subjective experiences' und empfiehlt, dass Kliniker 'build their awareness of the potential benefits and limitations of these tools'.

### Evidenz 2

Expliziter Fokus auf generative KI-Chatbots wie ChatGPT, Gemini, Pi und Inflection: 'generative AI chatbots like OpenAI's ChatGPT, Google's Gemini, and Inflection's Pi are trained on vast amounts of data, enabling them to understand and generate language with remarkable proficiency'.

### Evidenz 3

Vergleichende Analyse mit regelgestützten KI-Chatbots (Woebot, Wysa) und Diskussion algorithmischer Sicherheitsmaßnahmen sowie technischer Begriffe wie Halluzinationen und Black-Box-Natur von LLMs.

### Evidenz 4

Direkte Relevanz für psychische Gesundheitsversorgung und therapeutische Interventionen: 'Digital mental health interventions (DMHIs) have emerged over the last decade as a promising potential response to the treatment gap' und Empfehlungen für Kliniker zur Integration dieser Tools in ihre Praxis.

### Evidenz 5

Identifiziert Zugangsherausforderungen und Bevölkerungslücken: 'Well-educated, tech-savvy nature of our participant sample suggests that the benefits of this technology may not currently be connecting with the full population who need mental health support' und diskutiert die Bedeutung von Geschäftsmodellen und Finanzierbarkeit für Zugänglichkeit.

### Evidenz 6

Thematisiert Unterschiede in Zugangsrealitäten und fehlende Repräsentation: 'While our convenience sampling strategy resulted in a diverse set of participants by country, age and gender, many populations and groups were not represented. Most of our participants lived in high-income countries, were tech-savvy and well-educated' und schlägt Lösungen für spezifische Populationen vor.

### Evidenz 7

Diskutiert faire Sicherheitsmaßnahmen und algorithmische Gerechtigkeit: 'providing the safest response to those in crisis may require a more nuanced, balanced and sophisticated approach, based on a more complete understanding of capabilities and risks'.

## Assessment-Relevanz

**Domain Fit:** Hochgradig relevant für die Schnittstelle von KI und Sozialer Arbeit: Die Studie untersucht reale Nutzungserfahrungen von generativen KI-Chatbots im psychischen Gesundheitskontext und identifiziert sowohl Potenziale als auch Risiken für vulnerable Populationen. Sie trägt zu kritischem Verständnis der Technologieanwendung in Pflege- und Unterstützungskontexten bei.

**Unique Contribution:** Dies ist die erste reflexive thematische Analyse von Semi-Struktur-Interviews zur realen Nutzung von generativen KI-Chatbots für psychische Gesundheit in ungezwungenen, nicht-angeleiteten Settings, die sowohl positive Auswirkungen als auch kritische Sicherheitsbedenken dokumentiert.

**Limitations:** Studiengruppe ist nicht repräsentativ - überwiegend aus Hocheinkommensländern, technologieaffin, gut gebildet mit milderen psychischen Belastungen; convenience sampling könnte Bias zu positiven Erfahrungen einführen; kleine Stichprobengröße (n=19) begrenzt Verallgemeinerbarkeit; einige wichtige Risiken möglicherweise bei größeren Stichproben nicht erfasst.

**Target Group:** Kliniker und Therapeuten (zur Integration in Praxis), KI-Entwickler und Chatbot-Anbieter (zur Verbesserung von Guardrails und Funktionalität), Policymaker und Gesundheitssystemplaner (zur Beurteilung digitaler Interventionen), Forscher in digitalem psychischen Gesundheitssektor, Sozialarbeiter in Beratungs- und Unterstützungsrollen

## Schlüsselreferenzen

- [[Goldberg_SB_et_al_2022]] - Mobile phone-based interventions for mental health: A systematic meta-review of 14 meta-analyses of randomized controlled trials
- [[Fitzpatrick_KK_Darcy_A_Vierhile_M_2017]] - Delivering cognitive behavior therapy to young adults with symptoms of depression and anxiety using a fully automated conversational agent (Woebot)
- [[Li_H_et_al_2023]] - Systematic review and meta-analysis of AI-based conversational agents for promoting mental health and well-being
- [[De_Freitas_J_Cohen_IG_2024]] - The health risks of generative AI-based wellness apps
- [[Young_J_et_al_2024]] - The Role of AI in Peer Support for Young People: A Study of Preferences for Human- and AI-Generated Responses
- [[Braun_V_Clarke_V_2006]] - Using thematic analysis in psychology
- [[Torous_J_Benson_NM_Myrick_K_Eysenbach_G_2023]] - Focusing on digital research priorities for advancing the access and quality of mental health
- [[Stade_EC_et_al_2024]] - Large language models could change the future of behavioral healthcare: a proposal for responsible development and evaluation
