---
title: "Divergenz: Assessing GPT's bias towards stigmatized social groups: An intersectional case s"
type: divergenz
pattern: Implizite Feldzugehoerigkeit
human_decision: Include
llm_decision: Exclude
severity: 3
paper_id: 159
tags:
  - divergenz
---
# Divergenz: Assessing GPT's bias towards stigmatized social groups: An intersectional case study on nationality prejudice and psychophobia

**Paper:** Mei (2023)
**Paper-ID:** 159

## Entscheidungen

| | Entscheidung |
|---|---|
| **Human** | Include |
| **LLM** | Exclude |
| **Typ** | Human_Include_Agent_Exclude |
| **Schweregrad** | 3 |

## Kategorie-Vergleich

| Kategorie | Human | LLM | Divergent |
|-----------|-------|-----|----------|
| AI_Literacies | Nein | Ja | **X** |
| Generative_KI | Ja | Ja |  |
| Prompting | Ja | Ja |  |
| KI_Sonstige | Nein | Nein |  |
| Soziale_Arbeit | Nein | Nein |  |
| Bias_Ungleichheit | Ja | Nein | **X** |
| Gender | Ja | Nein | **X** |
| Diversitaet | Ja | Nein | **X** |
| Feministisch | Nein | Nein |  |
| Fairness | Nein | Nein |  |

## LLM-Reasoning

> Paper behandelt Chatbot-Transparenz und Nutzerwahrnehmung mit Fokus auf AI Literacy (Effekt bei niedriger Vorkenntnis) und Prompting (Transparenz durch Prompt-Engineering). Technische Kriterien erfüllt. Es fehlt jedoch jeglicher Bezug zu sozialen Kategorien: Keine Soziale Arbeit, keine Analyse von Bias/Ungleichheit, kein Gender-, Diversitäts- oder Fairness-Fokus. Reine HCI-Studie ohne Bezug zu marginalizierten Gruppen, struktureller Benachteiligung oder Sozialarbeitspraxis.

## Divergenz-Muster

**Pattern:** Implizite Feldzugehoerigkeit

**Begruendung:** Der Titel erwähnt explizit 'stigmatized social groups', 'nationality prejudice' und 'psychophobia' – das LLM erkannte diese Keywords nicht als Indikatoren für Bias/Ungleichheit, Diversität und Gender-relevante Inhalte, die zum sozialen/kritischen KI-Diskurs gehören. Das LLM klassifizierte die Arbeit als reine HCI-Studie, obwohl sie sich dezidiert mit Diskriminierung marginalisierter Gruppen auseinandersetzt.

## Annotation

KRITISCH: Agent übersieht Relevanz | Agent-Begründung: Paper behandelt Chatbot-Transparenz und Nutzerwahrnehmung mit Fokus auf AI Literacy (Effekt bei nied... | Technik-Differenz: AI_Literacies | Sozial-Differenz: Bias_Ungleichheit, Gender, Diversitaet

