---
title: "Divergenz: Prompting techniques for reducing social bias in LLMs through System 1 and Syste"
type: divergenz
pattern: Keyword-Inklusion
human_decision: Exclude
llm_decision: Include
severity: 2
paper_id: 116
tags:
  - divergenz
---
# Divergenz: Prompting techniques for reducing social bias in LLMs through System 1 and System 2 cognitive processes

**Paper:** Kamruzzaman (2024)
**Paper-ID:** 116

## Entscheidungen

| | Entscheidung |
|---|---|
| **Human** | Exclude |
| **LLM** | Include |
| **Typ** | Human_Exclude_Agent_Include |
| **Schweregrad** | 2 |

## Kategorie-Vergleich

| Kategorie | Human | LLM | Divergent |
|-----------|-------|-----|----------|
| AI_Literacies | Nein | Ja | **X** |
| Generative_KI | Ja | Ja |  |
| Prompting | Ja | Nein | **X** |
| KI_Sonstige | Nein | Nein |  |
| Soziale_Arbeit | Nein | Ja | **X** |
| Bias_Ungleichheit | Ja | Nein | **X** |
| Gender | Ja | Nein | **X** |
| Diversitaet | Nein | Nein |  |
| Feministisch | Nein | Nein |  |
| Fairness | Ja | Nein | **X** |

## LLM-Reasoning

> Der Titel deutet auf eine Analyse von ChatGPT (generative KI) in der Sozialen Arbeit hin. Dies erfüllt beide notwendigen Bedingungen: TECHNIK (Generative_KI = Ja, da ChatGPT explizit genannt) und SOZIAL (Soziale_Arbeit = Ja, da direkt im Titel). AI_Literacies ist ebenfalls Ja, da es um Kompetenzen/Risiken im Umgang mit ChatGPT geht. Ohne Abstract kann Studientyp nicht genau bestimmt werden.

## Divergenz-Muster

**Pattern:** Keyword-Inklusion

**Begruendung:** Das LLM hat 'Prompting techniques' und 'social bias' als explizite Keywords erkannt und automatisch AI_Literacies zugeordnet, ohne zu erkennen, dass der Paper sich auf allgemeine LLM-Bias (nicht auf Soziale Arbeit) bezieht. Die Inklusion basiert auf oberflächlicher Keyword-Matching statt kontextueller Relevanz für das Feld.

## Annotation

Agent sieht Relevanz, die Expert:innen nicht sehen | Human-Exclusion: Duplicate | Technik-Differenz: AI_Literacies, Prompting | Sozial-Differenz: Soziale_Arbeit, Bias_Ungleichheit, Gender, Fairness | ACHTUNG: Sozialarbeitsbezug unterschiedlich bewertet

