---
title: Promises and challenges of generative artificial intelligence for human learning
authors:
  - Lixiang Yan
  - Samuel Greiff
  - Ziwen Teuber
  - Dragan Gašević
year: 2024
type: journalArticle
doi: 10.1038/s41562-024-02004-5
url: "https://www.nature.com/articles/s41562-024-02004-5"
tags:
  - paper
llm_decision: Exclude
llm_confidence: 0.3
llm_categories:
  - AI_Literacies
  - Generative_KI
human_decision: Include
human_categories:
  - AI_Literacies
  - Generative_KI
  - Bias_Ungleichheit
agreement: disagree
---

# Promises and challenges of generative artificial intelligence for human learning

## Transformation Trail

### Stufe 1: Extraktion & Klassifikation (LLM)

**Extrahierte Kategorien:** AI_Literacies, Generative_KI, KI_Sonstige, Bias_Ungleichheit, Gender, Diversitaet, Fairness
**Argumente:** 3 extrahiert

### Stufe 3: Verifikation (LLM)

| Metrik | Score |
|--------|-------|
| Completeness | 92 |
| Correctness | 98 |
| Category Validation | 96 |
| **Overall Confidence** | **95** |

### Stufe 4: Assessment

**LLM:** Exclude (Confidence: 0.3)
**Human:** Include

**Kategorie-Vergleich (bei Divergenz):**

| Kategorie | Human | LLM | Divergent |
|-----------|-------|-----|----------|
| AI_Literacies | Ja | Ja |  |
| Generative_KI | Ja | Ja |  |
| Prompting | Nein | Nein |  |
| KI_Sonstige | Nein | Nein |  |
| Soziale_Arbeit | Nein | Nein |  |
| Bias_Ungleichheit | Ja | Nein | X |
| Gender | Nein | Nein |  |
| Diversitaet | Nein | Nein |  |
| Feministisch | Nein | Nein |  |
| Fairness | Nein | Nein |  |

> Siehe [[Divergenz Yan_2024_Promises_and_challenges_of_generative_artificial]] fuer detaillierte Analyse


## Key Concepts

- [[AI Literacy]]

## Wissensdokument

# Promises and challenges of generative artificial intelligence for human learning

## Kernbefund

GenAI bietet erhebliches Potenzial zur Transformation von Lernprozessen durch personalisierte Unterstützung, diversifizierte Ressourcen und innovative Bewertungsmethoden, erfordert aber eine kritische Auseinandersetzung mit ethischen Fragen, Modellmängeln und dem Digital Divide sowie die Kultivierung von AI Literacy.

## Forschungsfrage

Wie können generative KI-Technologien zur Unterstützung menschlichen Lernens eingesetzt werden und welche Chancen und Herausforderungen ergeben sich dabei?

## Methodik

Theoretisch/Review - Perspektive Paper, das Erkenntnisse aus Learning Sciences, Educational Technology und Human-Computer Interaction integriert
**Datenbasis:** nicht empirisch - theoretisches Perspektive Paper basierend auf Literaturreview

## Hauptargumente

- GenAI kann als 'Master Teacher at Scale' fungieren und personalisierte, adaptive Unterstützung im Rahmen von Vygotskys Zone of Proximal Development bieten, was den Zugang zu qualitativ hochwertiger Bildung demokratisieren könnte.
- Die Diversifizierung von Lernmaterialien durch GenAI (Text-zu-Bild, Text-zu-Video) kann diverse Lernstile unterstützen und Geschlechterstereotypen in STEAM-Fächern reduzieren, erfordert aber menschliche Validierung und pädagogische Expertise.
- Drei zentrale Bedarfe müssen adressiert werden: (1) AI Literacy für Lernende, Lehrende und Policymaker, (2) evidenzbasierte Entscheidungsfindung durch Forschung, und (3) methodologische Rigorosität bei der Evaluierung von GenAI-Auswirkungen auf Kognition und Kreativität.

## Kategorie-Evidenz

### Evidenz 1

Vollständiger Abschnitt 4.1 widmet sich AI Literacy: 'Cultivating AI literacy is essential to ensuring the effective, responsible, and ethical use of GenAI technologies to support human learning. This need extends beyond learners to include educators, policymakers, and administrators.' Betonung von Verständnis für Funktionsweise, Potenziale, Ethik und Limitierungen von KI-Systemen.

### Evidenz 2

Paper fokussiert durchgehend auf GenAI-Technologien: 'Generative artificial intelligence (GenAI) technologies, such as large language models (LLMs) and diffusion models...have shown promise in automating various learning tasks.' Detaillierte Behandlung von LLMs (ChatGPT, GPT-4), Diffusion Models (Stable Diffusion, DALL-E, Midjourney) und Text-zu-Video-Modellen.

### Evidenz 3

Intelligent Tutoring Systems und Learning Analytics werden als Vergleichssysteme zu GenAI diskutiert: 'Unlike conventional intelligent tutoring systems that require extensive knowledge engineering to design rule-based responses'.

### Evidenz 4

Digital Divide wird explizit adressiert: 'One major concern is the digital divide, where unequal access to these powerful technologies can exacerbate existing inequalities in learning opportunities.' Außerdem wird überbetonung gegenüber generativer KI als Risiko diskutiert.

### Evidenz 5

Paper erwähnt spezifisch Geschlechterstereotypen in STEAM: 'students can create imaginative visuals with AI and write inspired diaries based on these images, a practice found to reduce gender disparities in interest in art during Science, Technology, Engineering, the Arts and Mathematics (STEAM) classes.'

### Evidenz 6

Mehrfache Betonung von Inklusion und Zugang für diverse Lernende: 'This capability is particularly valuable for teaching students with specific disabilities, such as providing multisensory instruction to students with dyslexia.' Sowie 'enabling learners with diverse needs to interact with content in more informed, creative, and personalised ways.'

### Evidenz 7

Fairness wird in Kontext von Bewertung diskutiert: 'assessing learning to reflect genuine knowledge and skill development rather than an AI-created performance illusion' und die Notwendigkeit, Algorithmen-Bias in Bewertungssystemen zu vermeiden.

## Assessment-Relevanz

**Domain Fit:** Das Paper ist hochrelevant für KI-Bildungskontext und adressiert kritische Themen wie Digital Divide, Geschlechterstereotypen in STEAM und die Notwendigkeit strukturierter AI Literacy. Jedoch liegt der Fokus auf Bildung/Learning Sciences und nicht auf Sozialer Arbeit als Disziplin oder Praxis.

**Unique Contribution:** Das Paper bietet eine ganzheitliche Perspektive, die Chancen und Herausforderungen von GenAI im Lernkontext systematisch integriert und dabei explizit auf Fragen der Gerechtigkeit, Inklusion und notwendigen Forschungsagenden hinweist.

**Limitations:** Das Paper ist theoretisch-konzeptionell und enthält begrenzte empirische Evidenz; es konstatiert selbst, dass empirische Langzeitstudien zu GenAI-Auswirkungen auf Lernoutcomes noch fehlen.

**Target Group:** Bildungsforschende, Lehrende, Policymaker im Bildungssektor, KI-Entwickler im Edtech-Bereich, Bildungsinstitutionen und Administratoren; potentiell relevant für Sozialarbeiter in Kontexten mit Bildungsauftrag

## Schlüsselreferenzen

- [[Vygotsky_None]] - Zone of Proximal Development / Sociocultural Theory of Learning
- [[Yan_Sha_Zhao_et_al_2023]] - Practical and ethical challenges of large language models in education: A systematic scoping review
- [[Kasneci_et_al_2023]] - ChatGPT for good? On opportunities and challenges of large language models
- [[Ji_et_al_2023]] - Survey of hallucination in natural language generation
- [[Ng_et_al_2021]] - Conceptualizing AI literacy: An exploratory review
- [[Long_Magerko_2020]] - What is AI literacy? Competencies and design considerations
- [[Swiecki_et_al_2022]] - Assessment in the age of artificial intelligence
- [[Khosravi_et_al_2022]] - Explainable artificial intelligence in education
- [[Yang_et_al_2021]] - Human-centered artificial intelligence in education: Seeing the invisible through the visible
- [[UNESCO_2023]] - Generative Artificial Intelligence in Education: What are the Opportunities and Challenges?
