Materiallage
Foliensatz, Lerninhalte, Aktivitäten und institutioneller Kontext sind belegt. Der dokumentierte Stand beschreibt die Planung des Lehrblocks; eine abgeschlossene Durchführung ist in den geprüften Quellen nicht separat nachgewiesen. Das vorgesehene Google-Docs-Skriptum liegt noch nicht vor.
Lernziele
- Large Language Models über Next Token Prediction, Transformer, Tokenisierung und Embeddings grundlegend erklären
- proprietäre Modelle, Open-Source-Modelle und Open-Weights-Modelle begrifflich unterscheiden
- Prompts mit Kontext, Instruktion, Beispielen und Ausgabeformat systematisch strukturieren
- Prompt Engineering und Context Engineering unterscheiden und für komplexe Aufgaben einsetzen
- Zero-Shot, Few-Shot, Chain-of-Thought und Decomposition zielbezogen anwenden
- Context Rot, Sycophancy, Prompt Brittleness und Konfabulation als Grenzen von LLMs einordnen
- Verfahren zur KI-Text-Erkennung kritisch bewerten
Sitzungen
LLM-Grundlagen, Prompt Engineering und Context Engineering
Der Lehrblock ist für sieben Lehrtage und zehn Gruppen mit einer gemeinsamen inhaltlichen Grundstruktur geplant.
Themen
- Next Token Prediction, Transformer, Tokenisierung, Embeddings und Context Window
- Modelllandschaft: proprietär, Open Source und Open Weights
- Anatomie eines Prompts und strukturierte Ausgaben mit Markdown
- Hands-on: akademisches Narrativ aus einem Text extrahieren
- Hands-on: eine Workshop-Kalkulation spezifizieren und prüfen
- Context Engineering mit System Prompt, Retrieval und Kontextmanagement
- Prompting-Techniken: Zero-Shot, Few-Shot, Chain-of-Thought und Decomposition
- LLM-Probleme: Context Rot, Sycophancy, Prompt Brittleness und Konfabulation
- Möglichkeiten und Grenzen der KI-Text-Erkennung
MATERIALIEN:
Aktivitäten:
- Prompts anhand ihrer Bestandteile analysieren und iterativ verbessern
- Modellausgaben vergleichen und fachlich verifizieren
- Kontext und Ausgabeformat für eine konkrete Aufgabe entwerfen
Ressourcen
Wesentliche Werkzeuge
-
OpenAI Tokenizer
Interaktives Werkzeug zur Untersuchung der Tokenisierung.
Empfohlene Literatur
Online-Ressourcen
-
Micro-Degree Künstliche Intelligenz und Gesellschaft
Offizielle Programminformationen der Universität Graz.
-
LLMDH Glossar
Begriffe zu Sprachmodellen, Prompting und Context Engineering.