Nachschlagewerk

KI- & LLM-Glossar

50 Begriffe, die auftauchen, sobald ein großes Sprachmodell in ein echtes Produkt geht — geschrieben von einem Entwickler, der diese Systeme produktiv bringt, nicht von einem Marketing-Team.

Jeder Eintrag sagt, was der Begriff bedeutet und warum er in der Praxis zählt — in klarer Sprache, ohne die schwierigen Teile für gelöst zu erklären. Jeder Begriff hat einen eigenen Ankerlink, sodass Sie Kollegen oder einen Assistenten direkt auf eine einzelne Definition verweisen können.

Durchsucht alle 50 Definitionen und jede Seite in dieser Sprache. Läuft vollständig in Ihrem Browser.

LLM-Grundlagen8 Begriffe

Großes Sprachmodell (LLM): Ein neuronales Netz, das auf sehr großen Textmengen trainiert wurde, um das nächste Token vorherzusagen. Dieser eine Mechanismus genügt für Zusammenfassung, Übersetzung, Klassifikation und Code — bedeutet aber auch: Das Modell erzeugt plausible Fortsetzungen, keine geprüften Fakten.
Token: Die Einheit, die ein LLM tatsächlich liest und schreibt: grob ein Wortteil, im Englischen etwa vier Zeichen, im Deutschen oder Ungarischen deutlich ineffizienter. Kontextgrenze, Latenz und Abrechnung zählen in Token, nicht in Wörtern.
Kontextfenster: Die maximale Tokenzahl, die ein Modell gleichzeitig berücksichtigen kann — System-Prompt, Konversation, abgerufene Dokumente und die eigene Antwort zusammen. Wird sie überschritten, fällt der älteste Inhalt weg; deshalb vergessen lange Chats still und leise Anweisungen.
Prompt: Alles, was für eine Anfrage an das Modell geht: Anweisungen, Beispiele, abgerufener Kontext und die Nutzerfrage. In Produktion ist ein Prompt kein cleverer Satz, sondern ein versioniertes, getestetes Artefakt — eine Änderung wirkt wie eine Codeänderung.
System-Prompt: Die dauerhafte Anweisung, die jede Anfrage einer Konversation rahmt: Rolle, Ton, Regeln, Ausgabeformat. Sie wiegt schwerer als die Nutzernachricht und ist damit der natürliche Ort für Leitplanken — und ein häufiges Ziel von Prompt Injection.
Temperature (Temperatur): Ein Sampling-Parameter, der steuert, wie viel Zufall bei der Wahl des nächsten Tokens erlaubt ist. Nahe 0 ist die Ausgabe wiederholbar und konservativ — genau richtig für Extraktion und Klassifikation; höhere Werte erkaufen Vielfalt mit Verlässlichkeit.
Top-p- und Top-k-Sampling: Zwei Wege, die Auswahl der möglichen Tokens einzugrenzen. Top-k behält die k wahrscheinlichsten Kandidaten, Top-p (Nucleus Sampling) die kleinste Menge, deren Wahrscheinlichkeiten p ergeben. Sie zu verengen stabilisiert die Ausgabe meist besser als Temperature allein.
Halluzination: Eine flüssige, selbstbewusste Antwort, die schlicht falsch ist — eine erfundene Quelle, API-Methode oder Zahl. Kein Bug, der sich patchen lässt, sondern eine Eigenschaft der Next-Token-Vorhersage: Man managt sie mit Retrieval, Grounding, Ausgabevalidierung und Evaluation.

RAG und Retrieval9 Begriffe

RAG (Retrieval-Augmented Generation): Zuerst die relevanten Passagen aus den eigenen Daten abrufen, dann das Modell ausschließlich daraus antworten lassen. So bekommt ein LLM Zugriff auf private, aktuelle oder zu umfangreiche Inhalte — und die Antwort wird auf eine Quelle zurückführbar.
Embedding: Ein Zahlenvektor, der die Bedeutung eines Textstücks abbildet — ähnliche Bedeutungen liegen nah beieinander. Embeddings ermöglichen semantische Suche, Clustering und Deduplizierung, ganz ohne Schlüsselwort-Treffer.
Vektordatenbank: Ein Speicher, der in Millisekunden die nächstgelegenen Vektoren zu einem Anfragevektor findet — pgvector, Qdrant, Pinecone. Bei moderaten Datenmengen genügt meist eine Postgres-Erweiterung; ein eigener Dienst lohnt sich erst bei großem Volumen.
Semantische Suche: Suche nach Bedeutung statt nach Zeichenkette, auf Basis von Embeddings. Sie findet das richtige Dokument auch bei anderer Wortwahl — und genau deshalb kann eine exakte Artikelnummer schlechter treffen als bei klassischer Stichwortsuche.
Chunking: Das Zerlegen von Dokumenten in abrufbare Stücke. Die am meisten unterschätzte Entscheidung in RAG: Chunks, die eine Tabelle von ihrer Kopfzeile oder eine Antwort von ihrer Frage trennen, ruinieren das Retrieval — unabhängig von der Modellqualität.
Reranking: Ein zweiter Durchgang, der die gefundenen Kandidaten mit einem langsameren, genaueren Modell neu ordnet, bevor sie das LLM erreichen. Zwanzig abrufen, neu ranken, fünf behalten: meist die günstigste einzelne Qualitätsverbesserung in einem RAG-System.
Hybride Suche: Die Kombination aus Stichwortsuche (BM25) und Vektorsuche mit anschließender Zusammenführung beider Trefferlisten. Sie deckt die blinden Flecken beider Verfahren ab: exakte Bezeichner und seltene Wörter hier, Umschreibungen und Synonyme dort.
Grounding und Quellenangabe: Die Vorgabe, dass das Modell ausschließlich aus den gelieferten Quellen antwortet und zu jeder Aussage die Passage nennt. Quellenangaben sind kein Schmuck: Sie machen eine Antwort prüfbar — und eine falsche Antwort diagnostizierbar.
llms.txt: Eine Textdatei im Wurzelverzeichnis, die KI-Assistenten eine strukturierte Zusammenfassung und eine Karte der wichtigen Seiten liefert — robots.txt, aber für Bedeutung statt Erlaubnis. Das Gegenstück llms-full.txt liefert den gesamten Inhalt in einem Abruf.

Training und Tuning8 Begriffe

Pre-Training: Der ursprüngliche, extrem teure Trainingslauf auf breitem Text, der die allgemeine Fähigkeit eines Basismodells erzeugt. Außerhalb der großen Labore macht das praktisch niemand; was die meisten Teams „Training“ nennen, ist eine der günstigeren Anpassungen darauf.
Fine-Tuning: Fortgesetztes Training auf eigenen Beispielen, damit das Modell ein Format, einen Ton oder eine enge Aufgabe übernimmt. Es lehrt Verhalten, keine Fakten — für eigene Daten nutzt man Retrieval; Fine-Tuning, wenn konsistent auf bestimmte Weise geantwortet werden soll.
LoRA und parameter-effizientes Tuning: Statt des ganzen Modells wird nur ein kleiner Satz zusätzlicher Gewichte trainiert — um Größenordnungen günstiger und mit geringerem Hardwarebedarf. Adapter lassen sich pro Kunde oder Aufgabe tauschen und auf einem gemeinsamen Basismodell stapeln.
RLHF (Reinforcement Learning aus menschlichem Feedback): Ausrichtung eines Modells anhand menschlicher Präferenzurteile zwischen Antwortkandidaten. Erst dadurch wird aus einem reinen Textvorhersager ein Assistent, der Anweisungen befolgt und ablehnt, was abzulehnen ist.
Instruction Tuning: Training auf Paaren aus Anweisung und Antwort, damit ein Modell zuverlässig das Geforderte tut, statt den Text fortzusetzen. Das ist der Unterschied zwischen einer Vervollständigungsmaschine und etwas, dem man eine Aufgabe übergeben kann.
Zero-Shot- und Few-Shot-Prompting: Zero-Shot fragt nur mit Anweisungen, Few-Shot legt einige ausgearbeitete Beispiele in den Prompt. Drei gute Beispiele schlagen regelmäßig eine Seite Fließtext-Anweisungen — und kosten weit weniger als Fine-Tuning.
Quantisierung: Modellgewichte werden mit geringerer numerischer Präzision gespeichert, damit ein Modell auf kleinere Hardware passt und schneller läuft. Der Qualitätsverlust bleibt bis etwa 4 Bit für die meisten Aufgaben moderat — das macht selbst gehostete Modelle praktikabel.
Distillation: Ein kleines, günstiges Modell wird auf den Ausgaben eines großen trainiert. Bei einer eng definierten Aufgabe erreicht es das große Modell nahezu — bei einem Bruchteil von Latenz und Kosten. Ein solider Weg, eine teure Pipeline wirtschaftlich zu machen.

Agenten und Werkzeugnutzung8 Begriffe

KI-Agent: Ein LLM, das handeln kann — Werkzeuge aufrufen, Ergebnisse lesen, den nächsten Schritt bestimmen — statt nur Text zu erzeugen. Die eigentliche Arbeit ist selten das Schlussfolgern, sondern Grenzen, Berechtigungen und Abbruchbedingungen darum herum.
Agentischer Workflow: Ein mehrstufiger Prozess, in dem das Modell in einer Schleife plant, handelt und die eigene Arbeit prüft. Stark bei offenen Aufgaben, aber jeder zusätzliche Schritt vervielfacht Kosten, Latenz und Fehlerquellen — die meisten Produktionsprobleme löst eine feste Pipeline besser.
Tool Calling (Function Calling): Das Modell erhält eine typisierte Liste aufrufbarer Funktionen — Datenbankabfrage, API-Aufruf, Berechnung — und gibt statt Prosa einen strukturierten Aufruf zurück. So berührt ein LLM echte Systeme sicher und überprüfbar.
MCP (Model Context Protocol): Ein offenes Protokoll, das Modelle über eine gemeinsame Schnittstelle mit Werkzeugen und Datenquellen verbindet — eine einmal geschriebene Integration funktioniert so über Assistenten hinweg. Es ersetzt den maßgeschneiderten Klebecode pro Anbieter.
Multi-Agenten-System: Mehrere spezialisierte Agenten arbeiten an einer Aufgabe, oft mit einem Koordinator. Hilft wirklich, wenn Teilaufgaben unterschiedliche Werkzeuge oder Rechte brauchen; sonst erzeugt es vor allem Kosten und Nichtdeterminismus, wo ein guter Einzelaufruf genügt hätte.
Guardrails (Leitplanken): Die Prüfungen rund um das Modell: Eingabefilter, Validierung des Ausgabeschemas, Positivlisten erlaubter Aktionen, Budget- und Schrittgrenzen. Guardrails sind gewöhnliche, deterministisch testbare Software — und machen eine nichtdeterministische Komponente erst produktionsreif.
Human in the Loop: Menschliche Freigabe vor jeder teuren, unumkehrbaren oder kundenwirksamen Aktion. Die Entwurfsfrage ist nicht ob, sondern an welchen Schritten genau — bei zu vielen Freigaben rechnet sich die Automatisierung nicht mehr.
Orchestrierung: Die Schicht, die festlegt, was wann läuft: Retrieval, Modellaufrufe, Werkzeuge, Wiederholungen, Fallbacks und Zustand. Hier leben Frameworks wie LangChain oder LangGraph — nützlich, doch oft ist eine schlichte Zustandsmaschine die wartbarere Wahl.

Evaluation und Qualität8 Begriffe

Benchmark: Ein Standard-Testsatz zum Vergleich von Modellen. Gut für eine Vorauswahl, irreführend als Entscheidung: Öffentliche Benchmarks sickern in Trainingsdaten, und keiner misst Ihre Dokumente, Ihre Nutzer oder Ihre Definition einer guten Antwort.
Eval (Evaluation): Die eigene automatisierte Testsuite für ein LLM-Feature: feste Eingaben, erwartete Eigenschaften, eine Kennzahl, die man über Modell- und Prompt-Änderungen hinweg verfolgt. Ohne Evals entwickelt man kein KI-Feature, man justiert es nach Gefühl.
Golden Dataset: Ein kuratierter Satz echter Eingaben mit geprüft korrekten Ausgaben, verantwortet von Fachexperten statt von Entwicklern. Hundert gut gewählte Fälle schlagen zehntausend zusammengesammelte — und erst dieses Asset macht jeden späteren Modellwechsel messbar.
LLM als Judge: Ein Modell bewertet die Ausgabe eines anderen anhand eines Kriterienrasters. Das skaliert Evaluation auf Mengen, die Menschen nicht prüfen können — übernimmt aber die Verzerrungen des Judges und muss vor dem Vertrauen an menschlichen Bewertungen kalibriert werden.
Determinismus und Reproduzierbarkeit: Ob dieselbe Eingabe zuverlässig dieselbe Ausgabe erzeugt. Vollständiger Determinismus ist mit gehosteten Modellen nicht erreichbar, doch Temperature nahe null, feste Prompts, fixierte Modellversionen und strukturierte Ausgaben kommen nah genug heran, um dagegen zu testen.
Precision und Recall: Precision misst, wie viele der gelieferten Treffer korrekt waren; Recall, wie viele der korrekten gefunden wurden. Beide gehen zulasten des jeweils anderen — welches wichtiger ist, ist eine Geschäftsentscheidung: Ein übersehener Betrugsfall und ein falscher Verdacht kosten nicht dasselbe.
LLM-basierte Klassifikation: Ein Modell sortiert Texte in Kategorien — Tickets, Dokumente, Absichten — ohne dass ein eigener Klassifikator trainiert wird. Schnell gebaut und stark bei unsauberer Sprache; nötig sind ein fester Labelsatz, ein Konfidenzschwellwert und ein expliziter Weg für „keines davon“.
Observability und Tracing: Jeder Prompt, abgerufene Chunk, Werkzeugaufruf, Tokenzähler und jede Latenz wird pro Anfrage protokolliert. Meldet ein Nutzer eine schlechte Antwort, entscheidet das darüber, ob man sie in Minuten reproduziert oder einen Tag lang rät.

Integration und Betrieb9 Begriffe

Inferenz und Inferenz-API: Inferenz ist ein einzelner Lauf des Modells auf Ihrer Eingabe; die Inferenz-API der gehostete Endpunkt dafür. Behandeln Sie sie als Drittanbieter-Abhängigkeit mit SLA: Sie kann langsam, gedrosselt oder ausgefallen sein — Ihr Produkt muss dann sinnvoll reagieren.
Prompt Caching: Die verarbeitete Form eines langen, unveränderten Prompt-Präfixes wird über Anfragen hinweg wiederverwendet. Bei großem System-Prompt oder festem Dokumentensatz senkt das Kosten und Zeit bis zum ersten Token deutlich — sofern der stabile Teil zuerst steht.
Streaming: Tokens werden gesendet, während sie entstehen, statt auf die vollständige Antwort zu warten. Das beschleunigt die Generierung nicht, senkt aber die wahrgenommene Latenz drastisch — und verlangt, dass der gesamte Stack inklusive Proxys ungepuffert durchreicht.
Rate Limit: Die Obergrenze des Anbieters für Anfragen oder Tokens pro Minute. Sie ist die häufigste Ursache dafür, dass ein KI-Feature in der Demo läuft und zum Start scheitert — Queueing, Backoff und ein Fallback-Modell gehören deshalb ins Design, nicht ins Post-Mortem.
Tokenkosten: Abgerechnet wird pro Eingabe- und Ausgabetoken, zu unterschiedlichen Sätzen. Praktische Folge: Abgerufener Kontext, lange System-Prompts und Chatverlauf sind die echten Kostentreiber — eine unbegrenzte Konversation ist eine unbegrenzte Rechnung.
Latenz und Time to First Token: Die Gesamtdauer zählt weniger als der Moment, in dem der Nutzer etwas passieren sieht. Die Zeit bis zum ersten Token ist die Kennzahl, die sich zu optimieren lohnt: Streaming, Prompt Caching, kleinere Modelle für einfache Schritte, paralleles statt sequenzielles Retrieval.
Selbst gehostete vs. gehostete Modelle: Ein Open-Weights-Modell auf eigener Hardware bietet Datenkontrolle, stabile Preise und keine Anbieter-Abschaltungen; ein gehostetes Spitzenmodell mehr Leistung ohne Betriebsaufwand. Die meisten Systeme werden gemischt: lokal für Masse und Sensibles, gehostet für die harten Fälle.
Datenschutz in LLM-Systemen: Nach DSGVO ist das Senden personenbezogener Daten an einen Modellanbieter eine Verarbeitung durch Dritte: Es braucht Rechtsgrundlage, Auftragsverarbeitungsvertrag, bekannte Speicherregion und eine Antwort zur Aufbewahrung. Ob der Anbieter auf Ihren Daten trainiert, ist eine Vertrags-, keine Technikfrage.
AEO und GEO: Answer Engine Optimization und Generative Engine Optimization: eine Website so aufbauen, dass KI-Assistenten sie abrufen und zitieren können — nicht nur Suchmaschinen sie ranken. Praktisch bedeutet das strukturierte Daten, maschinenlesbare Zusammenfassungen und chunk-sichere Inhalte.

Bauen Sie etwas mit einem LLM?

Ich entwerfe und liefere produktionsreife KI-Systeme — RAG-Pipelines, semantische Suche, Evaluation und die Technik drumherum.

Kontakt aufnehmen Zurück zur Startseite