Fachbegriffe, kurz erklärt

Sprachmodell (LLM)

Ein Programm, das gelernt hat, welche Wörter im Zusammenhang wahrscheinlich aufeinander folgen – trainiert auf sehr großen Textmengen. Daraus entsteht die Fähigkeit, Texte zu verstehen, zusammenzufassen, zu übersetzen oder zu erzeugen. „LLM" steht für Large Language Model. Ein Sprachmodell weiß nichts über Ihr Unternehmen, solange man es ihm nicht zur Verfügung stellt – dafür sorgt Retrieval-Augmented Generation.

Offene Gewichte (Open Weights)

Die trainierten Zahlenwerte eines Modells sind frei herunterladbar. Man kann das Modell damit selbst betreiben, statt es bei einem Anbieter als Dienst zu nutzen. Nicht dasselbe wie Open Source: die Trainingsdaten und der Trainingscode sind meist trotzdem nicht offengelegt. Für Fälle, in denen Daten das Haus nicht verlassen dürfen, ist das oft der entscheidende Punkt.

Kontextfenster

Die Menge an Text, die ein Modell bei einer Anfrage gleichzeitig berücksichtigen kann – gemessen in Token, also Wortbestandteilen. Ist das Fenster zu klein für Ihre Unterlagen, muss vorher ausgewählt werden, welche Ausschnitte hineingehören. Genau das leistet Retrieval-Augmented Generation.

Prompt und Prompt-Template

Der Prompt ist die Anweisung an das Modell. Ein Prompt-Template ist eine wiederverwendbare Vorlage dafür, in die zur Laufzeit die konkreten Daten eingesetzt werden – vergleichbar mit einem Serienbrief. Templates sorgen dafür, dass die Anweisung reproduzierbar bleibt und nicht in jedem Aufruf neu formuliert wird.

Retrieval-Augmented Generation (RAG)

Ein Verfahren, um ein Modell mit eigenen Unterlagen arbeiten zu lassen, ohne es neu zu trainieren. Zur Anfrage werden zuerst die passenden Stellen aus Ihren Dokumenten gesucht und dem Modell mitgegeben; erst dann formuliert es die Antwort. Vorteil: Die Antwort stützt sich auf Ihre Quellen, und man kann belegen, woher sie kommt. Neue Dokumente sind sofort nutzbar.

Embedding

Die Umrechnung eines Textabschnitts in eine Zahlenfolge, die seine Bedeutung abbildet. Texte mit ähnlicher Bedeutung ergeben ähnliche Zahlenfolgen – auch dann, wenn sie kein Wort gemeinsam haben. Damit findet eine Suche „Urlaubsantrag" auch in einem Dokument, das nur von „Abwesenheitsmeldung" spricht.

Vektordatenbank

Eine Datenbank, die auf Embeddings ausgelegt ist. Sie beantwortet nicht „welcher Eintrag enthält dieses Wort", sondern „welche Einträge sind inhaltlich am nächsten". Sie ist die Ablage hinter einem RAG-Aufbau. Ein Beispiel ist Qdrant.

Ingestion (Ingestion-Pipeline)

„Ingestion" heißt wörtlich „Aufnahme" oder „Einspeisung" – eine Ingestion-Pipeline ist die Kette von automatisierten Schritten, die ein Rohdokument von seiner Quelle bis in die fertig durchsuchbare Vektordatenbank bringt: einlesen, in Abschnitte zerlegen, in Embeddings umrechnen und ablegen.

Function Calling

Statt nur Text zu erzeugen, gibt das Modell zurück, welche Funktion Ihrer Anwendung mit welchen Werten aufgerufen werden soll. Ausgeführt wird der Aufruf von Ihrer Anwendung, nicht vom Modell – die Kontrolle darüber, was tatsächlich passieren darf, bleibt also bei Ihnen. Das ist die technische Grundlage für KI-Agenten.

KI-Agent (agentisch)

Ein Sprachmodell, das nicht nur antwortet, sondern Werkzeuge bedienen darf: eine E-Mail versenden, einen Datensatz anlegen, eine Berechnung ausführen. Es entscheidet selbst, welches Werkzeug in welcher Reihenfolge nötig ist. Weil es damit echte Wirkung hat, gehören Grenzen und Freigabepunkte von Anfang an dazu.

Skill

Eine wiederverwendbare, in sich geschlossene Arbeitsanweisung für ein Modell oder einen Agenten – vergleichbar mit einer Verfahrensanweisung im Qualitätsmanagement. Sie legt drei Dinge fest:

• Wann sie greift – woran das Modell erkennt, dass genau diese Aufgabe vorliegt.
• Wie vorzugehen ist – die Schritte in ihrer Reihenfolge, samt bewährter Praxis und typischer Fallstricke.
• Womit gearbeitet wird – mitgelieferte Skripte, Vorlagen, Beispiele und Nachschlagedateien.

Der Unterschied zum Prompt-Template: Ein Template füllt eine einzelne Anweisung, ein Skill bündelt ein ganzes Vorgehen samt Hilfsmitteln. Der praktische Nutzen liegt darin, dass Wissen, das sonst nur in den Köpfen einzelner Mitarbeiter steckt, einmal aufgeschrieben wird und danach bei jedem Durchlauf gleich verfügbar ist.

Multi-Agenten-System

Mehrere KI-Agenten mit unterschiedlichen Aufgaben arbeiten an einem Ablauf zusammen – etwa einer, der eine Anfrage einordnet, einer, der Unterlagen zusammensucht, und einer, der die Antwort entwirft. Sinnvoll bei mehrstufigen Abläufen, weil jeder Schritt einzeln geprüft und verbessert werden kann. Aufwändiger als ein einzelner Agent und nicht immer nötig.