KI-Glossar: Begriffe für Entscheider, kurz erklärt
Was ist ein Token, was ein Agent, und was verlangt der AI Act? 30 Begriffe, jeder in einem Satz und danach so ausführlich, wie Sie ihn für Entscheidungen brauchen.
A
Agent
Eine KI, die nicht nur antwortet, sondern selbstständig mehrere Schritte plant und Werkzeuge benutzt, um eine Aufgabe zu erledigen.
Ein Chatbot beantwortet eine Frage. Ein Agent bekommt ein Ziel, etwa „Recherchiere zu diesen zehn Firmen Ansprechpartner und lege sie im CRM an“, und arbeitet es ab: Er sucht, liest, vergleicht, trägt ein und meldet, was er nicht klären konnte. Dafür braucht er Zugriff auf Programme, und genau da liegt die Verantwortung. Ein Agent sollte nur dürfen, was ein neuer Mitarbeiter in der Probezeit auch dürfte, und wichtige Schritte sollte ein Mensch freigeben.
AI Act
Die europäische KI-Verordnung (EU) 2024/1689, seit 1. August 2024 in Kraft; sie regelt KI nach Risiko.
Der AI Act teilt KI-Anwendungen in Risikostufen ein: Manche Praktiken sind verboten (etwa Social Scoring), Hochrisiko-Systeme (etwa KI in der Personalauswahl) unterliegen strengen Pflichten, für Chatbots und KI-erzeugte Inhalte gelten Transparenzpflichten. Für die meisten Unternehmen zählen vor allem zwei Dinge: die KI-Kompetenz des Personals (Art. 4) und die Kennzeichnung (Art. 50). Mit dem Digital Omnibus, Verordnung (EU) 2026/1744, wurden im Juli 2026 die Hochrisiko-Fristen verschoben und Art. 4 abgeschwächt. Mehr dazu
API
Die Programmierschnittstelle, über die eigene Software ein KI-Modell direkt anspricht, ohne Chatfenster.
Über die API binden Sie ein Modell in Ihre eigenen Abläufe ein: Das Warenwirtschaftssystem schickt eine Rechnung, die KI liest sie aus und gibt die Felder zurück. Abgerechnet wird nach Tokens. Wichtig für den Datenschutz: Bei den großen Anbietern gelten für die API meist andere, strengere Vertragsbedingungen als für die kostenlosen Chat-Apps, Eingaben werden dort in der Regel nicht zum Training verwendet. Das steht im Vertrag, nicht in der Werbung, also nachlesen.
Auftragsverarbeitungsvertrag (AVV)
Der Vertrag nach Art. 28 DSGVO, ohne den Sie personenbezogene Daten nicht an einen KI-Anbieter geben dürfen.
Sobald Namen, E-Mail-Adressen, Kundendaten oder Bewerbungen in ein KI-Werkzeug wandern, verarbeitet der Anbieter diese Daten in Ihrem Auftrag. Dafür brauchen Sie einen AVV, bei großen Anbietern heißt er oft Data Processing Addendum (DPA). Die Business- und Enterprise-Tarife bieten ihn, die kostenlosen Verbraucherversionen in der Regel nicht. Mehr dazu
C
Chatbot
Ein Programm, mit dem man sich in natürlicher Sprache schriftlich unterhält.
Früher folgten Chatbots festen Entscheidungsbäumen und scheiterten an jeder unerwarteten Frage. Heutige Chatbots beruhen auf Sprachmodellen und verstehen auch freie Formulierungen. Im Kundenservice beantworten sie Standardfragen rund um die Uhr. Nach dem AI Act müssen Menschen erkennen können, dass sie mit einer KI sprechen.
Copilot
Microsofts Name für die KI-Assistenten in Windows, Office und Teams.
Microsoft 365 Copilot arbeitet in Word, Excel, Outlook und Teams und greift auf die Dateien und Mails zu, für die der Nutzer berechtigt ist. Das ist sein Vorteil und sein Risiko: Wenn im Unternehmen Ordnerrechte zu großzügig vergeben sind, findet Copilot auch, was niemand finden sollte. Vor der Einführung lohnt deshalb ein Blick auf die Berechtigungen.
D
Datenschutz-Folgenabschätzung
Die Prüfung nach Art. 35 DSGVO, die bei Verarbeitungen mit hohem Risiko für Betroffene vorgeschrieben ist.
Wer KI etwa zur Auswertung von Bewerbungen, zur Leistungsbewertung oder zur Überwachung einsetzt, muss vorher abschätzen, welche Risiken für die Betroffenen entstehen, und Gegenmaßnahmen festlegen. Ihr Datenschutzbeauftragter weiß, wann sie Pflicht ist.
DSGVO
Die Datenschutz-Grundverordnung der EU; sie gilt für jede KI, die personenbezogene Daten verarbeitet.
Die DSGVO kennt kein eigenes KI-Kapitel, aber alle ihre Grundsätze gelten: Sie brauchen eine Rechtsgrundlage, müssen Betroffene informieren, dürfen nur nötige Daten verwenden und brauchen mit Dienstleistern einen AVV. Bei Anbietern außerhalb der EU kommt die Frage der Datenübermittlung dazu. Für die USA gilt derzeit das EU-US Data Privacy Framework, sofern der Anbieter zertifiziert ist. Mehr dazu
E
Embedding
Die Übersetzung eines Textes in eine Zahlenreihe, mit der eine KI Bedeutungen vergleichen kann.
Embeddings sind die Grundlage, wenn eine KI in Ihren eigenen Dokumenten sucht. Jeder Absatz wird als Zahlenreihe gespeichert, und eine Frage findet die Absätze mit der ähnlichsten Bedeutung, auch wenn kein Wort übereinstimmt. „Urlaubsantrag“ findet so auch „Freistellung beantragen“.
F
Feinabstimmung (Fine-Tuning)
Das Nachtrainieren eines fertigen Modells mit eigenen Beispielen, damit es eine bestimmte Aufgabe oder Sprache besser beherrscht.
Fine-Tuning klingt nach der Lösung für „die KI soll unser Wissen kennen“, ist dafür aber selten der beste Weg. Wissen ändert sich, und ein nachtrainiertes Modell müsste jedes Mal neu trainiert werden. Für Wissen ist RAG meist besser, für einen festen Stil oder ein festes Ausgabeformat kann Fine-Tuning sinnvoll sein.
G
Generative KI
KI, die neue Inhalte erzeugt: Texte, Bilder, Töne, Videos oder Programmcode.
Bis etwa 2022 bedeutete KI im Unternehmen meist Mustererkennung: Betrugserkennung, Absatzprognosen, Qualitätsprüfung per Kamera. Generative KI kann zusätzlich schreiben, zusammenfassen, übersetzen und programmieren. Damit erreicht sie zum ersten Mal die Büroarbeit in der Breite.
GPAI-Modell
Ein KI-Modell mit allgemeinem Verwendungszweck im Sinne des AI Act, etwa die Modelle hinter ChatGPT, Claude oder Gemini.
Für die Anbieter solcher Modelle gelten seit August 2025 eigene Pflichten: technische Dokumentation, Angaben zu Trainingsdaten, Achtung des Urheberrechts. Für Sie als nutzendes Unternehmen ändern diese Pflichten wenig, sie liegen beim Hersteller.
H
Halluzination
Eine Antwort der KI, die überzeugend klingt, aber falsch oder erfunden ist.
Sprachmodelle berechnen die wahrscheinlichste Fortsetzung eines Textes. Wenn sie etwas nicht wissen, entsteht trotzdem ein flüssiger Satz, manchmal mit erfundenen Quellen, Paragrafen oder Zahlen. Halluzinationen werden seltener, verschwinden aber nicht. Gegenmittel: der KI eigene Unterlagen geben (RAG), Quellen verlangen und prüfen, und bei Zahlen, Recht und Kundenaussagen immer ein Mensch, der gegenliest.
Hochrisiko-KI
KI-Systeme, die nach dem AI Act strenge Anforderungen erfüllen müssen, etwa in Personalauswahl, Kreditvergabe oder kritischer Infrastruktur.
Wer KI zur Auswahl von Bewerbern, zur Beförderung oder zur Leistungsbewertung einsetzt, betreibt ein Hochrisiko-System nach Anhang III des AI Act. Die Pflichten dafür (menschliche Aufsicht, Protokollierung, Information der Betroffenen) gelten nach dem Digital Omnibus ab dem 2. Dezember 2027, für KI in regulierten Produkten wie Maschinen ab dem 2. August 2028.
I
Inferenz
Das Benutzen eines fertig trainierten Modells, also jede einzelne Antwort, die es erzeugt.
Training kostet einmalig sehr viel Rechenleistung, Inferenz bei jeder Anfrage ein wenig. Für Unternehmen ist die Inferenz der laufende Kostenfaktor, egal ob über die API eines Anbieters oder auf eigener Hardware.
K
KI-Kompetenz
Das Wissen und die Fähigkeiten, KI sachkundig einzusetzen und ihre Chancen und Risiken zu erkennen; Art. 4 AI Act.
Seit Februar 2025 verlangt Art. 4 AI Act von Unternehmen, die KI einsetzen, sich um die KI-Kompetenz ihres Personals zu kümmern. Seit dem Digital Omnibus (in Kraft seit 27. Juli 2026) heißt das: Maßnahmen ergreifen, die diese Kompetenz unterstützen. Ein bestimmtes Niveau muss nicht garantiert werden, ein Zertifikat ist nicht vorgeschrieben. Dokumentieren, was Sie tun, bleibt trotzdem klug. Mehr dazu
KI-Müdigkeit
Die Erschöpfung, die entsteht, wenn man mit vielen KI-Werkzeugen und Chatfenstern parallel arbeitet.
KI beschleunigt einzelne Aufgaben, aber wer zehn Chats gleichzeitig offen hat, alles gegenlesen muss und ständig zwischen Werkzeugen springt, ist abends erschöpfter als vorher. Im Englischen heißt das AI Fatigue. Gegenmittel sind klare Werkzeuge statt Wildwuchs, feste Zeiten für konzentrierte Arbeit und die Erlaubnis, eine Aufgabe auch einmal ohne KI zu erledigen. Mehr dazu
KI-Richtlinie
Die interne Regel, welche KI-Werkzeuge mit welchen Daten wofür benutzt werden dürfen.
Eine gute KI-Richtlinie passt auf zwei Seiten: Welche Werkzeuge sind freigegeben, welche Daten dürfen niemals hinein, wer prüft Ergebnisse, wer ist ansprechbar, und wie werden neue Werkzeuge freigegeben. Ohne Richtlinie nutzen Mitarbeitende trotzdem KI, nur unkontrolliert. Mehr dazu
Kontextfenster
Die Textmenge, die ein Modell bei einer Antwort auf einmal berücksichtigen kann, gemessen in Tokens.
Ein großes Kontextfenster heißt: Sie können einen ganzen Vertrag oder mehrere Handbücher auf einmal hineingeben. Es heißt nicht, dass das Modell sich alles gleich gut merkt. Was in der Mitte eines sehr langen Textes steht, wird oft schwächer beachtet.
L
Large Language Model (LLM)
Ein großes Sprachmodell, das mit riesigen Textmengen trainiert wurde und Sprache versteht und erzeugt.
LLMs sind der Kern von ChatGPT, Claude, Gemini, Le Chat und Copilot. Sie haben nicht gelernt, Fakten nachzuschlagen, sondern Sprache fortzusetzen, und können deshalb erstaunlich viel und irren trotzdem.
Lokale KI
Ein KI-Modell, das auf eigener Hardware im Unternehmen läuft, ohne Daten an einen Cloud-Anbieter zu schicken.
Offene Modelle wie Llama, Mistral oder Qwen lassen sich auf eigenen Servern oder leistungsstarken Arbeitsplatzrechnern betreiben. Vorteil: Die Daten verlassen das Haus nicht. Nachteil: Hardware, Wartung und Know-how kosten, und die stärksten Modelle gibt es meist nur in der Cloud. Ein Mittelweg sind europäische Rechenzentren mit garantierter Datenhaltung in der EU. Mehr dazu
M
Multimodal
Ein Modell, das nicht nur Text, sondern auch Bilder, Ton oder Video versteht und verarbeitet.
Multimodale Modelle lesen ein Foto vom Typenschild, eine eingescannte Rechnung oder eine Skizze vom Whiteboard. Für Unternehmen öffnet das viele Abläufe, in denen bisher Papier oder Bilder im Spiel waren.
O
Open-Weight-Modell
Ein Modell, dessen trainierte Gewichte veröffentlicht sind, sodass jeder es selbst betreiben kann.
Oft wird von Open Source gesprochen, genau genommen sind meist nur die Gewichte offen, nicht Trainingsdaten und Trainingsverfahren. Für Unternehmen zählt: Ein Open-Weight-Modell kann lokal laufen, und die Lizenz entscheidet, ob es auch gewerblich genutzt werden darf.
P
Prompt
Die Anweisung oder Frage, die Sie einer KI geben.
Ein guter Prompt ist wie ein gutes Briefing für einen neuen Kollegen: Ziel, Hintergrund, Beispiel, gewünschtes Format. „Schreib eine Mail an Kunden“ liefert Durchschnitt. „Schreib eine Mail an einen langjährigen Kunden, der seit drei Monaten nicht bestellt hat, freundlich, ohne Rabatt, höchstens acht Sätze“ liefert etwas Brauchbares.
R
RAG (Retrieval-Augmented Generation)
Ein Verfahren, bei dem die KI vor der Antwort in Ihren eigenen Dokumenten nachschlägt.
Statt das Modell nachzutrainieren, sucht ein RAG-System zu jeder Frage die passenden Stellen aus Handbüchern, Verträgen oder dem Wiki und gibt sie der KI mit. Die Antwort stützt sich dann auf Ihr Wissen und kann die Quelle nennen. Das ist heute der übliche Weg, wenn eine KI Unternehmenswissen kennen soll.
S
Schatten-KI
KI-Werkzeuge, die Mitarbeitende ohne Wissen oder Freigabe des Unternehmens nutzen.
Wer kein freigegebenes Werkzeug anbietet, bekommt Schatten-KI: private Konten, kostenlose Apps, Browser-Erweiterungen. Verbote helfen wenig. Was hilft, ist ein gutes, erlaubtes Werkzeug und eine klare Richtlinie.
Sprachassistent (Voice Agent)
Eine KI, die am Telefon oder per Mikrofon in gesprochener Sprache Gespräche führt.
Moderne Voice Agents nehmen Anrufe an, vereinbaren Termine, qualifizieren Anfragen vor oder rufen selbst an. Sie klingen inzwischen sehr natürlich. Rechtlich wichtig: Der Angerufene muss erfahren, dass er mit einer KI spricht, und für Werbeanrufe gelten weiter die strengen Regeln des Gesetzes gegen den unlauteren Wettbewerb.
T
Token
Die kleinste Texteinheit, in der ein Sprachmodell rechnet; im Deutschen etwa drei Viertel eines Wortes.
Sprachmodelle zerlegen Text in Tokens, meist Wortteile. Nach Tokens wird abgerechnet, und das Kontextfenster wird in Tokens gemessen. Als Faustregel ergeben 1.000 Tokens im Deutschen rund 650 bis 750 Wörter, je nach Text.
Transformer
Die Bauweise neuronaler Netze, auf der fast alle heutigen Sprachmodelle beruhen, vorgestellt 2017.
Der Aufsatz „Attention Is All You Need“ von Google-Forschern führte 2017 den Transformer ein. Er kann sehr lange Texte gleichzeitig betrachten und lässt sich gut auf viele Rechner verteilen. Das „T“ in GPT steht dafür.
Transparenzpflicht
Die Pflicht nach Art. 50 AI Act, KI-Interaktion und KI-erzeugte Inhalte erkennbar zu machen.
Wer einen Chatbot oder Telefonassistenten einsetzt, muss Menschen darauf hinweisen, dass sie mit einer KI sprechen, sofern es nicht offensichtlich ist. Täuschend echte KI-Bilder, Videos oder Tonaufnahmen (Deepfakes) müssen gekennzeichnet werden. Die Fristen im Einzelnen klären Sie mit Ihrer Rechtsberatung, die Fachquellen sind sich bei den Übergangsfristen nach dem Omnibus nicht einig.