LLMs für Entscheider

Was Sprachmodelle sind, wie sie geprägt werden, und wo ihre blinden Flecken liegen.

Sie müssen kein Modell trainieren können, um Entscheidungen über den Einsatz von KI-Sprachmodellen zu treffen. Aber Sie sollten wissen, wo diese Systeme strukturell schwach sind – nicht weil sie schlecht gebaut wären, sondern weil bestimmte Schwächen aus der Funktionsweise selbst folgen und sich nicht wegtrainieren lassen.

1. Was ein LLM eigentlich tut

Ein Sprachmodell sagt keine „Wahrheit" voraus, sondern das statistisch wahrscheinlichste nächste Wort, gegeben alles, was vorher stand. Es wurde mit Billionen von Wörtern aus Texten, Büchern, Webseiten und Code trainiert und hat daraus Muster gelernt – Zusammenhänge zwischen Begriffen, Argumentationsstrukturen, Stilformen.

Wichtig für Entscheider: Es gibt keine eingebaute Instanz, die „weiß", was wahr ist. Es gibt nur eine sehr gute Mustererkennung, die in den meisten Alltagsfällen mit der Wahrheit übereinstimmt – aber eben nicht immer, und ohne dass das Modell selbst den Unterschied zuverlässig markiert.

2. Wie die Prägung entsteht — vier Phasen

Phase 1 — Pretraining (Rohmaterial)

Das Modell liest riesige Mengen Text aus dem Internet, Büchern und Fachliteratur. Es lernt Sprachmuster, nicht kuratiertes Wissen. Was im Internet häufig vorkommt, prägt stärker – unabhängig davon, ob es richtig, repräsentativ oder seriös ist.

Phase 2 — Das Ungleichgewicht in den Rohdaten

Die Textmenge zu einem Thema spiegelt nicht automatisch dessen wissenschaftliche oder gesellschaftliche Bedeutung wider. Kontroverse Themen erzeugen überproportional viel Text, weil Streit mehr Schreibanlass bietet als Konsens.

Phase 3 — Fine-Tuning / RLHF (Nachjustierung)

Nach dem Pretraining bewerten Menschen Modellantworten nach Kriterien wie Genauigkeit, Nützlichkeit, Sicherheit. Diese Bewertungen trainieren das Modell weiter. Hier fließen explizite Wertentscheidungen der Entwicklerfirma ein – nicht neutrale, sondern bewusst gesetzte Kriterien.

Phase 4 — System-Prompts und Verhaltensrichtlinien

Zusätzlich bekommt das Modell Verhaltensregeln mit: Wann soll es einen wissenschaftlichen Konsens klar benennen, wann mehrere Positionen nebeneinanderstellen? Diese Regeln werden von Menschen bei der Entwicklerfirma festgelegt und unterliegen deren Einschätzung, Kultur und rechtlichem Umfeld.

3. Die zentralen Schwächen

3.1 Halluzination

Modelle erfinden Fakten, Quellen, Zitate oder Zahlen, wenn sie eine Lücke im Gelernten mit einer plausibel klingenden Antwort füllen. Das geschieht nicht als „Fehler", den das Modell bemerkt, sondern als normale Funktionsweise – es gibt keinen internen Wahrheitscheck.

• Besonders riskant bei: Zahlen, Rechtsquellen, Zitaten, aktuellen Ereignissen, Nischenthemen.
• Gegenmittel: Prüfpflicht bei allem, was in eine Entscheidung, Publikation oder einen Vertrag einfließt.

3.2 Fehlende Introspektion

Ein Modell kann nicht zuverlässig sagen, warum es etwas geschrieben hat oder welche Quellen es besonders geprägt haben. Erklärungen, die ein Modell zu seinem eigenen Verhalten liefert, sind selbst wieder generierter Text – plausibel klingend, aber nicht notwendig zutreffend.

3.3 Verzerrung durch Trainingsdaten (Bias)

Weil das Internet nicht neutral ist, sind es die Trainingsdaten auch nicht. Das betrifft:

• Sprachliche Dominanz: Englischsprachige, US-/UK-geprägte Inhalte sind überrepräsentiert.
• Zeitliche Schieflage: Ältere, digitalisierte Texte sind übervertreten gegenüber aktuellen Wissensbeständen.
• Soziale Schieflage: Wer im Internet viel schreibt, prägt die Trainingsdaten überproportional.
• Stereotype: Historisch gewachsene Vorurteile in Texten können reproduziert werden.

3.4 Künstliche Ausgewogenheit ("False Balance")

Modelle sind häufig darauf trainiert, bei kontroversen Themen mehrere Perspektiven darzustellen. Bei Themen mit klarem Sachstand kann „Ausgewogenheit" den Konsens künstlich relativieren.

3.5 Regulatorische und unternehmenspolitische Filter

Jeder Anbieter unterliegt rechtlichen, kulturellen und geschäftlichen Zwängen, die sich im Modellverhalten niederschlagen – von impliziter Vorsicht bis zu expliziter Themenvermeidung.

3.6 Nicht-Aktualität

Ein Modell kennt nur, was bis zu einem bestimmten Stichtag in seine Trainingsdaten eingeflossen ist. Ohne aktive Internetsuche als Zusatzfunktion sind Informationen zu aktuellen Ereignissen unzuverlässig oder veraltet.

3.7 Selbstbewusstes Auftreten trotz Unsicherheit

Modelle sind sprachlich darauf trainiert, flüssig und kohärent zu klingen – auch dann, wenn die zugrunde liegende Faktenlage dünn ist. Diese rhetorische Sicherheit ist keine verlässliche Kalibrierung der tatsächlichen Gewissheit.

4. Anbietervergleich

Jedes Modell trägt Spuren seiner Entstehung. Die folgende Übersicht ordnet grobe, öffentlich beobachtbare Tendenzen ein – keine exakte Messung, da Innenansichten fehlen.

Wichtige Einordnung: Es gibt keinen neutralen Referenzpunkt, von dem aus sich „Bias-Freiheit" messen ließe. Jeder Anbieter hat eine Schieflage – nur die Art und die Sichtbarkeit unterscheiden sich.

5. Praktische Konsequenzen

• Faktenprüfung institutionalisieren: LLM-Output wie den Entwurf eines nicht immer zuverlässigen Praktikanten behandeln – brauchbar als Ausgangspunkt, nicht als Endprodukt.
• Modellwahl bewusst treffen: Je nach Anwendungsfall unterschiedliche Modelle testen; bei politisch/kulturell sensiblen Anwendungen die Herkunft des Anbieters mitdenken.
• Keine Illusion von Objektivität: „Das Modell sagt..." ist keine neutrale Autorität, sondern das Ergebnis vieler menschlicher Entscheidungen bei einem bestimmten Unternehmen.
• Aktualität prüfen: Bei zeitkritischen Themen aktiv nachfragen, ob das Modell Internetzugriff hat.
• Vier-Augen-Prinzip bei Grenzfällen: Bei ethisch, rechtlich oder politisch heiklen Fragen LLM-Antworten als einen Input unter mehreren behandeln.

6. Praxisbeispiele — Risiko nach Komplexität

7. Kosten — grobe Einordnung

Cloud-Abo (z. B. ChatGPT, Claude Pro)

Ca. 20–30 € pro Nutzer/Monat bei Einzelplänen. Vorteil: kein technischer Aufwand, sofort startklar. Nachteil: Daten verlassen das eigene Haus, laufende Kosten pro Kopf.

API-Nutzung (nach Verbrauch)

Abrechnung nach Textmenge (Tokens), typischerweise Bruchteile von Cent bis wenige Cent pro 1.000 Wörter. Sinnvoll für eigene Softwareintegration, automatisierte Workflows – aber Kostenrisiko bei unkontrolliertem Volumen.

Self-Hosting (eigene Server)

Sinnvoll vor allem, wenn Datenschutz oder Offline-Betrieb entscheidend sind. Nötig: leistungsfähige GPUs, Strom und Kühlung. Ohne KI-/Infra-Know-how im Haus ist Self-Hosting ein Projekt, kein Klick-Setup.

Faustregel: Self-Hosting lohnt sich eher bei großer Nutzungsmenge oder wenn Daten das Haus aus rechtlichen Gründen nicht verlassen dürfen. Für die meisten KMU ist ein Cloud-Anbieter mit belastbarem AVV der pragmatischere Weg.

8. Datenschutz

• Personenbezogene Daten: Ohne Auftragsverarbeitungsvertrag (AVV) dürfen in der Regel keine personenbezogenen Daten an den KI-Anbieter gehen.
• Business-Tarife: Bieten meist AVV sowie Zusagen, dass Eingaben nicht zum Training genutzt werden – aktiv prüfen, nicht annehmen.
• Serverstandort: Verarbeitung außerhalb EU/EWR kann zusätzliche Anforderungen auslösen.
• Art. 22 DSGVO: Vollautomatisierte Entscheidungen über Personen sind eingeschränkt – eine menschliche Letztentscheidung ist bei Personalprozessen in der Regel Pflicht.
• EU AI Act: Stuft Anwendungen nach Risiko ein; Personalauswahl und Leistungsbeurteilung gelten als Hochrisiko mit zusätzlichen Dokumentationspflichten.

9. Checkliste vor Einführung eines KI-Tools

• Welche Daten werden eingegeben – dürfen diese laut DSGVO an diesen Anbieter gehen?
• Gibt es einen AVV? Wo werden Daten verarbeitet und gespeichert?
• Werden Eingaben zum Training genutzt – lässt sich das abschalten?
• Wie schwerwiegend ist ein Fehler im schlimmsten Fall – wer prüft, bevor es wirkt?
• Ist eine menschliche Letztentscheidung vorgesehen, wo Personen betroffen sind?
• Ist der Betriebsrat einzubinden?
• Ist die Anwendung nach EU AI Act Hochrisiko?
• Cloud, API oder Self-Hosting – passt die Wahl zu Datenschutz, Nutzungsmenge und Fachpersonal?