Das Modell wird mit riesigen Mengen an Textdaten trainiert: Bücher, Artikel, Webseiten, Foren, Code-Repositories. Die Rede ist von Billionen von Wörtern (sogenannten Tokens). Und die Aufgabe, die das Modell dabei lernt, ist im Kern überraschend einfach: das nächste Wort vorhersagen.

Der Satz „Die Katze sitzt auf dem ___" → Das Modell lernt, dass „Dach", „Sofa" oder „Tisch" wahrscheinliche Fortsetzungen sind, „Quantenphysik" aber nicht. Durch Milliarden solcher Vorhersagen lernt es nicht nur Grammatik und Satzbau, sondern auch Faktenwissen, logische Zusammenhänge und fachliche Konzepte, aber alles kodiert als statistische Wahrscheinlichkeiten.

Technisch passiert das in sogenannten Transformer-Netzwerken. Das Besondere daran ist der Attention-Mechanismus: Das Modell kann bei der Vorhersage des nächsten Wortes den gesamten bisherigen Text berücksichtigen und entscheiden, welche Teile davon gerade am wichtigsten sind. Das ermöglicht es, auch in langen Texten den Kontext nicht zu verlieren.

Was nach dem Pre-Training existiert, ist ein System mit enormem Sprachwissen. Es ist aber noch kein hilfreicher Assistent. Es kann Sätze vervollständigen, aber nicht gezielt Fragen beantworten oder Anweisungen befolgen.

In dieser Phase wird das vortrainierte Modell mit sorgfältig erstellten Beispieldaten weitertrainiert. Menschen schreiben Beispiel-Konversationen: „Wenn jemand diese Frage stellt, ist das eine gute Antwort." Das Modell lernt dadurch, nicht einfach Text fortzusetzen, sondern auf Anweisungen einzugehen, Fragen zu beantworten und in einer hilfreichen, strukturierten Art zu kommunizieren.

Diese Phase macht den Unterschied zwischen einem Sprachmodell, das zufällig Text generiert, und einem System, das sich tatsächlich wie ein Gesprächspartner verhält.

In der letzten Phase bewerten Menschen die Antworten des Modells: Welche von zwei Antworten ist hilfreicher, korrekter, sicherer? Aus diesen Bewertungen wird ein sogenanntes Reward Model trainiert. Das ist ein zweites Modell, das vorhersagt, welche Antworten Menschen bevorzugen. Das eigentliche Sprachmodell wird dann so optimiert, dass es Antworten erzeugt, die das Reward Model hoch bewertet.

Anthropic (die Firma hinter Claude) nutzt zusätzlich einen Ansatz namens Constitutional AI: Das Modell bewertet seine eigenen Antworten anhand einer Reihe von Prinzipien und korrigiert sich selbst. Das ist alsoo eine Art eingebauter Selbstcheck.

Das Modell wurde darauf trainiert, immer eine plausible Fortsetzung zu erzeugen. Wenn es die Antwort nicht „weiß", erfindet es eine, die statistisch passt. Es sagt nie „Ich weiß es nicht" von sich aus, es sei denn, es wurde explizit darauf trainiert.

Das Modell klingt immer gleich sicher, egal ob die Antwort stimmt oder nicht. Es gibt keine interne Unsicherheits-Anzeige. Die Confidence in der Sprache spiegelt nicht die Qualität der Antwort wider.

Das Modell ist hervorragend darin, gut klingende Texte zu erzeugen, weil es genau dafür trainiert wurde. Faktentreue war nur ein Nebeneffekt des Trainings, kein primäres Ziel.

Das Modell kann nur eine begrenzte Menge Text gleichzeitig „sehen". Hierbei spricht man vom sogenannten Kontextfenster. Alles was du in einen Chat eingibst, plus die bisherige Konversation, muss in dieses Fenster passen. Wird es zu lang, „vergisst" das Modell den Anfang.

KI ersetzt keine Menschen sondern Aufgaben. Geschwindigkeit, Automatisierung und Mustererkennung sind ihre Stärken. Kreativität, strategisches Denken und ethische Entscheidungen bleiben menschlich.

KI klingt selbstsicher. Das bedeutet aber nicht, dass sie korrekt ist. Sie generiert Antworten auf Basis von Wahrscheinlichkeiten, nicht auf Basis von Wahrheit. Halluzinationen, also erfundene Fakten oder Quellen, kommen regelmäßig vor. Faktencheck ist daher Pflicht.

Kein Machine-Learning-Abschluss nötig. Was hilft: Lernbereitschaft, grundlegendes Verständnis und gutes Prompting. Wir haben dazu ein eigenes Modul entwickelt.

KI analysiert Daten schnell und erkennt Muster. Aber sie versteht keine Geschäftsziele, navigiert keine ethischen Dilemmata und fühlt keine Empathie. KI sollte Entscheidungen informieren, nicht treffen.

Unberechenbarkeit ist kein Grund KI zu meiden, sondern ein Grund sie mit klaren Anweisungen, iterativer Verfeinerung und menschlichem Urteilsvermögen einzusetzen.

Viele der leistungsfähigsten KI-Tools haben kostenlose Versionen, die für den Einstieg völlig ausreichen. Bezahlversionen kosten typischerweise um die 20€ pro Monat. Du brauchst kein Custom-Modell, kein Team von Spezialist:innen und keine teure Software, um KI produktiv in deinen Alltag zu integrieren.

KI verbessert sich täglich. Warten heißt zurückfallen. Früh anfangen, klein starten, iterieren. Eine Kultur des KI-Lernens aufzubauen ist wertvoller als auf das perfekte Tool zu warten.