Zum Inhalt springen
Welt am Draht

Weltmodell aus Draht

Wie ein Sprachmodell das nächste Wort wählt: eine kleine, technische Annäherung an Wahrscheinlichkeiten, Temperatur und die Illusion von Gewissheit.

Von Redaktion (Demo) · · 1 Min. Lesezeit

Schwarzweißfoto: langer Gang zwischen Serverschränken unter einem Rasterdach, am Ende eine Silhouette.
Rechnen im Raster: Infrastruktur, die selten gezeigt wird.Bild: Originale KI-generierte Konzeptgrafik für diesen Prototyp
Kernaussage
Was wie Wissen wirkt, ist zunächst eine gewichtete Auswahl aus Wahrscheinlichkeiten.
Position
Wer Modellausgaben bewertet, sollte zwischen sprachlicher Sicherheit und sachlicher Richtigkeit unterscheiden.

Im Kern erzeugt ein Sprachmodell für jede mögliche Fortsetzung eine Zahl. Diese Zahlen werden in Wahrscheinlichkeiten umgewandelt, aus denen dann ausgewählt wird.

01Von Rohwerten zu Wahrscheinlichkeiten

Die folgende Funktion zeigt das Prinzip vereinfacht. Ein Parameter namens Temperatur bestimmt, wie stark sich das Modell auf die wahrscheinlichste Option konzentriert.

src/sampling/softmax.ts, TS, 11 Zeilen
export function softmax(logits: number[], temperature = 1): number[] {  // Scale, then subtract the max for numerical stability  const scaled = logits.map((l) => l / temperature);  const max = Math.max(...scaled);  const exps = scaled.map((s) => Math.exp(s - max));  const sum = exps.reduce((a, b) => a + b, 0);  return exps.map((e) => e / sum);} // Low temperature: more decisive. High temperature: more spread out.const probabilities = softmax([2.0, 1.0, 0.1], 0.5);
Vereinfachte Softmax mit Temperatur (Lehrbeispiel, nicht optimiert)

02Eine filmische Studie

Globus-Studie. Zwölf Sekunden langsame Annäherung an einen Drahtglobus. Originales Video ohne Ton, erzeugt aus einer KI-Konzeptgrafik.

03Wo die Unsicherheit beginnt

Eine hohe Wahrscheinlichkeit für ein Wort bedeutet nicht, dass die Aussage wahr ist.[1]

  1. [1]Anmerkung der Redaktion: An dieser Stelle stünde in einer echten Veröffentlichung ein überprüfbarer Beleg. Für diesen Demonstrationsartikel wurde bewusst keine Quelle erfunden.