Methoden
Context Window
Maximale Menge an Tokens, die ein LLM in einem Aufruf gleichzeitig berücksichtigen kann.
Ausführliche Erklärung
Das Kontextfenster bestimmt, wie viel Information (System-Prompt + Anweisung + Daten + bisheriger Verlauf) ein Modell gleichzeitig 'sieht'. Moderne Modelle reichen von 8.000 bis über eine Million Tokens.