Inhalte

Antwort endet mitten im Satz

Üblicher Schweregrad: mittel · Aufwand: gering

Woran du es erkennst

Der Text bricht ohne Satzende ab, oft an einem Bindewort — max_tokens, Timeout oder ein abgebrochener Stream.

Warum es zählt

Abgeschnittene Antworten sind unbrauchbar und können genau die entscheidende Einschränkung verlieren („nicht einnehmen mit …“).

So behebst du es

  1. max_tokens und Timeouts so setzen, dass typische Antworten durchkommen; bei Abbruch automatisch fortsetzen oder ehrlich „unvollständig“ markieren.
  2. Stream-Abbrüche (Netz, Client-Disconnect) von echten Modell-Stops trennen und nur die echten als Befund behandeln.

Zum Nachlesen