GPT-5.6-luna: Entwickler melden Reasoning-Leaks und Tool-Call-Bypass in Produktion

Zwei Fehlermodi bei GPT-5.6-luna in Produktion gemeldet

In Community-Beiträgen beschreiben Entwickler zwei wiederkehrende Fehlermodi beim Einsatz von GPT-5.6-luna mit strukturierten Tool-Calls. In einem dokumentierten Produktionssystem – einem kundenorientierten Vertriebsagenten auf Facebook Messenger, aufgebaut mit LangGraph und LangChain sowie strikter Tool-Bindung (`strict: true`) – trat erstens ein sogenannter Reasoning-Leak auf. Das Modell rief das vorgeschriebene `final_response`-Tool zwar korrekt auf, hängte jedoch interne Meta-Kommentare und Selbstanweisungen an das Nachrichtenfeld an, statt ausschließlich die eigentliche Antwort zu liefern. Dadurch gelangten nicht für den Endnutzer bestimmte interne Überlegungen in die ausgelieferte Nachricht, was den Inhalt verfälschte. Als Beispiel wird eine bengalische Nutzeranfrage („আসসালামু আলাইকুম ভাই“) genannt, bei der das Modell zusätzlich eigene Überlegungen in den Text einfügte.

Zweitens umging das Modell den Tool-Call vollständig und gab die für das Tool vorgesehenen Argumente als Rohtext im Antwortinhalt aus. Teilweise wurden diesen Ausgaben CJK-Satzzeichen wie `、】【` vorangestellt. Da die Argumente nicht über den vorgesehenen Tool-Mechanismus verarbeitet wurden, erhielten Endnutzer unstrukturierte, teils mit Sonderzeichen versehene Textausgaben, die nicht der erwarteten Antwortstruktur entsprachen. Die genaue Ursache für dieses intermittierende Umgehen des Tool-Calls ist aus den Berichten nicht ersichtlich; es wird jedoch beschrieben, dass das Modell trotz expliziter Anweisung, niemals Rohtext auszugeben, in bestimmten Fällen dennoch Text statt eines Tool-Calls produzierte. Als Reproduktions- und Absicherungsschritte empfehlen Kommentatoren, Tool-Calls über `tool_choice="required"` zu erzwingen, die `final_response`-Nachricht vor der Auslieferung auf Tool-Namen, JSON-Fragmente und unerwartete Zeichen zu prüfen, leere `tool_calls` bei nicht-leerem Inhalt abzulehnen, einmalig zu wiederholen und bei erneutem Fehlschlag eine feste sichere Antwort zu senden. Zudem raten sie, die beiden Fehlerfälle mit festen Eingaben wie „Hi“ und einer bengalischen Preisfrage jeweils 20- bis 30-mal nach jeder Prompt- oder Modelländerung zu testen, da die Fehler intermittierend auftreten. Diese Berichte sind als unbestätigt zu werten.

GPT-5.6-luna: Kontext und offene Fragen

GPT-5.6-luna ist das kosteneffizienteste Modell der im Juli 2026 allgemein verfügbaren GPT-5.6-Familie, zu der auch Sol und Terra gehören. Es dient als Standardmodell für kostenlose ChatGPT-Nutzer. OpenAI bezeichnet die für diese Modellfamilie implementierten Safeguards als die robustesten, die das Unternehmen je gebaut hat, und gibt an, einen maßgeschneiderten Satz von Schutzmaßnahmen umgesetzt zu haben, der an das jeweilige Fähigkeitsprofil der Modelle angepasst ist. Dazu zählen unter anderem Prompt-Injection-Evaluationen (etwa das GPT-Red-Verfahren) sowie Red-Team-Tests. Unter dem Preparedness Framework stuft OpenAI Sol, Terra und Luna als „High capability“ in den Bereichen Cybersecurity sowie Biological/Chemical Risk ein und hat nach eigenen Angaben Schutzmaßnahmen implementiert, um die damit verbundenen Risiken ausreichend zu minimieren. In den für diesen Artikel bereitgestellten Belegen findet sich keine offizielle Bestätigung oder Stellungnahme von OpenAI zu den gemeldeten Fehlermodi – Reasoning-Leak in Tool-Argumente und Tool-Call-Bypass mit roher Textausgabe. Die Berichte stammen aus nicht offiziell verifizierten Community-Quellen und sind als unbestätigt zu werten.