Structured Output
Pagina 1 di 1
Structured Output: l'unica difesa contro un LLM che hallucinerà valori fuori range
Un LLM in produzione che restituisce testo libero è una bomba a orologeria: prima o poi hallucinerà un valore fuori range, una valuta inesistente o un tipo errato, e romperà la pipeline a valle. La difesa strutturale è lo structured output con schema JSON applicato a ogni risposta del modello, validato lato applicativo.
In questa categoria scrivo di structured output in PHP: integrazione con OpenAI/Anthropic via JSON Schema, validazione lato server con `opis/json-schema`, fail-safe quando lo schema non passa (retry con feedback al modello, fallback deterministico), strategie anti-hallucination per pipeline ad alto volume.
Se hai LLM in produzione che restituiscono testo libero, parliamone. Oppure scopri come lavoro.