Pagina 3 di 6
Usare un modello linguistico per una demo è facile. Metterlo in una pipeline aziendale che gira ogni giorno, con costi controllati, output verificabile e governance chiara, è un lavoro di ingegneria. È la differenza fra il giocattolo e lo strumento, ed è la distinzione attorno a cui ruota tutta questa categoria.
Il primo tema è il salto dalla demo alla produzione. Un LLM in produzione ha bisogno delle stesse cure di qualsiasi altro componente critico: monitoring di qualità, costi e anomalie, gestione degli errori transitori, budgeting dei token, difesa dagli abusi. Scrivo di come si costruisce una pipeline che regge il carico reale senza far esplodere la bolletta e senza produrre output di cui nessuno si fida.
Il secondo tema è l'automazione applicata al lavoro vero: orchestrazione multi-step, agenti che pianificano ed eseguono, LLM messi in pipeline CI/CD per code review, generazione di test e documentazione, migrazioni assistite. Non prompt isolati, ma architetture di automazione che si integrano nel processo esistente invece di crearne uno parallelo e incontrollabile.
Il terzo tema è il lato scomodo, che raccontano in pochi: il debito di comprensione che l'AI accumula in una codebase mentre sembra accelerare, la sycophancy dei modelli nelle decisioni aziendali, il riposizionamento dell'ingegnere senior, e le decisioni che restano tue e non vanno delegate a un modello. L'onestà su cosa funziona e cosa no vale più di qualsiasi entusiasmo.
Se vuoi portare l'automazione LLM in produzione sul serio, vedi l'automazione con l'AI o scrivimi.
L'AI non sostituisce l'ingegnere. Sposta il lavoro dal digitare codice al decidere cosa è giusto, che è sempre stato il lavoro vero.
L'ingegnere che l'AI sostituisce non è quello che fa il lavoro che l'AI può fare. È quello che non ha mai costruito il giudizio per riconoscere quando l'AI sbaglia. Il riposizionamento da autore di codice a intent manager non è una concessione, è la skill tecnica che decide chi sopravvive a questa transizione di carriera. Continua a leggere
Chain-of-thought nel 2022 ha sbloccato il ragionamento negli LLM; nel 2026 è tra i principali contributori a latenza, costi e overthinking. Il paper Anthropic Reasoning Models Don't Always Say What They Think (2505.05410) ha mostrato CoT faithful solo nel 25% dei casi su Claude 3.7 Sonnet. Checklist in sette criteri per decidere quando attivare, disattivare o vincolare il thinking su Claude, GPT-5.4 e Gemini 3.1, con ROI misurabile. Continua a leggere
Architetture pensate per umani aiutano l'AI di più di architetture pensate per l'AI. Moduli profondi con interfacce semplici. AI integrata come dependency lenta e non deterministica, dietro circuit breaker e fallback. E la verità che spinge il mercato in direzione opposta: il debito accumulato oggi non sarà refactorato da nessun modello futuro, perché refactoring richiede intent originale, non sintassi. Continua a leggere
Scrivi una spec, lasci che l'AI la trasformi in codice, e quando qualcosa non va riapri solo la spec. È seducente. Non funziona: ogni iterazione produce codice peggiore. Il problema non è la spec, è che mancano le ossa del design su cui appoggiarla. Design concept, ubiquitous language, TDD: tre discipline pre-AI che oggi contano di più, non di meno. Continua a leggere
Il caching tradizionale per chiamate LLM non funziona: due richieste semanticamente identiche ma testualmente diverse miss-ano entrambe. La soluzione è il semantic caching su embeddings: la richiesta entrante viene vettorizzata, confrontata con quelle già servite, e se la similarity supera una soglia si riusa la risposta. Ti mostro l'architettura pgvector, la calibrazione della soglia, il TTL dinamico, e i numeri della mia pipeline dove ho ridotto i costi Claude API del 60%. Continua a leggere
L'AI scrive codice che passa i test, sembra pulito, esce in produzione. Ma quando alle 2 del mattino il sistema cade, nessuno sa più cosa stiamo guardando. Il debito tecnico lo vedi: lo accetti come scelta. Il debito di comprensione no, cresce silenzioso, e la sua compounding rate è la cosa più sottovalutata del coding 2026. Continua a leggere
Il motivo per cui GPT-5.4 o Opus 4.7 rispondono in un certo modo non è il pretraining ma l'allineamento. RLHF raccoglie preferenze umane e allena un reward model; Constitutional AI usa principi e fa autocritica; DPO salta il reward model con ottimizzazione diretta; RLAIF sostituisce gli umani con LLM. Confronto operativo con paper primari 2022-2023 e casi in cui ciascuna tecnica fallisce in produzione enterprise. Continua a leggere
Dopo 12 mesi di esercizio nella mia pipeline personale di automazione AI, posso condividere numeri concreti di costi: Claude API vs self-hosted con Ollama, costi fissi vs variabili, strategie di caching che nella mia pipeline hanno ridotto il costo per inferenza del 40%. Ti mostro il modello di costo che uso per pianificare budget PMI, con soglie di break-even tra managed API e infrastruttura self-hosted. Continua a leggere
I benchmark pubblici sono la prima fonte che tutti consultano, la più manipolabile. MMLU 5-shot non è confrontabile con Gemini CoT-uncertainty-routing. Il data leaking invalida percentuali straordinarie. LMArena (rebrand Arena 28 gennaio 2026) usa Bradley-Terry su preferenze utente ma pesca da domande non controllate. Checklist in otto criteri per valutare un LLM prima del commitment enterprise, con held-out interni su dominio italiano. Continua a leggere
Fine-tuning o RAG? La risposta dipende da 4 variabili: natura dei dati, frequenza di aggiornamento, budget, criticità della precisione. Ti mostro il framework decisionale che uso: RAG per knowledge base aggiornata frequentemente e controllo della fonte, fine-tuning per task specializzati ripetitivi e latenza critica. Con esempi dalla mia sandbox di prova dove ciascuna tecnica ha vinto. Continua a leggere
