Categoria

Pagina 1 di 3

Claude API: l'interfaccia dei modelli Anthropic, vista da chi la integra

Integrare la Claude API in un backend serio non è incollare una chiamata HTTP: è gestire costi, caching, errori, limiti di rate e qualità dell'output come faresti con qualsiasi dipendenza esterna critica. Il modello è la parte facile, l'ingegneria intorno è quella che conta, ed è di quella che parlo in questa categoria.

Il primo tema è l'API come dipendenza critica. Prompt caching per abbattere la spesa, gestione strutturata degli errori e dei rate limit, output validato per difendersi dalle allucinazioni in produzione, monitoring di qualità e anomalie. Sono le stesse attenzioni che dedicheresti a un servizio di pagamento o a un database esterno: se le salti, il conto arriva a fine mese o durante un incidente.

Il secondo tema sono i numeri reali: come cambia la bolletta quando un tokenizer nuovo altera il conteggio a prezzo di listino invariato, la tassa della tokenizzazione sull'italiano, il prompt caching a livello di workspace e perché spesso non rende quanto dovrebbe se non si diagnosticano le cache mancate. Il taglio è quello di un backend engineer che guarda i costi, non le slide.

Il terzo tema è la scelta fra cloud e on-premise: quando la Claude API conviene e quando invece un modello open-weight europeo on-prem è preferibile per data sovereignty, e come si progetta la sostituibilità del provider in modo da non restare in ostaggio di una singola scelta.

Se vuoi integrare la Claude API in modo sostenibile, vedi l'integrazione di sistemi e AI o scrivimi.

Un'API di un LLM è una dipendenza esterna come le altre: va trattata con caching, gestione degli errori e un occhio ai costi. Il modello è la parte facile.

Claude Fable 5 per un backend engineer: API, costi e quando conviene (guida-decisione)

Claude Fable 5 per un backend engineer: API, costi e quando conviene (guida-decisione) Fable 5 è il tier sopra Opus, ma più capace non significa sempre conveniente. Cosa cambia per chi sviluppa: il request surface rispetto a Opus 4.8, i parametri rimossi, il prezzo a 10 e 50 dollari per milione di token, e il break-even reale, ovvero quando il salto di capacità giustifica il costo per un caso d'uso concreto. Tabella decisionale tra i tier, scritta come guida che resta valida anche quando la finestra di novità decade. Continua a leggere
Ultima modifica:

Prompt caching workspace-level di Anthropic: perché i tuoi agenti costano troppo e come diagnosticare le cache mancate

Prompt caching workspace-level di Anthropic: perché i tuoi agenti costano troppo e come diagnosticare le cache mancate Dal febbraio 2026 Anthropic offre prompt caching workspace-level con cache hit al 10% del prezzo input. Eppure nella maggioranza delle integrazioni che vedo in consulenza le cache sono mancate nel 60-80% delle chiamate per errori di design banali. Diagnosi sistematica: cache prefix vs suffix, invalidazione accidentale del system prompt, bloccaggio con tool list dinamica, e pattern che ho misurato portare fino a 90% di risparmio sulla bolletta API. Continua a leggere
Ultima modifica:

Mistral 3 MoE on-prem EU vs Claude API: quando preferire open-weight europeo per data sovereignty

Mistral 3 MoE on-prem EU vs Claude API: quando preferire open-weight europeo per data sovereignty Mistral Large 3 MoE (2 dicembre 2025) è il primo open-weight frontier-class deployabile on-prem in Europa - 41B attivi / 675B totali, Apache 2.0, addestrato su 3000 H200 francesi. Confronto con Claude Sonnet 4.6 via API: accuracy, latenza P95, costi totali per 1M chiamate, compliance GDPR. Include configurazione Scaleway H100 SXM ($2,73/hr) vs managed Bedrock. Continua a leggere
Ultima modifica:

Anthropic prompt caching workspace-level: ridurre il 95% dei costi API su un RAG aziendale

Anthropic prompt caching workspace-level: ridurre il 95% dei costi API su un RAG aziendale Dal 5 febbraio 2026 Anthropic offre prompt caching a livello di workspace, con cache hit al 10% del prezzo input standard. Ho migrato il mio chatbot RAG aziendale (system prompt da 3.800 token, 340 documenti retrieval context) e misurato un risparmio del 95% sulla parte prompt ricorrente. Ti racconto passo passo la migrazione, gli errori che ho fatto con la cache invalidation, e come stackare caching + batch per arrivare al minimo teorico. Continua a leggere
Ultima modifica:

Tokenizzazione degli LLM e italiano: la tassa nascosta del 64% sulla bolletta API e come ridurla

Tokenizzazione degli LLM e italiano: la tassa nascosta del 64% sulla bolletta API e come ridurla Un prompt in italiano consuma mediamente 1,64 volte i token di un equivalente in inglese. Misura verificata su GPT-4 e Claude Opus 4.7 nel 2026, con tre costi aziendali ignorati: bolletta API più alta, context window saturato prima, performance peggiori su lingue meno rappresentate. Analizzo i tokenizer BPE sulle lingue romanze, riporto le misure raccolte nella mia pipeline personale di automazione AI, e propongo tre strategie concrete per ridurre il tokenaggio in produzione. Continua a leggere
Ultima modifica:

DSPy e prompt-as-code: ottimizzare automaticamente i prompt di produzione contro benchmark interni

DSPy e prompt-as-code: ottimizzare automaticamente i prompt di produzione contro benchmark interni DSPy (Khattab Stanford, ICLR 2024, arxiv 2310.03714) tratta i prompt come codice: dichiari la signature, fornisci 40-200 esempi di training, un compile bootstrappa il prompt ottimale contro una metrica. Batte il prompt engineering manuale esperto per 5-46% su GPT-3.5 e 16-40% su Llama. Confronto con CO-STAR, tabella decisionale, costi, pattern di integrazione in produzione enterprise. Continua a leggere
Ultima modifica:

Gemini 3.1 Pro Computer Use vs Claude Computer Use: chi vince su RPA enterprise europea

Gemini 3.1 Pro Computer Use vs Claude Computer Use: chi vince su RPA enterprise europea Gemini 3.1 Pro integra Computer Use nativo (niente modello separato) con 1M context standard. Claude Computer Use è stabile ma richiede Sonnet 4.6/Opus 4.7 dedicati. Ho benchmarkato entrambi su OSWorld-V e su tre workflow reali (SAP login, estrazione dati gestionale, onboarding cliente) nella mia sandbox. Tabella pricing, latenza P95, accuracy per tipo di task, e considerazioni data sovereignty per aziende europee. Continua a leggere
Ultima modifica:

Framework CO-STAR per prompt enterprise: checklist applicativa e anti-pattern del prompt engineering 2026

Framework CO-STAR per prompt enterprise: checklist applicativa e anti-pattern del prompt engineering 2026 CO-STAR (GovTech Singapore, novembre 2023): Context, Objective, Style, Tone, Audience, Response. Checklist rigorosa per prompt enterprise che non assomigliano a blog post casual. Dodici punti di verifica, anti-pattern empirici (esempi negativi nel prompt, risposte suggerite nella domanda, CoT prompting sui modelli thinking), template riutilizzabile e strategia di versioning del prompt come codice con held-out di validazione. Continua a leggere
Ultima modifica:

Claude Opus 4.7 e il nuovo tokenizer: perché la tua bolletta è salita del 35% a prezzo invariato

Claude Opus 4.7 e il nuovo tokenizer: perché la tua bolletta è salita del 35% a prezzo invariato Claude Opus 4.7 ha prezzo headline invariato rispetto a 4.6 - $5/$25 per milione di token. Ma dopo tre settimane di esercizio nella mia pipeline ho notato che la bolletta API era salita del 31% a parità di volume di chiamate. La causa: il nuovo tokenizer usa in media +35% token per lo stesso testo, e le cache pre-4.7 sono state invalidate. Ti mostro la diagnostica, i numeri misurati e come ricalcolare il budget. Continua a leggere
Ultima modifica:

Monitoring di LLM in produzione: osservabilità su qualità, costi e anomalie nelle pipeline AI

Monitoring di LLM in produzione: osservabilità su qualità, costi e anomalie nelle pipeline AI Deployare un LLM in produzione senza monitoring è come deployare PHP senza log: funziona fino a che non funziona, e capire perché è un incubo. Ti mostro lo stack di osservabilità open source che ho costruito: tracking token e costi per request, latenza p95, evaluation automatica della qualità con LLM-as-judge, alert su comportamenti anomali. Con integrazione Prometheus + Grafana. Continua a leggere
Ultima modifica:

Strumenti utili

Tool gratuiti a supporto dell'integrazione:

JWT decoder, Convertitore cURL in codice, JSON formatter.