LLM self-hosted su VPS Hetzner con Ollama: deployment in produzione per PMI con vincoli di data sovereignty
Claude API funziona bene, ma alcune PMI non possono mandare i loro dati fuori dall'UE o verso provider americani. La soluzione è un LLM self-hosted su VPS europeo. Ti racconto il processo che ho seguito per mettere Llama 3.3 e Mistral su un Hetzner AX102 in produzione: dimensionamento GPU/RAM, sicurezza di rete, integrazione con backend PHP via API, monitoring e performance reali rispetto a Claude Sonnet. Continua a leggere
Ultima modifica:
Un VPS Hetzner con 4GB di RAM e zero swap: MySQL killato dall'OOM killer ogni notte durante l'import listini, con perdita di transazioni e corruzione degli indici InnoDB. Configurazione swap file da 2GB con swappiness a 10, e perché nel 2025 ZRAM è l'alternativa migliore per VPS con NVMe. 
Un VPS Hetzner che non inviava più notifiche email da quattro mesi: backup falliti senza alert, disco al 92% senza avviso, Fail2ban che bannava IP senza che nessuno lo sapesse. La causa: IP del server in blacklist RBL. Fix con relay SMTP via SendGrid, SPF/DKIM e monitoring della coda Postfix. 
Un VPS Hetzner che non bootava più dopo un kernel panic: filesystem ext4 con journal corrotto, errori I/O nei log, e un gestionale Laravel con il database dell'intero anno in produzione. Rescue mode, disk image di sicurezza, fsck con backup superblock e recovery completo in cinque ore. 
Un portale Laravel con 200 utenti simultanei che diventava inutilizzabile nelle ore di punta: AJAX bloccati per 8-12 secondi, logout casuali, errori CSRF. La causa era il session locking su file. Migrazione a Redis con locking esplicito, TTL calibrato e garbage collection zero. Response time da 8s a 90ms. 
Un VPS Hetzner da 80GB al 100%: MySQL fermo, Laravel in errore 500, e dopo aver cancellato 30GB di log lo spazio non si liberava. La causa: file aperti da processi attivi. Diagnosi con ncdu, lsof e df -i, fix e configurazione logrotate per impedire che si ripeta. 
Un gestionale Laravel su Hetzner con MySQL che impiegava 3-4 secondi per ogni query di ricerca prodotti. La causa: InnoDB buffer pool a 128MB su un database da 6GB, reverse DNS lookup attivo e 47 query senza indice per ogni pagina catalogo. Diagnosi con slow query log, EXPLAIN e MySQLTuner, fix in due ore. 
Un VPS Hetzner con MySQL esposto su porta 3306 a tutto internet e nessun firewall attivo: 23.000 tentativi di connessione in 48 ore. Ho configurato nftables da zero su Debian 12 con policy default-deny, rate limiting SSH, integrazione Fail2ban e logging strutturato. La configurazione operativa che applico a ogni VPS LEMP. 
Un e-commerce Laravel su Hetzner fermo da 3 ore: schermata bianca, nessun log visibile, PHP-FPM che si riavvia in loop. La causa era un segfault in OPcache innescato dall'aggiornamento a PHP 8.2.21. Diagnosi con dmesg e strace, fix con disabilitazione JIT, e il protocollo che uso per ogni emergenza PHP su VPS unmanaged. 
Quando il sito entra in maintenance mode per un deploy finito male e nessuno lo sa riportare online, il business perde fatturato per mesi in silenzio. Il caso reale di un e-commerce B2B HoReCa bolognese del giugno 2025 su Contabo VPS L, Laravel 9.52 in manutenzione da dodici settimane, il deploy abortito a metà con migration orfane e code bloccate, e i quattro giorni di lavoro con cui ho ricostruito lo stato consistente senza rifare l'applicazione.