Offload degli esperti MoE con llama.cpp e quanta RAM serve davvero
Quando un modello mixture of experts non entra nella VRAM, llama.cpp può tenere una parte degli esperti nella RAM di sistema e calcolarli sulla CPU. Su una scheda da 16 GB il 35B di Ornith alla quantizzazione ufficiale da 4 bit gira solo così, e il conto è preciso: al gradino migliore perde il 43% della generazione e l'84% della lettura dei prompt rispetto alla versione a 3 bit che entra intera. La RAM conta meno di quanto si crede, ma sotto una soglia crolla tutto. Continua a leggere
Ultima modifica:
Un Raspberry Pi 5 da 16 GB costava 120 dollari a novembre 2025; ad aprile 2026 ne costa 305, dopo tre rincari in cinque mesi. Le GPU consumer sono salite fino al 39% in un'estate e i listini dei VPS si sono mossi nella stessa direzione. Non sono tre storie separate ma una sola, e comincia nelle fab di memoria che hanno spostato capacità produttiva verso l'HBM per gli acceleratori AI. Quanto durerà lo dicono i produttori, e intanto qualche regola di acquisto aiuta a non farsi male. 
A 16GB card that serves a local model is not a GPU you also use for something else: a 27B or a 35B model takes fifteen of its sixteen gigabytes and keeps them while it waits for you. Waiting is cheap, 15 to 16 W at the card with the model resident, and forty-five hours of full benchmark load cost about three euros of electricity above what the machine draws anyway. The less obvious costs are model loading, swaps between models and a machine that is never really idle. 
Once loaded, a model held whole in VRAM barely touches the PCIe bus: 40 megabytes per second. Put some of a mixture of experts' weights in system RAM and the bus wakes up. On a 16GB RTX 5060 Ti plugged into a Ryzen 5 4500, the expert traffic of a 117B model reached 7.75 GB/s while generating and 7.95 GB/s while reading a long prompt, on a link rated at about 7.9. Whether the bus is the bottleneck is a separate question the data doesn't settle. 
Strata promises to run very large mixture-of-experts models on consumer hardware by keeping the hot experts in VRAM and streaming the rest from system RAM. On a 16GB RTX 5060 Ti with 32 GB of DDR4 the Coder build of Qwen3.8-Flash-Next does run, and on Python problems it matches a dense 27B that never leaves the card. Everywhere else the picture changes: it answers slower, thinks far longer, cannot answer in Italian, and takes the whole machine with it. 
Il Raspberry Pi 5 è ufficialmente arrivato a gennaio 2025 nella variante 16GB, completando una linea iniziata a ottobre 2023. Confronto specifiche e prestazioni applicative reali rispetto a Pi 3 e Pi 4, indico quale modello prendere per ogni scenario d'uso, e perché il salto generazionale oggi si paga in giornate di lavoro risparmiato. 
Specifiche complete del Raspberry Pi 3 Model B+ rilasciato a marzo 2018, con il SoC BCM2837B0 a 1,4 GHz, WiFi dual-band, Bluetooth 4.2 e Gigabit Ethernet via USB 2.0. Aggiornata al 2026 con il quadro corrente: il Pi 3B+ resta in produzione fino al 2030, ma per setup nuovi il Pi 5 è il salto generazionale che vale ogni euro. 
Workflow completo di osservabilità termica e benchmark prestazionale per Raspberry Pi 3, con script bash basati su vcgencmd e suite di stress-test. Aggiornato al 2026 con confronto applicativo Pi 3 vs Pi 5 e bundle di acquisto per chi sta valutando il salto generazionale. 
Guida all'overclock del Raspberry Pi 3 Model B per Kodi e RetroPie, con configurazione operativa aggiornata al 2026 e best practice di silicon lottery testing. Prima di overcloccare, però, vale la pena guardare il quadro economico corrente: un Pi 5 senza alcuna spinta supera di un fattore 5× un Pi 3 portato al massimo, e il delta di prezzo è di poche decine di euro. 
Guida al raffreddamento attivo del Raspberry Pi 3, dalla soluzione DIY originale del 2017 alle alternative commerciali correnti. Nel 2026 la domanda preliminare è diversa: vale ancora la pena raffreddare un Pi 3 o conviene fare il salto generazionale al Pi 5 con Active Cooler ufficiale, che costa pochi euro e risolve strutturalmente il problema?.