PCIe Gen3 x8 runs at its limit when a MoE streams experts on an RTX 5060 Ti
Once loaded, a model held whole in VRAM barely touches the PCIe bus: 40 megabytes per second. Put some of a mixture of experts' weights in system RAM and the bus wakes up. On a 16GB RTX 5060 Ti plugged into a Ryzen 5 4500, the expert traffic of a 117B model reached 7.75 GB/s while generating and 7.95 GB/s while reading a long prompt, on a link rated at about 7.9. Whether the bus is the bottleneck is a separate question the data doesn't settle. Continua a leggere
Ultima modifica:
Strata promises to run very large mixture-of-experts models on consumer hardware by keeping the hot experts in VRAM and streaming the rest from system RAM. On a 16GB RTX 5060 Ti with 32 GB of DDR4 the Coder build of Qwen3.8-Flash-Next does run, and on Python problems it matches a dense 27B that never leaves the card. Everywhere else the picture changes: it answers slower, thinks far longer, cannot answer in Italian, and takes the whole machine with it. 
Il passaggio di Debian 12 in LTS è avvenuto senza banner né avvisi: apt continua a funzionare, gli aggiornamenti arrivano, e proprio per questo quasi nessuno si è accorto che a mantenerli non è più il security team ufficiale. Vale la pena sapere cosa copre davvero il supporto fino a giugno 2028, quali pacchetti ne restano fuori, cosa significa per le immagini debian:12 nelle pipeline, e quali cinque comandi raccontano in che situazione è il tuo VPS. 
L'obbligo di segnalazione dell'articolo 14 del Cyber Resilience Act è attivo dall'11 settembre 2026, con early warning in 24 ore, notifica completa in 72 e piattaforma unica ENISA. Molte piccole software house lo scopriranno al primo incidente, quando il tempo per prepararsi sarà finito. Il lavoro da fare prima è meno di quanto sembri e si fa una volta sola: una policy di coordinated disclosure, un security.txt conforme a RFC 9116, un triage interno che regge il clock e una SBOM generata in CI.