Categoria

Pagina 1 di 3

AI Security: mettere in sicurezza il codice e gli agenti che l'AI produce

L'AI non ha creato solo nuove possibilità, ha creato nuove superfici di attacco. Codice generato senza revisione, agenti che eseguono azioni con permessi troppo ampi, prompt che diventano vettori di compromissione: sono rischi reali, non teorici, e vanno affrontati con mentalità da security. Questa categoria unisce le due competenze che il tema richiede.

Il primo tema sono le nuove superfici di attacco: la prompt injection che, quando un agente esegue azioni reali, diventa una compromissione di sistema a tutti gli effetti; l'over-broad token scoping con cui un accesso in sola lettura si trasforma in write-and-execute; il threat modeling e il sandboxing degli agenti che eseguono codice arbitrario. Gli stessi principi del least privilege, applicati a un attore nuovo.

Il secondo tema è il codice AI-generated da mettere in sicurezza: entra in produzione in fretta e replica pattern insicuri visti in addestramento, con classi di vulnerabilità prevedibili. Auditarlo in modo sistematico, dal lato difensivo e da quello offensivo, è ormai una competenza necessaria.

Il terzo tema è la governance e la continuità: come si governano gli agenti in azienda, cosa implicano i classifier e i freni dei modelli per chi fa security, e il rischio di continuità quando un modello può essere spento per decisione normativa. Sicurezza non è solo difendere dagli attacchi, è anche non restare a terra.

Se stai introducendo agenti AI e vuoi farlo in sicurezza, vedi la sicurezza AI per le aziende o scrivimi.

Un agente AI con troppi permessi non è un assistente, è una vulnerabilità che parla in linguaggio naturale.

MCP donato alla Linux Foundation: cosa cambia per gli agenti aziendali

MCP donato alla Linux Foundation: cosa cambia per gli agenti aziendali Il passaggio del Model Context Protocol alla Linux Foundation sposta la governance dello standard da un singolo vendor a una fondazione neutrale. Cosa cambia concretamente per chi costruisce agenti aziendali: stabilità dello standard, interoperabilità tra provider, riduzione del rischio di lock-in sul protocollo. Stato dell'ecosistema dei tool MCP e perché la neutralità della governance conta per una scelta di lungo periodo. Continua a leggere
Ultima modifica:

Governare gli agenti AI in azienda: il 21% di Deloitte e la realtà della produzione

Governare gli agenti AI in azienda: il 21% di Deloitte e la realtà della produzione Dietro l'hype, solo una minoranza di aziende ha agenti AI realmente in produzione. Lettura onesta del dato per un CIO: cosa significa la distanza tra annuncio e adozione, e soprattutto cosa va normato prima di mettere un agente in produzione, alla luce degli incidenti agentici del 2026. Policy, perimetro operativo, audit trail e sandboxing: il framework di governance che trasforma una sperimentazione in un sistema gestito. Continua a leggere
Ultima modifica:

I vettori d'attacco del codice generato da LLM: analisi offensiva delle vulnerabilità tipiche

I vettori d'attacco del codice generato da LLM: analisi offensiva delle vulnerabilità tipiche Gli LLM introducono classi di vulnerabilità prevedibili, perché replicano pattern insicuri visti nei dati di training. Analisi dal lato attaccante: quali debolezze cercare per prime nel codice generato (deserializzazione, SSRF, auth bypass, race condition), come si sfruttano nella pratica e come chiuderle. Per un team che usa l'AI per scrivere codice, sapere cosa proverebbe un attaccante è la differenza tra un assistente e un rischio. Continua a leggere
Ultima modifica:

Codice generato da AI: perché un audit di sicurezza è oggi più urgente che mai

Codice generato da AI: perché un audit di sicurezza è oggi più urgente che mai Il codice generato dagli assistant AI entra in produzione più in fretta di quanto venga revisionato. Audit sistematico dei pattern di vulnerabilità ricorrenti nell'output di ChatGPT e Copilot per PHP: injection non parametrizzate, validazione mancante, segreti hardcoded, dipendenze obsolete suggerite con fiducia. Una checklist offensiva per auditare ciò che l'AI scrive prima che diventi un incidente, dalla prospettiva di chi i bug li cerca per mestiere. Continua a leggere
Ultima modifica:

MCP e over-broad token scoping: come un read-only diventa write-and-execute

MCP e over-broad token scoping: come un read-only diventa write-and-execute Un MCP server collega un agente AI a sistemi reali, e lo scope dei token è dove si gioca la sicurezza. Il vettore di privilege escalation: come un permesso nato read-only diventa write-and-execute attraverso uno scope troppo largo e un framing sociale (per fixare il bug devo leggere la config di deploy). Dalla prospettiva offensiva, con la difesa concreta: least-privilege rigoroso, separazione lettura/scrittura, zero-trust sui tool esposti all'agente. Per chi costruisce integrazioni MCP. Continua a leggere
Ultima modifica:

Aprire un repo clonato può eseguire codice prima del trust dialog: la coppia di bug di Claude Code

Aprire un repo clonato può eseguire codice prima del trust dialog: la coppia di bug di Claude Code Due vulnerabilità distinte di Claude Code, da non confondere: CVE-2025-59536 (CVSS 8.7 v4.0 / 8.8 v3.1, esecuzione di codice all'apertura di un repository malevolo prima del trust dialog, fix 1.0.111) e CVE-2026-21852 (CVSS 5.3 v4.0 / 7.5 v3.1, esfiltrazione della API key via override ANTHROPIC_BASE_URL nel settings.json del repo, fix 2.0.65). git clone e apri l'agente è il nuovo apri l'allegato: analisi tecnica e la difesa che uso in proprio via hook. Continua a leggere
Ultima modifica:

Difendere una harness Claude Code in produzione: il modello di sicurezza che uso davvero

Difendere una harness Claude Code in produzione: il modello di sicurezza che uso davvero Mettere un agente di coding in produzione significa dargli accesso a shell, file e credenziali. Il setup di sicurezza che uso davvero parte da un validatore dei comandi bash, un perimetro operativo definito via rules, il deny esplicito delle operazioni distruttive (rm -rf), gli env file in sola lettura e il blocco degli host non gestiti. Insider puro: trasformo il mio scaffolding personale in un case study difensivo replicabile, alla luce delle CVE su Claude Code del 2026. Continua a leggere
Ultima modifica:

Qualcuno usa gli agenti AI per fare reconnaissance sul mio sito: settimane di log analizzate

Qualcuno usa gli agenti AI per fare reconnaissance sul mio sito: settimane di log analizzate Nei log di un sito reale compaiono richieste a path sensibili come .env, .ssh/id_rsa e .aws/credentials veicolate dagli user-agent di assistant AI come ChatGPT e Perplexity. Sono pochi tentativi isolati, non una campagna: ma il pattern è interessante per chi espone un'applicazione. Analisi forense onesta di cosa si vede davvero nei log, con la metodologia per distinguere il rumore dal segnale e le contromisure lato server. Information gain di prima mano, background offensivo dell'autore. Continua a leggere
Ultima modifica:

ISO 42001 in 90 giorni: checklist per passare i gate di RFP enterprise 2026

ISO 42001 in 90 giorni: checklist per passare i gate di RFP enterprise 2026 Il 72% dei buyer enterprise chiede ISO 42001 nelle RFP 2026 (CSA, febbraio 2026). Se sei una PMI italiana di consulenza o software e vuoi vincere gare con grandi clienti europei, ISO 42001 non è più optional nel secondo semestre. Ma 4-12 mesi di implementazione full sono troppi - ti mostro come passare il gate in 90 giorni sfruttando l'overlap 60% con ISO 27001, mappando i 38 controlli a SoA esistente e producendo evidence equivalente su 14 controlli residui. Continua a leggere
Ultima modifica:

Running an LLM Locally on a 16GB Consumer GPU: Why It Suddenly Matters in 2026

Running an LLM Locally on a 16GB Consumer GPU: Why It Suddenly Matters in 2026 Running a serious LLM on your own hardware is no longer a lab exercise. I put a 16GB consumer GPU through a 35-billion-parameter Mixture-of-Experts model with 262,000 tokens of context, and the agentic tool-calling came out 100% reliable. This is the strategic half of the story: why local inference turned from a hobby into architectural insurance in 2026, after a frontier model was suspended worldwide by government order. The hard numbers live in the companion deep-dive. Continua a leggere
Ultima modifica:

Strumenti utili

Tool gratuiti a supporto della sicurezza:

Audit JWT, Analisi security headers.