Prompt injection in agent systems: come difendere applicazioni LLM che eseguono azioni reali
Un agent LLM che può eseguire query al database, inviare email, chiamare API è una backdoor delegata. Un attaccante che controlla l'input controlla le azioni dell'agent. Ti mostro le classi di prompt injection più pericolose su agent systems, le strategie di difesa applicativa (input validation, output fencing, least privilege), e un esempio concreto di human-in-the-loop gate che ho implementato in un agent Laravel nella mia sandbox di audit. Continua a leggere
Ultima modifica:
Un RAG aziendale indicizza documenti interni e risponde alle domande. Se un attaccante inietta un documento nel corpus, può manipolare le risposte per tutti gli utenti. Ti racconto la metodologia di red team che applico: exfiltration di chunk sensibili, pivoting tra tenant multi-azienda, poisoning persistenti. Con tre proof-of-concept e il pattern di difesa applicativa. 
Il prompt engineering non è magia, è struttura. Ti mostro i 6 pattern che uso quotidianamente per task tecnici: chain of thought per debugging complessi, few-shot con esempi verificati per generazione codice coerente, structured output per pipeline automatiche, system prompt con boundaries espliciti. Ogni pattern con template riutilizzabile e anti-pattern da evitare. 
Dopo 18 mesi di utilizzo quotidiano di LLM per lavoro tecnico, ho catalogato i pattern di prompting che producono output consistenti per task specifici: refactoring di classi PHP, generazione di test, analisi di log e scrittura di query complesse. Vi condivido il mio prompt library con esempi concreti.