Categoria

Agent systems

Pagina 2 di 2

Agent systems: LLM autonomi che fanno cose, non chatbot che rispondono

Un agent system è un LLM che riceve un obiettivo, pianifica i passi per raggiungerlo ed esegue tool in autonomia, dal file system al browser alle API esterne. È una frontiera diversa dai chatbot: serve scaffolding, gestione del contesto, loop di controllo, sandboxing del codice generato, observability di ogni step.

In questa categoria scrivo di agent design e architettura: otto lezioni dal leak del source map Claude Code, scaffolding Anthropic distillato in pattern riusabili, white-box delle persona vectors, Project Glasswing e il problema dell'auditing terze parti. Tutto applicato a casi reali in MCP, Ollama, deployment on-prem.

Se stai progettando agent e vuoi un confronto tecnico serio su scaffolding, security e governance, parliamone. Oppure leggi chi sono per capire l'approccio.

Un agent in produzione senza sandboxing è una backdoor che hai delegato a un LLM. Non commettere questo errore.
Prompt engineering AI Code Security OWASP Cybersecurity Avanzata Agent systems

Prompt injection in agent systems: come difendere applicazioni LLM che eseguono azioni reali

Prompt injection in agent systems: come difendere applicazioni LLM che eseguono azioni reali Un agent LLM che può eseguire query al database, inviare email, chiamare API è una backdoor delegata. Un attaccante che controlla l'input controlla le azioni dell'agent. Ti mostro le classi di prompt injection più pericolose su agent systems, le strategie di difesa applicativa (input validation, output fencing, least privilege), e un esempio concreto di human-in-the-loop gate che ho implementato in un agent Laravel nella mia sandbox di audit. Continua a leggere
Ultima modifica: