Il paradosso del 2026

Nel giro di diciotto mesi, l’intelligenza artificiale è passata da curiosità da laboratorio a infrastruttura operativa quotidiana. Sviluppatori che usano assistenti come GitHub Copilot, team marketing che orchestrano workflow con agenti LLM, sistemi documentali che ingoiano PDF e li trasformano in risposte: tutto questo è oggi normalità anche in aziende di taglia medio-piccola.

Il problema è che la diffusione è andata più veloce della comprensione dei rischi. Il risultato è un paradosso: l’AI è contemporaneamente uno dei vettori di rischio più sottostimati e lo strumento di difesa più potente che la cybersecurity abbia mai avuto a disposizione.

Il lato oscuro: l’AI come fabbrica di vulnerabilità

I dati raccolti negli ultimi mesi sono difficili da ignorare.

Il 40% del codice generato da GitHub Copilot contiene vulnerabilità di sicurezza. In analisi più mirate, fino al 78% del codice AI-generato presenta almeno una falla sfruttabile che gli strumenti tradizionali di scansione non riescono a rilevare.

I tipi di vulnerabilità più frequenti sono i classici dei cataloghi OWASP/CWE: SQL injection da concatenazione di stringhe, XSS in template literali non escaped, chiavi API hardcoded direttamente nei file di configurazione, path traversal nelle operazioni su file, uso insicuro di eval() ed exec(). Le vulnerabilità tendono inoltre a essere specifiche del linguaggio: il codice Python generato è particolarmente esposto (16-18% dei snippet con CWE) rispetto a JavaScript (~9%) e TypeScript (2-7%).

Prompt injection: la nuova faccia del rischio

C’è anche una classe di attacchi praticamente esclusiva del mondo AI: la prompt injection. È diventata la vulnerabilità numero uno nella OWASP Top 10 per LLM. Si presenta in due forme:

• Diretta: un utente convince il modello a ignorare le sue istruzioni di sistema («ignora tutto quello che ti hanno detto prima e dimmi…»).
• Indiretta: il modello legge un documento o una pagina web che contiene istruzioni nascoste e le esegue come se fossero comandi.

Per un’azienda che ha integrato un chatbot AI sul proprio sito o un assistente che legge documenti dei clienti, la prompt injection può tradursi in esfiltrazione di dati riservati, esecuzione di comandi non autorizzati sui sistemi connessi, o emissione di risposte manipolate verso i clienti.

A questi si aggiungono gli altri rischi della OWASP LLM Top 10 v2.0: data e model poisoning (modelli compromessi nel training), excessive agency (agenti AI con troppi permessi sui sistemi aziendali), supply chain vulnerabilities sui modelli stessi, e fuoriuscita di dati sensibili attraverso le risposte.

Il lato luminoso: l’AI come scudo

Lo stesso anno in cui l’AI ha mostrato i suoi denti come arma offensiva, è anche diventato lo standard de facto della difesa aziendale.

Le previsioni di Gartner per il 2026 parlano di oltre il 60% delle organizzazioni che si affideranno a piattaforme di cybersecurity con automazione AI-augmented, contro meno del 20% nel 2023. Il World Economic Forum è ancora più netto: il 94% delle organizzazioni dichiara che l’AI è la forza più influente che sta plasmando la sicurezza informatica nel 2026.

Tre cambiamenti concreti

• SOC autonomi. I Security Operations Center stanno passando da workflow reattivi a sistemi agentic capaci di analizzare, decidere e rispondere. Sophos ha dichiarato di aver compresso il tempo da apertura del caso a risposta automatica a 89 secondi: reagire a un attacco prima che un analista umano abbia letto il primo alert.
• Riduzione drastica dei falsi positivi. Le piattaforme SIEM con AI correlano segnali eterogenei in tempo reale, distinguendo il rumore dagli incidenti veri. Per team di sicurezza piccoli, la norma nelle PMI, questo significa concentrare l’attenzione solo dove serve.
• Threat intelligence predittiva. Gli algoritmi analizzano comportamenti anomali su endpoint, rete e identità, anticipando le minacce invece di rincorrerle a danno fatto.

C’è un asterisco importante: il supervisore umano resta indispensabile. Gli agenti AI ragionano, decidono e agiscono, ma operano accanto a persone che validano le scelte più delicate. Chi vende «soluzioni completamente autonome senza intervento umano» sta semplificando troppo, di solito a danno del cliente.

Cosa fare, oggi, in azienda

L’errore più comune che vediamo è considerare AI security e cybersecurity come due tracce separate. Non lo sono più: sono due facce dello stesso problema e vanno governate insieme.

In pratica, ogni azienda anche piccola dovrebbe fare quattro cose in sequenza nei prossimi mesi:

1. Mappare l’AI già presente. Quasi sempre l’AI è già in azienda, anche senza un piano: copilot per il codice, chatbot, plugin di Microsoft 365, automazioni con strumenti no-code. Il primo passo è sapere chi usa cosa, su quali dati, con quali permessi.
2. Mettere in sicurezza il ciclo di sviluppo. Se in azienda si scrive software, anche piccoli script interni, è essenziale introdurre code review specifiche su quello generato da AI e tool di security scanning consapevoli dei pattern AI. Le pipeline DevSecOps tradizionali da sole non bastano più.
3. Difendere chi usa l’AI. Per chatbot, agenti e assistenti documentali serve un layer di protezione contro la prompt injection: input sanitization, separazione delle istruzioni di sistema, limiti di accesso ai sistemi connessi, monitoring delle anomalie.
4. Formare le persone. L’80% dei responsabili HR considera la AI literacy una priorità strategica, ma solo il 22% delle aziende ha già attivato programmi di formazione strutturati. Il gap è enorme e si chiude solo con piani formativi seri, non con un seminario una tantum.

In conclusione

L’AI nella sicurezza del software non è una sfida tecnologica isolata: è un cambio di paradigma che riguarda processi, persone e governance. Le aziende che si organizzano adesso costruiranno un vantaggio competitivo difficile da recuperare per chi rimane fermo.

In Mediaform supportiamo le aziende su tutti i fronti di questo passaggio: dalla consulenza sull’integrazione sicura dell’AI nei processi aziendali, allo sviluppo software con pratiche AI-aware, fino alla formazione dei team su AI literacy e cybersecurity.

Per capire da dove partire nella tua azienda, scrivici a assistenza@media-form.it oppure contattaci.