AI Security / Repository
ai-security-guardrails
Un framework completo di middleware di sicurezza per applicazioni di IA e LLM, che protegge da prompt injection, fughe di dati, manipolazioni avversarie e usi impropri tramite misure di protezione configurabili e monitoraggio in tempo reale.
Visualizza su GitHub ↗Informazioni sul progetto
AI Security Guardrails implementa più livelli di protezione per le applicazioni che usano l’intelligenza artificiale, in particolare i Large Language Model (LLM). Mentre le organizzazioni integrano rapidamente l’IA nei propri prodotti e flussi di lavoro, emergono nuove categorie di vulnerabilità che gli strumenti di sicurezza tradizionali non riescono a gestire. Questo framework fornisce un livello middleware che intercetta e analizza sia gli input (prompt) sia gli output (risposte). Comprende vari moduli: rilevamento della prompt injection, prevenzione delle fughe di PII, convalida degli output, limitazione intelligente della frequenza delle richieste e monitoraggio degli usi avversari.
Perché è importante
L’integrazione dell’IA nelle applicazioni aziendali rappresenta sia una grande opportunità sia una nuova e significativa superficie di attacco. La prompt injection è stata definita «la SQL injection dell’era dell’IA»: una classe di vulnerabilità del tutto nuova che permette agli aggressori di manipolare i sistemi di IA affinché compiano azioni impreviste, rivelino dati sensibili o generino contenuti dannosi. Questo progetto offre protezioni pratiche, distribuibili subito, che forniscono alle organizzazioni una base di sicurezza mentre il settore più ampio della sicurezza dell’IA continua a maturare.
Guida passo passo
- Installa il pacchetto AI Security Guardrails come middleware nella tua applicazione di IA. Per le applicazioni Python/FastAPI, esegui 'pip install ai-security-guardrails' e aggiungi il middleware all’avvio dell’applicazione.
- Configura le policy di sicurezza nel file guardrails.config.yaml. Definisci quali moduli di rilevamento attivare, imposta le soglie di sensibilità e specifica le azioni per i diversi livelli di minaccia.
- Attiva i moduli di rilevamento necessari alla tua applicazione. Abilita 'prompt-injection' per qualsiasi funzionalità di IA rivolta agli utenti e 'pii-detection' se l’IA tratta dati personali.
- Monitora le dashboard di sicurezza per comprendere il profilo delle minacce della tua applicazione di IA. La dashboard mostra metriche in tempo reale sulle minacce bloccate, sull’accuratezza del rilevamento e sui modelli di utilizzo.