Google ha recentemente annunciato un significativo ampliamento del suo Programma di Ricompense per la Vulnerabilità (VRP) al fine di compensare i ricercatori che scoprono scenari di attacco specifici legati ai sistemi di intelligenza artificiale generativa (AI). Questa iniziativa è parte integrante del costante impegno di Google per rafforzare la sicurezza e la protezione dell’IA.
Secondo Laurie Richardson e Royal Hansen di Google, l’IA generativa presenta nuove e diverse sfide in termini di sicurezza digitale rispetto ai metodi tradizionali. Le preoccupazioni principali riguardano il potenziale per il pregiudizio ingiusto, la manipolazione dei modelli AI e le interpretazioni errate dei dati, spesso indicate come “allucinazioni”.
Le categorie di minacce prese in considerazione includono iniezioni di prompt, perdite di dati sensibili dai set di dati di addestramento, manipolazione dei modelli, attacchi di perturbazione avversaria che causano una classificazione errata e il furto dei modelli AI.
Va sottolineato che già a luglio, Google aveva istituito un Red Team AI per contribuire ad affrontare le minacce ai sistemi AI, nell’ambito del suo Secure AI Framework (SAIF).
Inoltre, nell’ambito dell’impegno di Google per garantire l’IA sicura, sono state annunciate iniziative volte a potenziare la catena di fornitura dell’AI. Queste iniziative comprendono l’adesione a progetti open-source esistenti come Supply Chain Levels for Software Artifacts (SLSA) e Sigstore.
L’uso di firme digitali, come quelle fornite da Sigstore, consente agli utenti di verificare l’integrità del software, assicurandosi che non sia stato manomesso o sostituito. Inoltre, i metadati, come quelli derivanti dalla provenienza SLSA, forniscono informazioni cruciali sul contenuto del software e sulle modalità di creazione, agevolando i consumatori nella verifica della conformità alle licenze e nell’individuazione delle vulnerabilità.
Queste iniziative rappresentano un passo significativo verso la promozione della sicurezza nell’utilizzo dell’IA generativa e riflettono l’importanza che Google attribuisce alla protezione dei sistemi AI contro potenziali minacce. La continua collaborazione con la comunità di ricercatori nella scoperta e mitigazione delle vulnerabilità è fondamentale per affrontare le sfide emergenti in questo campo in rapida evoluzione.