Mancanze nei Meccanismi di Sicurezza degli AI Multimodali come GPT-4o

Mancanze nei Meccanismi di Sicurezza degli AI Multimodali come GPT-4o

Recenti studi hanno messo in luce le difficoltà dei modelli AI multimodali, come GPT-4o, nel garantire risposte sicure quando ricevono input multimodali (testo e immagini).

Questi modelli, tra cui GPT-4V e Gemini 1.5, spesso non riescono a identificare problemi di sicurezza secondo il nuovo benchmark SIUO, che include nove domini di sicurezza come morale, comportamenti pericolosi e discriminazione.

Per migliorare, questi modelli devono sviluppare una comprensione unificata degli scenari e integrare sensibilità culturali e considerazioni etiche.
L’adozione del benchmark SIUO potrebbe aiutare a incrementare la fiducia pubblica e ridurre i problemi legali, spingendo le aziende a rafforzare la sicurezza dei loro modelli AI.

Fonte della notizia