L’Istituto per la Sicurezza dell’IA del Governo Britannico si Espande a San Francisco

Pubblicato il da

news

L’Istituto per la Sicurezza dell’IA del Governo Britannico si Espande a San Francisco

Il governo britannico ha annunciato che il suo Istituto per la Sicurezza dell’IA aprirà il suo primo ufficio oltreoceano a San Francisco quest’estate, al fine di ampliare le sue competenze tecniche e trasformarlo in un ente di sicurezza IA più rilevante. Stabilendo una sede a San Francisco, l’istituto sarà meglio connesso con le aziende che lavorano attivamente sulle ultime tecnologie IA.

Quando il nuovo ufficio aprirà, il primo personale previsto sarà un Direttore della Ricerca che supervisionerà il primo team di personale tecnico. Questo completerà la sede centrale di Londra, che ospita anche un team di oltre 30 tecnici.

Commentando la notizia, il Segretario di Stato per la Scienza e la Tecnologia Michelle Donelan ha dichiarato:

“Questa espansione rappresenta la leadership britannica in azione. È un momento cruciale per la capacità del Regno Unito di studiare i rischi e il potenziale da una prospettiva globale, rafforzando la nostra partnership con gli Stati Uniti e aprendo la strada ad altri paesi per sfruttare la nostra esperienza mentre continuiamo a guidare il mondo sulla sicurezza.”

Dalla sua fondazione l’anno scorso, l’AISI ha già condotto uno studio per valutare l’efficacia delle salvaguardie dell’IA nella pratica e altro ancora. I punti salienti di questo studio sono stati i seguenti:

  • Diversi modelli hanno completato sfide di sicurezza informatica mentre hanno faticato a completare sfide più avanzate.
  • Diversi modelli dimostrano conoscenze simili a quelle di un dottorato di ricerca in chimica e biologia.
  • Tutti i modelli testati rimangono altamente vulnerabili a “jailbreak” di base e alcuni producono risultati dannosi anche senza tentativi dedicati di eludere le salvaguardie.
  • I modelli testati non sono stati in grado di completare compiti più complessi e dispendiosi in termini di tempo senza la supervisione umana.

Il capo dell’AISI ha affermato che la sicurezza dell’IA è ancora molto giovane e che i risultati rappresentano solo una piccola parte dell’approccio di valutazione verso cui l’AISI sta lavorando. L’istituto vuole continuare a lavorare sulle sue valutazioni e concentrarsi sui rischi legati alla sicurezza nazionale.

Con tutti i drammi in corso presso OpenAI, è positivo che i governi stiano lavorando per garantire che i modelli IA soddisfino determinati requisiti di sicurezza. Allo stesso tempo, devono anche assicurarsi di non ostacolare lo sviluppo di queste nuove tecnologie o limitarle troppo, rendendole inutili.

Fonte della notizia

ARTICOLI RECENTI

L’Istituto per la Sicurezza dell’IA del Governo Britannico si Espande a San Franciscoultima modifica: 2024-05-22T06:44:52+02:00da puma1973a
Reposta per primo quest’articolo