Il Presidente di Microsoft, Brad Smith, delinea come combatterà il “contenuto generato da AI abusivo
Recentemente, immagini deepfake della pop star Taylor Swift che contenevano contenuti espliciti hanno invaso Internet. Alcuni rapporti sostenevano che le immagini fossero state create da qualcuno che utilizzava Microsoft Designer.
Microsoft ha ufficialmente dichiarato di non avere visto prove di questo, ma ha aggiunto di aver apportato modifiche al design “per rafforzare i nostri prompt di filtraggio del testo e affrontare l’abuso dei nostri servizi”.
Oggi, il Presidente di Microsoft, Brad Smith, ha scritto un post sul blog ufficiale dell’azienda.
Pur non facendo riferimento alle immagini deepfake di Taylor Swift o all’uso presunto di Microsoft Designer nella creazione di quelle immagini, Smith ha dichiarato che l’azienda sta osservando una rapida espansione nell’abuso di questi nuovi strumenti AI da parte di cattivi attori.
Smith ha delineato sei aree specifiche su cui Microsoft si concentrerà per combattere questo tipo di “contenuto generato da AI abusivo”.
La prima è aiutare a promuovere l’uso sicuro di questi strumenti attraverso attività come il blocco di prompt di testo specifici, i test e il rapido bando degli utenti che abusano di questi strumenti.
Un’altra area su cui Smith ha detto che Microsoft sta lavorando è aiutare a identificare il contenuto generato da AI. Ha dichiarato:
Stiamo già utilizzando la tecnologia di provenienza negli strumenti di creazione di immagini Microsoft Designer in Bing e in Copilot, e stiamo procedendo all'estensione della provenienza dei media a tutti i nostri strumenti che creano o manipolano immagini. Ha aggiunto che l’azienda sta esaminando “tecniche di watermarking e fingerprinting per il futuro. Smith ha anche detto che si sta impegnando per rimuovere contenuti abusivi basati su AI dai suoi servizi come LinkedIn e i suoi servizi di gioco come Xbox.
Smith ha detto che vuole anche collaborare con altri nell’industria tecnologica, insieme alle forze dell’ordine, per combattere i deepfake basati su AI.
Inoltre, ha detto che Microsoft vuole lavorare con i governi mondiali per stabilire nuove leggi per vietare questo tipo di contenuto.
Infine, Smith ha detto che Microsoft vuole aiutare a educare il pubblico per identificare i deepfake creati per ingannare le persone.
Ritiene che questo richiederà nuovi strumenti e programmi di educazione pubblica” per mostrare loro quale contenuto è reale e quale è falso.