Ultima modifica:
3 settimane fa
Smart Window migliora la navigazione web in Firefox utilizzando modelli linguistici di grandi dimensioni (LLM) per supportare le attività quotidiane. Poiché si basa sull'intelligenza artificiale, esistono rischi noti e misure di protezione.
Questo articolo spiega tali rischi, in che modo Mozilla si adopera per ridurli e come vengono gestiti i dati dell'utente.
Indice dei contenuti
Quali sono i rischi degli assistenti basati sull'intelligenza artificiale?
Gli assistenti basati sull'intelligenza artificiale e alimentati da modelli linguistici di grandi dimensioni (LLM) possono comportarsi in modi inaspettati. Alcuni rischi comuni includono:
Interazioni aperte
- Gli utenti possono richiedere intenzionalmente o meno contenuti dannosi. Ciò può comportare rischi quali danni fisici, attività illegali o danni finanziari.
Risposte malevole non intenzionali
- Poiché gli LLM sono probabilistici, i risultati malevoli non possono essere completamente evitati, anche con le misure di sicurezza in atto.
Informazioni errate (allucinazioni)
- I sistemi di intelligenza artificiale possono generare informazioni false o fuorvianti.
Mozilla riconosce questi rischi e si impegna a ridurli, pur essendo trasparente riguardo ai limiti di questa tecnologia.
In che modo Mozilla riduce questi rischi
Mozilla adotta diverse misure durante la selezione e il funzionamento dei modelli di intelligenza artificiale per Smart Window:
Valutazioni di sicurezza
- I modelli vengono sottoposti a test utilizzando prompt progettati per innescare risposte dannose. I risultati vengono valutati in base alla frequenza con cui i modelli rifiutano le richieste non sicure.
Misure di protezione dell'assistente
- Le istruzioni di sistema guidano l'assistente a evitare contenuti dannosi.
Gestione di argomenti sensibili
- Per argomenti finanziari, medici e legali, l'assistente fornisce dichiarazioni di non responsabilità che incoraggiano gli utenti a cercare una consulenza professionale.
Come vengono protetti i dati dell'utente
Smart Window include protezioni per la privacy progettate per limitare l'esposizione dei dati dell'utente:
- Proxy di Mozilla: le richieste vengono instradate attraverso un server proxy di Mozilla prima di raggiungere i servizi di intelligenza artificiale. Questo significa che:
- Il servizio di intelligenza artificiale non vede un identificatore univoco del browser Firefox o del computer dell'utente.
- Il servizio di intelligenza artificiale non vede l'indirizzo IP dell'utente.
- Il servizio di intelligenza artificiale non può identificare direttamente l'utente o la sua posizione.
- Nessuna raccolta di dati per impostazione predefinita
- Le conversazioni non verranno mai raccolte o archiviate per l'addestramento o la revisione umana, a meno che l'utente non decida di aderire esplicitamente (opt-in).
Misure di protezione della sicurezza
Smart Window include protezioni contro i rischi emergenti come gli attacchi di tipo "prompt injection". Questi attacchi tentano di nascondere istruzioni dannose nei contenuti web.
Mozilla affronta questi rischi:
- Riducendo i punti in cui possono verificarsi gli attacchi di tipo "prompt injection" (ad esempio, limitando la lunghezza dei titoli delle schede inviati all'assistente).
- Etichettando lo stato della conversazione quando si interagisce con contenuti non attendibili o dati privati, in modo da sapere quando limitare determinate azioni a cui l'intelligenza artificiale ha accesso, per ridurre il rischio.
- Utilizzando tecniche per distinguere tra istruzioni e dati.
Miglioramenti continui
La sicurezza e la protezione nei sistemi di intelligenza artificiale continuano a evolversi. Mozilla:
- Aggiorna le protezioni man mano che vengono scoperti nuovi rischi.
- Sviluppa nuove misure di mitigazione.
- Condivide gli approcci per supportare la trasparenza e la più ampia comunità open source.
