Dernière mise à jour:
Smart Window améliore la navigation web dans Firefox en utilisant des grands modèles de langage (LLM) pour prendre en charge les tâches quotidiennes. Comme elle repose sur l’IA, il existe des risques connus ainsi que des protections.
Cet article explique ces risques, comment Mozilla s’efforce de les réduire et comment vos données sont traitées.
Table des matières
Quels sont les risques des assistants IA ?
Les assistants IA alimentés par des grands modèles de langage (LLM) peuvent se comporter de manière inattendue. Parmi les risques courants, on trouve :
- Interactions ouvertes
- Les personnes qui l’utilisent peuvent, intentionnellement ou non, demander du contenu préjudiciable. Cela peut entraîner des risques tels que des dommages corporels, des activités illégales ou des préjudices financiers.
- Réponses préjudiciables involontaires
- Parce que les LLM sont probabilistes, les résultats préjudiciables ne peuvent pas être complètement évités, même avec des garde-fous en place.
- Informations incorrectes (hallucinations)
- Les systèmes d’IA peuvent générer des informations fausses ou trompeuses.
Mozilla reconnaît ces risques et s’efforce de les réduire tout en faisant preuve de transparence quant aux limites de cette technologie.
Comment Mozilla réduit ces risques
Mozilla prend plusieurs mesures lors de la sélection et de l’exploitation des modèles d’IA pour Smart Window :
- Évaluations de la sécurité
- Les modèles sont testés à l’aide d’invites conçues pour déclencher des réponses préjudiciables. Les résultats sont évalués en fonction de la fréquence à laquelle les modèles refusent les requêtes dangereuses.
- Garde-fous de l’assistant
- Des instructions système guident l’assistant pour qu’il évite les contenus préjudiciables.
- Traitement des sujets sensibles
- Pour les sujets financiers, médicaux et juridiques, l’assistant fournit des avertissements encourageant les personnes qui l’utilisent à demander des conseils professionnels.
Comment vos données sont protégées
Smart Window inclut des protections de la vie privée conçues pour limiter l’exposition des données des personnes qui l’utilisent :
- Proxy Mozilla
- Les requêtes sont acheminées par un serveur proxy de Mozilla avant d’atteindre les services d’IA. Cela signifie que :
- Le service d’IA ne voit pas d’identifiant unique de votre navigateur Firefox ou de votre ordinateur.
- Le service d’IA ne voit pas votre adresse IP.
- Le service d’IA ne peut pas vous identifier directement ni connaître votre emplacement.
- Aucune collecte de données par défaut
- Les conversations ne seront jamais collectées ou stockées pour l’entraînement ou l’examen humain, sauf si vous donnez votre consentement.
Protections de la sécurité
Smart Window inclut des protections contre les risques émergents tels que les attaques par infiltration de requête (prompt injection en anglais). Ces attaques tentent de dissimuler des instructions malveillantes dans le contenu web.
Mozilla répond à ces risques en :
- Réduisant les endroits où les infiltrations de requête peuvent se produire (par exemple, en limitant la longueur des titres d’onglet envoyés à l’assistant)
- Étiquetant l’état de la conversation lors de l’interaction avec du contenu non fiable ou des données privées, afin que nous sachions quand restreindre pour réduire les risques certaines actions auxquelles l’IA a accès
- Utilisant des techniques pour distinguer les instructions des données
Améliorations continues
La sécurité et la sûreté des systèmes d’IA continuent d’évoluer. Mozilla :
- Met à jour les protections à mesure que de nouveaux risques sont découverts
- Développe de nouvelles mesures d’atténuation
- Partage ses approches pour soutenir la transparence et la communauté open source au sens large
