A Smart Window melhora a navegação na web no Firefox utilizando modelos de linguagem grandes (LLMs) para apoiar tarefas do dia a dia. Como depende de IA, existem riscos conhecidos, bem como proteções.
Este artigo explica esses riscos, como a Mozilla trabalha para os reduzir e como os seus dados são tratados.
Tabela de conteúdos
Quais são os riscos dos assistentes de IA?
Os assistentes de IA alimentados por modelos de linguagem grandes (LLMs) podem comportar-se de maneiras inesperadas. Alguns riscos comuns incluem:
Interações abertas
- Os utilizadores podem solicitar conteúdo prejudicial intencionalmente ou não. Isto pode levar a riscos como danos físicos, atividade ilegal ou danos financeiros.
Respostas prejudiciais não intencionais
- Como os LLMs são probabilísticos, os resultados prejudiciais não podem ser totalmente evitados, mesmo com salvaguardas implementadas.
Informação incorreta (alucinações)
- Os sistemas de IA podem gerar informação falsa ou enganosa.
A Mozilla reconhece estes riscos e trabalha para os reduzir, sendo transparente sobre as limitações desta tecnologia.
Como a Mozilla reduz estes riscos
A Mozilla toma várias medidas ao selecionar e operar modelos de IA para a Smart Window:
Avaliações de segurança
- Os modelos são testados utilizando instruções concebidas para desencadear respostas prejudiciais. Os resultados são avaliados com base na frequência com que os modelos recusam pedidos inseguros.
Salvaguardas do assistente
- As instruções do sistema orientam o assistente para evitar conteúdo prejudicial.
Tratamento de tópicos sensíveis
- Para tópicos financeiros, médicos e legais, o assistente fornece avisos incentivando os utilizadores a procurar aconselhamento profissional.
Como os seus dados são protegidos
A Smart Window inclui proteções de privacidade concebidas para limitar a exposição dos dados do utilizador:
- Proxy da Mozilla – Os pedidos são encaminhados através de um servidor proxy da Mozilla antes de chegarem aos serviços de IA. Isto significa que:
- O serviço de IA não vê um identificador único do seu navegador Firefox ou computador.
- O serviço de IA não vê o seu endereço IP.
- O serviço de IA não o pode identificar diretamente a si ou à sua localização.
- Nenhuma recolha de dados por predefinição
- As conversas nunca serão recolhidas ou armazenadas para treino ou revisão humana a menos que opte por participar.
Proteções de segurança
A Smart Window inclui proteções contra riscos emergentes como ataques de injeção de instruções. Estes ataques tentam ocultar instruções maliciosas no conteúdo da web.
A Mozilla aborda estes riscos ao:
- Reduzir onde as injeções de instruções podem ocorrer (por exemplo, limitando o comprimento dos títulos dos separadores enviados para o assistente)
- Rotular o estado da conversa ao interagir com conteúdo não fidedigno ou dados privados, para que saibamos quando restringir certas ações a que a IA tem acesso, para reduzir o risco
- Utilizar técnicas para distinguir entre instruções e dados
Melhorias contínuas
A segurança e a proteção nos sistemas de IA continuam a evoluir. A Mozilla:
- Atualiza as proteções à medida que novos riscos são descobertos
- Desenvolve novas mitigações
- Partilha abordagens para apoiar a transparência e a comunidade de código aberto em geral
