Smart Window mejora la navegación web en Firefox mediante el uso de modelos de lenguaje grandes (LLM) para ayudar en las tareas cotidianas. Debido a que se basa en la IA, existen tanto riesgos conocidos como protecciones.

Este artículo explica esos riesgos, cómo Mozilla trabaja para reducirlos y cómo se manejan tus datos.

¿Cuáles son los riesgos de los asistentes de IA?

Los asistentes de IA impulsados por modelos de lenguaje grandes (LLM) pueden comportarse de maneras inesperadas. Algunos riesgos comunes incluyen:

Interacciones abiertas

• Los usuarios pueden solicitar contenido dañino de forma intencionada o no. Esto puede conllevar riesgos como daños físicos, actividades ilegales o perjuicios económicos.

Respuestas dañinas no deseadas

• Debido a que los LLM son probabilísticos, los resultados dañinos no se pueden prevenir por completo, incluso con las medidas de seguridad implementadas.

Información incorrecta (alucinaciones)

• Los sistemas de IA pueden generar información falsa o engañosa.

Mozilla reconoce estos riesgos y trabaja para reducirlos, al mismo tiempo que es transparente sobre las limitaciones de esta tecnología.

Cómo Mozilla reduce estos riesgos

Mozilla toma varias medidas al seleccionar y operar modelos de IA para Smart Window:

Evaluaciones de seguridad

• Los modelos se prueban utilizando indicaciones diseñadas para provocar respuestas dañinas. Los resultados se evalúan en función de la frecuencia con la que los modelos rechazan solicitudes no seguras.

Salvaguardias del asistente

• Las instrucciones del sistema guían al asistente para evitar contenido dañino.

Manejo de temas sensibles

• Para temas financieros, médicos y legales, el asistente proporciona descargos de responsabilidad que animan a los usuarios a buscar asesoramiento profesional.

Cómo se protegen tus datos

Smart Window incluye protecciones de privacidad diseñadas para limitar la exposición de los datos del usuario:

• Proxy de Mozilla – Las solicitudes se enrutan a través de un servidor proxy de Mozilla antes de llegar a los servicios de IA. Esto significa:
  • El servicio de IA no ve un identificador único de tu navegador Firefox o de tu computadora.
  • El servicio de IA no ve tu dirección IP.
  • El servicio de IA no puede identificarte directamente a ti ni a tu ubicación.
• Sin recopilación de datos por defecto
  • Las conversaciones nunca se recopilarán ni almacenarán para entrenamiento o revisión humana a menos que lo aceptes explícitamente.

Protecciones de seguridad

Smart Window incluye protecciones contra riesgos emergentes como los ataques de inyección de prompts. Estos ataques intentan ocultar instrucciones maliciosas en el contenido web.

Mozilla aborda estos riesgos de la siguiente manera:

• Reduciendo los lugares donde pueden ocurrir las inyecciones de prompts (por ejemplo, limitando la longitud de los títulos de las pestañas que se envían al asistente)
• Etiquetando el estado de la conversación al interactuar con contenido no confiable o datos privados, para que sepamos cuándo restringir ciertas acciones a las que la IA tiene acceso, para reducir el riesgo
• Utilizando técnicas para distinguir entre instrucciones y datos

Mejoras continuas

La seguridad y la protección en los sistemas de IA continúan evolucionando. Mozilla:

• Actualiza las protecciones a medida que se descubren nuevos riesgos
• Desarrolla nuevas mitigaciones
• Comparte enfoques para apoyar la transparencia y a la comunidad de código abierto en general

Artículos relacionados

• Funciones de privacidad y seguridad de Firefox
• Protección contra el rastreo mejorada en Firefox para escritorio
• Administrar la recopilación de datos y la configuración de privacidad de Firefox