Smart Window forbedrer browsing på internettet i Firefox ved at bruge store sprogmodeller (LLM'er) til at understøtte dagligdags opgaver. Da den er baseret på kunstig intelligens (AI), er der kendte risici såvel som beskyttelsesforanstaltninger.

Denne artikel forklarer disse risici, hvordan Mozilla arbejder på at reducere dem, og hvordan dine data håndteres.

Hvad er risiciene ved AI-assistenter?

AI-assistenter, der er drevet af store sprogmodeller (LLM'er), kan opføre sig på uventede måder. Nogle almindelige risici omfatter:

Åbne interaktioner

• Brugere kan med eller uden vilje anmode om skadeligt indhold. Dette kan føre til risici som fysisk skade, ulovlig aktivitet eller økonomisk skade.

Utilsigtede skadelige svar

• Da LLM'er er probabilistiske, kan skadelige resultater ikke helt forhindres, selv med sikkerhedsforanstaltninger på plads.

Forkerte oplysninger (hallucinationer)

• AI-systemer kan generere falske eller vildledende oplysninger.

Mozilla anerkender disse risici og arbejder på at reducere dem, samtidig med at være gennemsigtig omkring begrænsningerne i denne teknologi.

Hvordan Mozilla reducerer disse risici

Mozilla tager flere skridt, når de udvælger og driver AI-modeller til Smart Window:

Sikkerhedsevalueringer

• Modeller testes ved hjælp af prompter, der er designet til at udløse skadelige svar. Resultaterne evalueres ud fra, hvor ofte modellerne afviser usikre anmodninger.

Sikkerhedsforanstaltninger for assistenten

• Systeminstruktioner vejleder assistenten til at undgå skadeligt indhold.

Håndtering af følsomme emner

• For finansielle, medicinske og juridiske emner giver assistenten ansvarsfraskrivelser, der opfordrer brugerne til at søge professionel rådgivning.

Hvordan dine data beskyttes

Smart Window indeholder privatlivsbeskyttelse, der er designet til at begrænse eksponeringen af brugerdata:

• Mozilla-proxy – Anmodninger sendes gennem en Mozilla-proxyserver, før de når AI-tjenesterne. Det betyder:
  • AI-tjenesten ser ikke en unik identifikator for din Firefox-browser eller computer.
  • AI-tjenesten ser ikke din IP-adresse.
  • AI-tjenesten kan ikke direkte identificere dig eller din placering.
• Ingen dataindsamling som standard
  • Samtaler vil aldrig blive indsamlet eller gemt til træning eller menneskelig gennemgang, medmindre du tilvælger det.

Sikkerhedsbeskyttelse

Smart Window indeholder beskyttelse mod nye risici som f.eks. prompt injection-angreb. Disse angreb forsøger at skjule ondsindede instruktioner i webindhold.

Mozilla håndterer disse risici ved at:

• Reducere, hvor prompt injections kan forekomme (f.eks. ved at begrænse længden af fanebladstitler, der sendes til assistenten)
• Mærke samtalestatus, når der interageres med upålideligt indhold eller private data, så vi ved, hvornår vi skal begrænse visse handlinger, som AI'en har adgang til, for at reducere risikoen
• Bruge teknikker til at skelne mellem instruktioner og data

Løbende forbedringer

Sikkerhed og tryghed i AI-systemer udvikler sig konstant. Mozilla:

• Opdaterer beskyttelsesforanstaltninger, efterhånden som nye risici opdages
• Udvikler nye afbødende foranstaltninger
• Deler tilgange for at understøtte gennemsigtighed og det bredere open source-fællesskab

Relaterede artikler

• Firefox privacy and security features
• Udvidet beskyttelse mod sporing i Firefox til computer
• Manage Firefox data collection and privacy settings