Slim Venster verbetert webbrowsen in Firefox door gebruik te maken van grote taalmodellen (large language models of LLM’s) om dagelijkse taken te ondersteunen. Omdat het afhankelijk is van AI, zijn er bekende risico’s, evenals beschermingen.

Dit artikel legt die risico’s uit, hoe Mozilla werkt om ze te reduceren, en hoe met uw gegevens wordt omgegaan.

Wat zijn de risico’s van AI-assistenten?

AI-assistenten die door grote taalmodellen (LLM’s) worden aangedreven kunnen zich op onverwachte wijze gedragen. Sommige vaker voorkomende risico’s omvatten:

Interacties met een open einde

• Gebruikers kunnen bewust of onbewust schadelijke inhoud opvragen. Dit kan leiden tot risico’s zoals fysiek letsel, illegale activiteit of financiële schade.

Onbedoelde schadelijke antwoorden

• Omdat LLM’s voorspellend zijn, kunnen schadelijke uitkomsten niet volledig worden voorkomen, zelfs als er beveiligingen worden gebruikt.

Onjuiste informatie (hallucinaties)

• AI-systemen kunnen foute of misleidende informatie genereren.

Mozilla erkent deze risico’s en werkt er aan om deze te reduceren, terwijl het transparant is over de beperkingen van deze technologie.

Hoe Mozilla deze risico’s reduceert

Mozilla neemt diverse stappen bij het selecteren en uitvoeren van AI-modellen voor Slim Venster:

Veiligheidsevaluaties

• Modellen worden getest met prompts die zijn ontworpen om schadelijke antwoorden op te roepen. Resultaten worden geëvalueerd op basis van hoe vaak modellen onveilige verzoeken weigeren.

Assistent-beveiligingen

• Systeeminstructies begeleiden de assistent om schadelijke inhoud te voorkomen.

Omgang met gevoelige onderwerpen

• Voor financiële, medische en juridische onderwerpen geeft de assistent disclaimers die gebruikers aanmoedigen om professionele hulp in te schakelen.

Hoe uw gegevens worden beschermd

Slim Venster bevat privacybeschermingen die zijn ontworpen om blootstelling van gebruikersgegevens te beperken:

• Mozilla-proxy – verzoeken worden via een Mozilla-proxyserver geleid voordat ze AI-services bereiken. Dit betekent:
  • De AI-service ziet geen unieke identificator van uw Firefox-browser of computer;
  • De AI-service ziet uw IP-adres niet;
  • De AI-service kan u of uw locatie niet rechtstreeks identificeren.
• Standaard geen gegevensverzameling
  • Conversaties worden nooit verzameld of opgeslagen voor training of beoordeling door mensen, tenzij u daarmee instemt.

Beveiligingsbeschermingen

Slim Venster bevat beschermingen tegen opkomende risico’s, zoals promptinjectie-aanvallen. Deze aanvallen proberen kwaadwillende instructies te verbergen in webinhoud.

Mozilla adresseert deze risico’s door:

• Te reduceren waar promptinjecties kunnen optreden (door bijvoorbeeld de lengte van tabbladtitels die naar de assistent worden verstuurd te beperken);
• De conversatiestatus te labelen bij interactie met niet-vertrouwde inhoud of privégegevens, zodat we weten wanneer we bepaalde acties waar de AI toegang toe heeft moeten beperken, om het risico te reduceren;
• Technieken te gebruiken om onderscheid te maken tussen instructies en gegevens.

Verbeteringen in ontwikkeling

Beveiliging en veiligheid in AI-systemen blijven zich ontwikkelen. Mozilla:

• Werkt beschermingen bij als nieuwe risico’s worden ontdekt;
• Ontwikkelt nieuwe maatregelen;
• Deelt benaderingen om transparantie en de bredere opensourcegemeenschap te ondersteunen.

Gerelateerde artikelen

• Privacy- en beveiligingsfuncties van Firefox
• Verbeterde bescherming tegen volgen in Firefox voor desktop
• Firefox-instellingen voor gegevensverzameling en privacy beheren