Smart Window verbessert das Surfen im Internet mit Firefox durch die Nutzung großer Sprachmodelle (Large Language Models, LLMs) zur Unterstützung bei alltäglichen Aufgaben. Da es auf KI basiert, gibt es bekannte Risiken, aber auch Schutzmaßnahmen.
Dieser Artikel erklärt diese Risiken, wie Mozilla daran arbeitet, sie zu verringern, und wie mit Ihren Daten umgegangen wird.
Inhaltsverzeichnis
Welche Risiken bergen KI-Assistenten?
KI-Assistenten, die auf großen Sprachmodellen (LLMs) basieren, können sich auf unerwartete Weise verhalten. Zu den häufigsten Risiken gehören:
Offene Interaktionen
- Nutzer können absichtlich oder unabsichtlich schädliche Inhalte anfordern. Dies kann zu Risiken wie körperlichen Schäden, illegalen Aktivitäten oder finanziellen Schäden führen.
Unbeabsichtigte schädliche Antworten
- Da LLMs probabilistisch sind, können schädliche Ergebnisse auch mit vorhandenen Schutzmaßnahmen nicht vollständig verhindert werden.
Falsche Informationen (Halluzinationen)
- KI-Systeme können falsche oder irreführende Informationen erzeugen.
Mozilla ist sich dieser Risiken bewusst und arbeitet daran, sie zu verringern, während gleichzeitig transparent über die Grenzen dieser Technologie informiert wird.
Wie Mozilla diese Risiken verringert
Mozilla unternimmt bei der Auswahl und dem Betrieb von KI-Modellen für Smart Window mehrere Schritte:
Sicherheitsbewertungen
- Die Modelle werden mit Prompts getestet, die darauf ausgelegt sind, schädliche Antworten auszulösen. Die Ergebnisse werden danach bewertet, wie oft die Modelle unsichere Anfragen ablehnen.
Schutzmaßnahmen für den Assistenten
- Systemanweisungen leiten den Assistenten an, schädliche Inhalte zu vermeiden.
Umgang mit sensiblen Themen
- Bei Finanz-, Medizin- und Rechtsthemen gibt der Assistent Haftungsausschlüsse aus, die Nutzer dazu anregen, professionellen Rat einzuholen.
Wie Ihre Daten geschützt werden
Smart Window enthält Datenschutzvorkehrungen, die darauf ausgelegt sind, die Preisgabe von Nutzerdaten zu begrenzen:
- Mozilla-Proxy – Anfragen werden über einen Mozilla-Proxyserver geleitet, bevor sie die KI-Dienste erreichen. Das bedeutet:
- Der KI-Dienst sieht keine eindeutige Kennung Ihres Firefox-Browsers oder Computers.
- Der KI-Dienst sieht Ihre IP-Adresse nicht.
- Der KI-Dienst kann Sie oder Ihren Standort nicht direkt identifizieren
- Standardmäßig keine Datenerhebung
- Unterhaltungen werden niemals für Trainingszwecke oder eine menschliche Überprüfung gesammelt oder gespeichert, es sei denn, Sie stimmen dem ausdrücklich zu.
Sicherheitsvorkehrungen
Smart Window enthält Schutzmaßnahmen gegen neu aufkommende Risiken wie Prompt-Injection-Angriffe. Bei diesen Angriffen wird versucht, bösartige Anweisungen in Webinhalten zu verstecken.
Mozilla begegnet diesen Risiken, indem:
- die Stellen reduziert werden, an denen Prompt-Injections auftreten können (z. B. durch Begrenzung der Länge von Tab-Titeln, die an den Assistenten gesendet werden)
- der Unterhaltungsstatus bei der Interaktion mit nicht vertrauenswürdigen Inhalten oder privaten Daten gekennzeichnet wird, damit wir wissen, wann bestimmte Aktionen, auf die die KI Zugriff hat, zur Risikominderung eingeschränkt werden müssen
- Techniken zur Unterscheidung zwischen Anweisungen und Daten verwendet werden
Laufende Verbesserungen
Die Sicherheit in KI-Systemen entwickelt sich ständig weiter. Mozilla:
- aktualisiert die Schutzmaßnahmen, sobald neue Risiken entdeckt werden
- entwickelt neue Abhilfemaßnahmen
- teilt Lösungsansätze, um die Transparenz und die breitere Open-Source-Community zu unterstützen
