Inteligentne okno rozszerza możliwości przeglądania internetu w Firefoksie, wykorzystując do wspierania codziennych zadań duże modele językowe (ang. large language model – LLM). Ponieważ działanie inteligentnego okna opiera się na sztucznej inteligencji (SI), wiążą się z tym znane zagrożenia, a także mechanizmy ochrony.
W tym artykule wyjaśniono te zagrożenia, sposoby ich ograniczania przez Mozillę oraz sposób postępowania z danymi użytkownika.
Spis treści
Zagrożenia związane z asystentami sztucznej inteligencji
Asystenci SI działający w oparciu o duże modele językowe (LLM) mogą zachowywać się w nieprzewidywalny sposób. Do typowych zagrożeń należą:
Dowolne zapytania
- Użytkownicy mogą celowo lub nieumyślnie prosić o szkodliwe treści. Może to prowadzić do zagrożeń, takich jak szkody fizyczne, działalność niezgodną z prawem lub szkody finansowe.
Niezamierzone szkodliwe odpowiedzi
- Ponieważ działanie LLM opiera się na prawdopodobieństwach, nie można całkowicie zapobiec szkodliwym skutkom, nawet przy zastosowaniu zabezpieczeń.
Niepoprawne informacje (omamy)
- Systemy SI mogą generować fałszywe lub wprowadzające w błąd informacje.
Mozilla dostrzega te zagrożenia i pracuje nad ich ograniczaniem, jednocześnie informując w przejrzysty sposób o ograniczeniach tej technologii.
Ograniczanie zagrożeń przez Mozillę
Mozilla podczas wyboru i obsługi modeli SI dla inteligentnego okna podejmuje kilka działań, biorąc pod uwagę:
Ocenę bezpieczeństwa
- Modele są testowane za pomocą poleceń zaprojektowanych tak, aby wywoływać szkodliwe odpowiedzi. Wyniki są oceniane na podstawie częstotliwości odrzucania przez modele niebezpiecznych próśb.
Zabezpieczenia asystenta
- Instrukcje systemowe kierują działaniem asystenta w taki sposób, aby unikał szkodliwych treści.
Postępowanie z wrażliwymi tematami
- W przypadku tematów finansowych, medycznych i prawnych asystent przedstawia informacje zachęcające do skorzystania z profesjonalnej porady.
Ochrona danych użytkownika
Inteligentne okno zawiera mechanizmy ochrony prywatności zaprojektowane w celu ograniczenia ujawniania danych użytkownika:
- Serwer proxy Mozilli – żądania przed wysłaniem ich do serwisów SI są kierowane przez serwer proxy Mozilli. Oznacza to, że usługa SI:
- nie widzi unikalnego identyfikatora Firefoksa ani komputera,
- nie widzi adresu IP,
- nie może bezpośrednio ustalić tożsamości użytkownika ani jego lokalizacji.
- Brak domyślnego zbierania danych
- Rozmowy nigdy nie będą gromadzone ani przechowywane do celów szkoleniowych lub przeglądu przez człowieka, chyba że zostanie wyrażona na to zgoda.
Zabezpieczenia
Inteligentne okno zawiera mechanizmy ochrony przed nowymi, pojawiającymi się zagrożeniami, takimi jak ataki polegające na manipulowaniu poleceniami dla SI. Ataki te próbują ukrywać złośliwe instrukcje w treści stron internetowych. Mozilla przeciwdziała tym zagrożeniom poprzez:
- Ograniczanie możliwości wystąpienia ataków polegających na manipulowaniu poleceniami, na przykład przez ograniczenie długości tytułów kart wysyłanych do asystenta.
- Oznaczanie stanu rozmowy podczas interakcji z niezaufanymi treściami lub danymi prywatnymi, aby możliwe było określenie, kiedy należy ograniczyć dostęp SI do określonych działań i zmniejszyć ryzyko.
- Stosowanie technik umożliwiających odróżnienie instrukcji od danych.
Dalsze udoskonalanie
Bezpieczeństwo w systemach SI i sposoby ochrony stale się rozwijają. Mozilla:
- Aktualizuje zabezpieczenia w miarę wykrywania nowych zagrożeń.
- Opracowuje nowe metody ograniczania zagrożeń.
- Udostępnia informacje o stosowanych rozwiązaniach, aby wspierać przejrzystość i szeroką społeczność open source.
