Розумне вікно покращує перегляд вебсторінок у Firefox, використовуючи великі мовні моделі (LLM) для підтримки повсякденних завдань. Оскільки воно покладається на ШІ, існують відомі ризики, а також засоби захисту.
У цій статті пояснюються ці ризики, як Mozilla працює над їх зменшенням і як обробляються ваші дані.
Зміст
Які ризики помічників зі ШІ?
Помічники зі ШІ, що працюють на основі великих мовних моделей (LLM), можуть поводитися несподіваним чином. Деякі поширені ризики включають:
Відкриті взаємодії
- Користувачі можуть навмисно чи ненавмисно запитувати шкідливий вміст. Це може призвести до таких ризиків, як фізична шкода, незаконна діяльність або фінансова шкода.
Ненавмисні шкідливі відповіді
- Оскільки LLM є імовірнісними, шкідливих наслідків неможливо повністю уникнути, навіть за наявності засобів захисту.
Неправильна інформація (галюцинації)
- Системи ШІ можуть генерувати неправдиву або оманливу інформацію.
Mozilla визнає ці ризики та працює над їх зменшенням, залишаючись прозорою щодо обмежень цієї технології.
Як Mozilla зменшує ці ризики
Mozilla вживає кількох заходів під час вибору та експлуатації моделей ШІ для Розумного вікна:
Оцінки безпеки
- Моделі тестуються за допомогою підказок, призначених для виклику шкідливих відповідей. Результати оцінюються на основі того, як часто моделі відхиляють небезпечні запити.
Засоби захисту помічника
- Системні інструкції скеровують помічника уникати шкідливого вмісту.
Обробка делікатних тем
- Для фінансових, медичних і юридичних тем помічник надає застереження, заохочуючи користувачів звертатися за професійною порадою.
Як захищено ваші дані
Розумне вікно містить засоби захисту конфіденційності, призначені для обмеження доступу до даних користувача:
- Проксі-сервер Mozilla – Запити направляються через проксі-сервер Mozilla, перш ніж потрапити до служб ШІ. Це означає:
- Служба ШІ не бачить унікальний ідентифікатор вашого браузера Firefox або комп’ютера.
- Служба ШІ не бачить вашу IP-адресу.
- Служба ШІ не може безпосередньо ідентифікувати вас або ваше місцеперебування.
- Немає збору даних за замовчуванням
- Розмови ніколи не збиратимуться та не зберігатимуться для навчання чи перевірки людиною, якщо ви не погодитеся на це.
Засоби захисту
Розумне вікно містить засоби захисту від нових ризиків, таких як атаки з ін’єкцією підказок. Ці атаки намагаються приховати зловмисні інструкції у вебвмісті.
Mozilla протидіє цим ризикам шляхом:
- Зменшення місць, де можуть виникнути ін’єкції підказок (наприклад, обмеження довжини заголовків вкладок, що надсилаються помічнику)
- Позначення стану розмови під час взаємодії з ненадійним вмістом або приватними даними, щоб ми знали, коли обмежувати певні дії, до яких має доступ ШІ, для зменшення ризику
- Використання методів для розрізнення інструкцій і даних
Постійні вдосконалення
Безпека та захист у системах ШІ продовжують розвиватися. Mozilla:
- Оновлює засоби захисту в міру виявлення нових ризиків
- Розробляє нові засоби протидії
- Ділиться підходами для підтримки прозорості та ширшої спільноти відкритого коду
