Smart Window nâng cao trải nghiệm duyệt web trong Firefox bằng cách sử dụng các mô hình ngôn ngữ lớn (LLM) để hỗ trợ các tác vụ hàng ngày. Vì nó dựa vào AI nên có những rủi ro đã biết cũng như các biện pháp bảo vệ.
Bài viết này giải thích những rủi ro đó, cách Mozilla hoạt động để giảm thiểu chúng và cách dữ liệu của bạn được xử lý.
Mục lục…
Rủi ro của trợ lý AI là gì?
Các trợ lý AI được cung cấp bởi các mô hình ngôn ngữ lớn (LLM) có thể hoạt động theo những cách không mong muốn. Một số rủi ro phổ biến bao gồm:
Tương tác mở
- Người dùng có thể cố ý hoặc vô ý yêu cầu nội dung có hại. Điều này có thể dẫn đến các rủi ro như tổn hại về thể chất, hoạt động bất hợp pháp hoặc tổn hại về tài chính.
Phản hồi có hại ngoài ý muốn
- Vì LLM mang tính xác suất, các kết quả có hại không thể được ngăn chặn hoàn toàn, ngay cả khi đã có các biện pháp bảo vệ.
Thông tin không chính xác (ảo giác)
- Các hệ thống AI có thể tạo ra thông tin sai lệch hoặc gây hiểu lầm.
Mozilla nhận biết những rủi ro này và nỗ lực giảm thiểu chúng đồng thời minh bạch về những hạn chế của công nghệ này.
Cách Mozilla giảm thiểu những rủi ro này
Mozilla thực hiện một số bước khi lựa chọn và vận hành các mô hình AI cho Smart Window:
Đánh giá an toàn
- Các mô hình được kiểm tra bằng cách sử dụng các lời nhắc được thiết kế để kích hoạt các phản hồi có hại. Kết quả được đánh giá dựa trên tần suất các mô hình từ chối các yêu cầu không an toàn.
Biện pháp bảo vệ trợ lý
- Các hướng dẫn hệ thống chỉ dẫn trợ lý tránh nội dung có hại.
Xử lý chủ đề nhạy cảm
- Đối với các chủ đề tài chính, y tế và pháp lý, trợ lý cung cấp các tuyên bố từ chối trách nhiệm khuyến khích người dùng tìm kiếm lời khuyên chuyên nghiệp.
Cách dữ liệu của bạn được bảo vệ
Smart Window bao gồm các biện pháp bảo vệ quyền riêng tư được thiết kế để hạn chế việc tiết lộ dữ liệu người dùng:
- Proxy của Mozilla – Các yêu cầu được chuyển qua máy chủ proxy của Mozilla trước khi đến các dịch vụ AI. Điều này có nghĩa là:
- Dịch vụ AI không thấy mã định danh duy nhất của trình duyệt Firefox hoặc máy tính của bạn.
- Dịch vụ AI không thấy địa chỉ IP của bạn.
- Dịch vụ AI không thể nhận dạng trực tiếp bạn hoặc vị trí của bạn.
- Không thu thập dữ liệu theo mặc định
- Các cuộc hội thoại sẽ không bao giờ được thu thập hoặc lưu trữ để huấn luyện hoặc để con người xem xét trừ khi bạn chọn tham gia.
Các biện pháp bảo vệ an ninh
Smart Window bao gồm các biện pháp bảo vệ chống lại các rủi ro mới nổi như tấn công chèn lời nhắc (prompt injection). Các cuộc tấn công này cố gắng ẩn các hướng dẫn độc hại trong nội dung web.
Mozilla giải quyết những rủi ro này bằng cách:
- Giảm thiểu nơi có thể xảy ra việc chèn lời nhắc (ví dụ: giới hạn độ dài của tiêu đề thẻ được gửi đến trợ lý)
- Gắn nhãn trạng thái cuộc hội thoại khi tương tác với nội dung không đáng tin cậy hoặc dữ liệu riêng tư, để chúng tôi biết khi nào cần hạn chế một số hành động mà AI có quyền truy cập, nhằm giảm thiểu rủi ro
- Sử dụng các kỹ thuật để phân biệt giữa hướng dẫn và dữ liệu
Những cải tiến liên tục
An ninh và an toàn trong các hệ thống AI tiếp tục phát triển. Mozilla:
- Cập nhật các biện pháp bảo vệ khi các rủi ro mới được phát hiện
- Phát triển các biện pháp giảm thiểu mới
- Chia sẻ các phương pháp tiếp cận để hỗ trợ tính minh bạch và cộng đồng mã nguồn mở rộng lớn hơn
