Firefox
Firefox
建立於:
建立於:
智慧視窗透過使用大型語言模型 (LLM) 來支援日常任務，以增強 Firefox 的網頁瀏覽體驗。由於它仰賴人工智慧，因此存在已知的風險與保護措施。
本文將說明這些風險、Mozilla 如何努力降低風險，以及您的資料如何被處理。
AI 助理有哪些風險？
由大型語言模型 (LLM) 驅動的 AI 助理可能會出現預期外的行為。一些常見的風險包括：
開放式互動
- 使用者可能有意或無意地要求有害內容。這可能導致人身傷害、非法活動或財務損害等風險。
非預期的有害回應
- 由於 LLM 是機率性的，即使有安全措施，也無法完全防止有害結果的發生。
不正確的資訊（幻覺）
- AI 系統可能會產生虛假或誤導性的資訊。
Mozilla 認知到這些風險，並努力降低風險，同時對這項技術的限制保持透明。
Mozilla 如何降低這些風險
Mozilla 在為智慧視窗選擇和操作 AI 模型時，採取了幾個步驟：
安全性評估
- 使用旨在觸發有害回應的提示來測試模型。根據模型拒絕不安全請求的頻率來評估結果。
助理安全措施
- 系統指令會引導助理避免有害內容。
敏感主題處理
- 對於財務、醫療和法律主題，助理會提供免責聲明，鼓勵使用者尋求專業建議。
您的資料如何受到保護
智慧視窗包含旨在限制使用者資料暴露的隱私保護措施：
- Mozilla proxy – 請求在到達 AI 服務之前，會先經過 Mozilla 的代理伺服器。這表示：
- AI 服務不會看到您的 Firefox 瀏覽器或電腦的唯一識別碼。
- AI 服務不會看到您的 IP 位址。
- AI 服務無法直接識別您或您的位置。
- 預設不收集資料
- 除非您選擇加入，否則對話絕不會被收集或儲存，以用於訓練或人工審查。
安全性保護措施
智慧視窗包含針對新興風險（如提示注入攻擊）的保護措施。這些攻擊試圖將惡意指令隱藏在網頁內容中。
Mozilla 透過以下方式應對這些風險：
- 減少提示注入可能發生的位置（例如，限制傳送給助理的分頁標題長度）
- 在與不受信任的內容或私人資料互動時，標記對話狀態，以便我們知道何時限制 AI 可存取的某些操作，以降低風險
- 使用技術來區分指令和資料
持續改進
AI 系統的安全性和安全性不斷發展。Mozilla：
- 在發現新風險時更新保護措施
- 開發新的緩解措施
- 分享方法以支援透明度和更廣泛的開源社群
