Terakhir diperbarui:
Smart Window meningkatkan penjelajahan web di Firefox dengan menggunakan model bahasa besar (LLM) untuk mendukung tugas sehari-hari. Karena mengandalkan AI, ada risiko yang diketahui serta perlindungannya.
Artikel ini menjelaskan risiko-risiko tersebut, bagaimana Mozilla berupaya menguranginya, dan bagaimana data Anda ditangani.
Daftar Isi
Apa saja risiko asisten AI?
Asisten AI yang didukung oleh model bahasa besar (LLM) dapat berperilaku dengan cara yang tidak terduga. Beberapa risiko umum meliputi:
Interaksi terbuka
- Pengguna mungkin secara sengaja atau tidak sengaja meminta konten berbahaya. Hal ini dapat menimbulkan risiko seperti cedera fisik, aktivitas ilegal, atau kerugian finansial.
Respons berbahaya yang tidak diinginkan
- Karena LLM bersifat probabilistik, hasil yang berbahaya tidak dapat dicegah sepenuhnya, bahkan dengan adanya pengamanan.
Informasi yang salah (halusinasi)
- Sistem AI dapat menghasilkan informasi yang salah atau menyesatkan.
Mozilla menyadari risiko-risiko ini dan berupaya menguranginya sambil bersikap transparan mengenai keterbatasan teknologi ini.
Bagaimana Mozilla mengurangi risiko-risiko ini
Mozilla mengambil beberapa langkah saat memilih dan mengoperasikan model AI untuk Smart Window:
Evaluasi keamanan
- Model diuji menggunakan prompt yang dirancang untuk memicu respons berbahaya. Hasil dievaluasi berdasarkan seberapa sering model menolak permintaan yang tidak aman.
Pengamanan asisten
- Instruksi sistem memandu asisten untuk menghindari konten berbahaya.
Penanganan topik sensitif
- Untuk topik keuangan, medis, dan hukum, asisten memberikan penyangkalan yang mendorong pengguna untuk mencari nasihat profesional.
Bagaimana data Anda dilindungi
Smart Window menyertakan perlindungan privasi yang dirancang untuk membatasi paparan data pengguna:
- Proksi Mozilla – Permintaan dialihkan melalui server proksi Mozilla sebelum mencapai layanan AI. Ini berarti:
- Layanan AI tidak melihat pengidentifikasi unik peramban Firefox atau komputer Anda.
- Layanan AI tidak melihat alamat IP Anda.
- Layanan AI tidak dapat mengidentifikasi Anda atau lokasi Anda secara langsung.
- Tidak ada pengumpulan data secara default
- Percakapan tidak akan pernah dikumpulkan atau disimpan untuk pelatihan atau tinjauan manusia kecuali Anda ikut serta.
Perlindungan keamanan
Smart Window menyertakan perlindungan terhadap risiko yang muncul seperti serangan injeksi prompt. Serangan ini mencoba menyembunyikan instruksi berbahaya di dalam konten web.
Mozilla mengatasi risiko ini dengan:
- Mengurangi tempat terjadinya injeksi prompt (misalnya, membatasi panjang judul tab yang dikirim ke asisten)
- Memberi label pada status percakapan saat berinteraksi dengan konten yang tidak tepercaya atau data pribadi, sehingga kami tahu kapan harus membatasi tindakan tertentu yang dapat diakses oleh AI, untuk mengurangi risiko
- Menggunakan teknik untuk membedakan antara instruksi dan data
Peningkatan berkelanjutan
Keamanan dan keselamatan dalam sistem AI terus berkembang. Mozilla:
- Memperbarui perlindungan seiring ditemukannya risiko baru
- Mengembangkan mitigasi baru
- Berbagi pendekatan untuk mendukung transparansi dan komunitas sumber terbuka yang lebih luas
