Smart Window memungkinkan Anda menghubungkan model AI Anda sendiri alih-alih menggunakan yang disediakan oleh Firefox. Ini berguna jika Anda menginginkan lebih banyak kontrol, menggunakan penyedia tertentu, atau menjalankan model secara lokal di perangkat Anda.

Anda dapat menghubungkan:

• Model jarak jauh (seperti OpenRouter)
• Model lokal yang berjalan di perangkat Anda (seperti Lemonade Server atau Ollama)

Gunakan model jarak jauh (OpenRouter)

1. Buat akun OpenRouter jika Anda belum memilikinya, di https://openrouter.ai/.
2. Buat Kunci API di OpenRouter, dan salin ke tempat yang aman.
   • Kunci API OpenRouter diawali dengan sk-or-v1-.
3. Buka halaman model OpenRouter dan pilih model yang ingin Anda gunakan.
   • Catat ID modelnya. Contoh: z-ai/glm-4.5-air:free.
4. Di Firefox: Pada bilah Menu di atas layar, klik Firefox dan pilih Pengaturan (atau Preferences, dalam beberapa kasus).Klik tombol menu dan pilih Pengaturan.
5. Buka AI Controls > Smart Window Settings > Assistant model.
6. Pilih Custom: Use your own LLM.
7. Isi kolom-kolom berikut:
   • Nama model: Tempel ID model OpenRouter, dari langkah 3.
   • Titik akhir model dengan titik akhir API OpenRouter, yang biasanya adalah https://openrouter.ai/api/v1.
   • Kunci API: Tempel kunci API OpenRouter Anda dari langkah 2.
8. Klik Save.
9. Buka Smart Window, dan mulailah menggunakan Asisten.

Gunakan model lokal

Contoh: Lemonade Server

1. Unduh dan instal Lemonade Server di https://lemonade-server.ai/. Anda harus menggunakan versi 10.2.0 atau yang lebih baru.
2. Jalankan Lemonade Server dan unduh model pilihan Anda menggunakan instruksi aplikasi.
3. Di terminal baris perintah, atur ukuran konteks yang lebih besar dengan menggunakan perintah lemonade config set ctx_size=8192.
4. Muat ulang model dari UI atau dengan menggunakan perintah lemonade unload (saat berikutnya Anda membuat permintaan ke model, model akan dimuat dengan pengaturan Anda).
5. Di Firefox: Pada bilah Menu di atas layar, klik Firefox dan pilih Pengaturan (atau Preferences, dalam beberapa kasus).Klik tombol menu dan pilih Pengaturan.
6. Buka AI Controls > Smart Window Settings > Assistant model.
7. Pilih Custom: Use your own LLM.
8. Isi kolom-kolom berikut:
   • Nama model: Masukkan nama model Anda dari langkah 2 (contohnya, SmolLM3-3B-GGUF).
   • Titik akhir model: Masukkan titik akhir Lemonade Server, yang biasanya adalah http://localhost:13305/api/v1.
   • Perhatikan bahwa tidak ada kunci API yang diperlukan untuk Lemonade Server.
9. Klik Save.
10. Buka Smart Window, dan mulailah menggunakan Asisten.

Contoh: Ollama

1. Unduh dan instal Ollama di https://ollama.com/download.
2. Jalankan Ollama, dan ikuti instruksi di situs untuk mengunduh model lokal pilihan Anda.
3. Buka layar pengaturan Firefox, dan buka AI Controls > Smart Window Settings > Assistant model, lalu pilih Custom: Use your own LLM.
4. Isi kolom-kolom berikut:
   • Nama model: Masukkan nama model Anda dari langkah 2 (contoh: qwen3.5:4b).
   • Titik akhir model: Masukkan titik akhir Ollama, yang biasanya adalah http://localhost:11434/v1.
   • Perhatikan bahwa tidak ada kunci API yang diperlukan untuk Ollama.
5. Klik Save.
6. Buka Smart Window, dan mulailah menggunakan Asisten.

Artikel terkait

• Pilihan model di Smart Window
• Memori di Jendela Pintar
• Mulai menggunakan Smart Window