Cửa sổ thông minh cho phép bạn kết nối mô hình AI của riêng mình thay vì sử dụng các mô hình do Firefox cung cấp. Yêu cầu chính để nó hoạt động là máy chủ bạn kết nối phải tương thích với API OpenAI. Điều này hữu ích nếu bạn muốn kiểm soát nhiều hơn, sử dụng một nhà cung cấp cụ thể hoặc chạy một mô hình cục bộ trên thiết bị của mình.

Bạn có thể kết nối:

• Một mô hình từ xa (chẳng hạn như OpenRouter)
• Một mô hình cục bộ chạy trên thiết bị của bạn (chẳng hạn như Lemonade Server hoặc Ollama)

Sử dụng mô hình từ xa (OpenRouter)

1. Tạo tài khoản OpenRouter nếu bạn chưa có, tại https://openrouter.ai/.
2. Tạo một Khóa API trong OpenRouter và sao chép nó vào một nơi an toàn.
   • Các khóa API của OpenRouter bắt đầu bằng sk-or-v1-.
3. Mở trang các mô hình của OpenRouter và chọn một mô hình bạn muốn sử dụng.
   • Ghi lại ID mô hình của nó. Ví dụ: z-ai/glm-4.5-air:free.
4. Trong Firefox: Trong thanh Menu ở đầu màn hình, nhấp vào Firefox và chọn Cài đặt (hoặc Tùy chỉnh, trong một số trường hợp).Nhấp vào nút menu và chọn Cài đặt.
5. Đi tới AI Controls > Smart Window Settings > Assistant model.
6. Chọn Custom: Use your own LLM.
7. Điền vào các trường:
   • Tên mô hình: Dán ID mô hình OpenRouter, từ bước 3.
   • Điểm cuối mô hình với điểm cuối API OpenRouter, thường là https://openrouter.ai/api/v1.
   • Khóa API: Dán khóa API OpenRouter của bạn từ bước 2.
8. Nhấp vào Save.
9. Mở Cửa sổ thông minh và bắt đầu sử dụng Trợ lý.

Sử dụng mô hình cục bộ

Ví dụ: Lemonade Server

1. Tải xuống và cài đặt Lemonade Server tại https://lemonade-server.ai/. Bạn phải sử dụng phiên bản 10.2.0 trở lên.
2. Chạy Lemonade Server và tải xuống một mô hình bạn chọn bằng cách làm theo hướng dẫn của ứng dụng.
3. Trong một cửa sổ dòng lệnh, đặt kích thước ngữ cảnh lớn hơn bằng cách sử dụng lệnh lemonade config set ctx_size=8192.
4. Tải lại mô hình từ giao diện người dùng hoặc bằng cách sử dụng lệnh lemonade unload (lần tiếp theo bạn đưa ra yêu cầu cho mô hình, nó sẽ tải với cài đặt của bạn).
5. Trong Firefox: Trong thanh Menu ở đầu màn hình, nhấp vào Firefox và chọn Cài đặt (hoặc Tùy chỉnh, trong một số trường hợp).Nhấp vào nút menu và chọn Cài đặt.
6. Đi tới AI Controls > Smart Window Settings > Assistant model.
7. Chọn Custom: Use your own LLM.
8. Điền vào các trường:
   • Tên mô hình: Nhập tên mô hình của bạn từ bước 2 (ví dụ: SmolLM3-3B-GGUF).
   • Điểm cuối mô hình: Nhập điểm cuối của Lemonade Server, thường là http://localhost:13305/api/v1.
   • Lưu ý rằng không cần khóa API cho Lemonade Server.
9. Nhấp vào Save.
10. Mở Cửa sổ thông minh và bắt đầu sử dụng Trợ lý.

Ví dụ: Ollama

1. Tải xuống và cài đặt Ollama tại https://ollama.com/download.
2. Chạy Ollama, và làm theo hướng dẫn trên trang web để tải xuống một mô hình cục bộ bạn chọn.
3. Mở màn hình cài đặt Firefox, đi tới AI Controls > Smart Window Settings > Assistant model, và chọn Custom: Use your own LLM.
4. Điền vào các trường:
   • Tên mô hình: Nhập tên mô hình của bạn từ bước 2 (ví dụ: qwen3.5:4b).
   • Điểm cuối mô hình: Nhập điểm cuối của Ollama, thường là http://localhost:11434/v1.
   • Lưu ý rằng không cần khóa API cho Ollama.
5. Nhấp vào Save.
6. Mở Cửa sổ thông minh và bắt đầu sử dụng Trợ lý.

Bài viết liên quan

• Các lựa chọn mô hình trong Cửa sổ thông minh
• Kỷ niệm trong Cửa sổ thông minh
• Bắt đầu với Cửa sổ thông minh