Умное окно позволяет вам подключить собственную модель ИИ вместо использования тех, что предоставляет Firefox. Основное требование для его работы заключается в том, что сервер, к которому вы подключаетесь, должен быть совместим с OpenAI API. Это полезно, если вы хотите больше контроля, использовать определённого провайдера или запустить модель локально на вашем устройстве.

Вы можете подключить:

• Удалённую модель (например, OpenRouter)
• Локальную модель, работающую на вашем устройстве (например, Lemonade Server или Ollama)

Использование удалённой модели (OpenRouter)

1. Создайте аккаунт OpenRouter, если у вас его ещё нет, по адресу https://openrouter.ai/.
2. Сгенерируйте ключ API в OpenRouter и скопируйте его в безопасное место.
   • Ключи API OpenRouter начинаются с sk-or-v1-.
3. Откройте страницу моделей OpenRouter и выберите модель, которую хотите использовать.
   • Запишите её идентификатор модели. Например: z-ai/glm-4.5-air:free.
4. В Firefox: На Панели меню в верхней части экрана нажмите Firefox и выберите Настройки (или, в некоторых случаях, Параметры).Нажмите кнопку меню и выберите Настройки.
5. Перейдите в Управление ИИ > Настройки Умного окна > Модель помощника.
6. Выберите Своя: Использовать собственную LLM.
7. Заполните поля:
   • Имя модели: Вставьте идентификатор модели OpenRouter из шага 3.
   • Конечная точка модели с конечной точкой API OpenRouter, которой обычно является https://openrouter.ai/api/v1.
   • Ключ API: Вставьте ваш ключ API OpenRouter из шага 2.
8. Нажмите Сохранить.
9. Откройте Умное окно и начните использовать Помощника.

Использование локальной модели

Пример: Lemonade Server

1. Загрузите и установите Lemonade Server с https://lemonade-server.ai/. Вы должны использовать версию 10.2.0 или новее.
2. Запустите Lemonade Server и загрузите модель по вашему выбору, следуя инструкциям приложения.
3. В терминале командной строки установите больший размер контекста с помощью команды lemonade config set ctx_size=8192.
4. Перезагрузите модель из пользовательского интерфейса или с помощью команды lemonade unload (в следующий раз, когда вы сделаете запрос к модели, она загрузится с вашими настройками).
5. В Firefox: На Панели меню в верхней части экрана нажмите Firefox и выберите Настройки (или, в некоторых случаях, Параметры).Нажмите кнопку меню и выберите Настройки.
6. Перейдите в Управление ИИ > Настройки Умного окна > Модель помощника.
7. Выберите Своя: Использовать собственную LLM.
8. Заполните поля:
   • Имя модели: Введите имя вашей модели из шага 2 (например, SmolLM3-3B-GGUF).
   • Конечная точка модели: Введите конечную точку Lemonade Server, которая обычно является http://localhost:13305/api/v1.
   • Обратите внимание, что для Lemonade Server ключ API не требуется.
9. Нажмите Сохранить.
10. Откройте Умное окно и начните использовать Помощника.

Пример: Ollama

1. Загрузите и установите Ollama с https://ollama.com/download.
2. Запустите Ollama и следуйте инструкциям на сайте, чтобы загрузить локальную модель по вашему выбору.
3. Откройте экран настроек Firefox, перейдите в Управление ИИ > Настройки Умного окна > Модель помощника, и выберите Своя: Использовать собственную LLM.
4. Заполните поля:
   • Имя модели: Введите имя вашей модели из шага 2 (например: qwen3.5:4b).
   • Конечная точка модели: Введите конечную точку Ollama, которая обычно является http://localhost:11434/v1.
   • Обратите внимание, что для Ollama ключ API не требуется.
5. Нажмите Сохранить.
6. Откройте Умное окно и начните использовать Помощника.

Связанные статьи

• Выбор моделей в Умном окне
• Воспоминания в Умном окне
• Начало работы с Умным окном