智能窗口中的自定义模型 - 自带端点

Firefox Firefox 最后更新于:
This is a machine-generated translation of the English article. It has not been reviewed by a human, and may contain errors. If you would like to revise this content, you can start here.
注意:智能窗口功能将逐步开放,从 Firefox 版本 150 开始向美国和加拿大的 Firefox 用户开放,并从 Firefox 155 版本开始向法国用户开放。

智能窗口允许您连接自己的 AI 模型,而不是使用 Firefox 提供的模型。要使其正常工作,主要要求是您连接的服务器必须与 OpenAI API 兼容。如果您想要更多的控制权、使用特定的提供商或在您的设备上本地运行模型,这将非常有用。

您可以连接:

  • 远程模型(如 OpenRouter)
  • 在您的设备上本地运行的模型(如 Lemonade Server 或 Ollama)
注意:如果您使用自定义模型,智能窗口可能无法按预期工作。此功能和这些说明是为熟悉这些服务和工具的用户准备的。请确保您使用受信任的模型提供商!

使用远程模型 (OpenRouter)

  1. 如果您还没有 OpenRouter 帐户,请在 https://openrouter.ai/ 创建一个。
  2. 在 OpenRouter 中生成一个 API 密钥,并将其复制到一个安全的地方。
    • OpenRouter API 密钥以 sk-or-v1- 开头。
  3. 打开 OpenRouter 模型页面 并选择您想使用的模型。
    • 记下其模型 ID。例如:z-ai/glm-4.5-air:free。
  4. 在 Firefox 中:在屏幕顶部的菜单栏里点击 Firefox 并选择 设置(或 首选项,在某些情况下)。点击菜单按钮 Fx89menuButton 并选择 设置。
  5. 前往 AI Controls > Smart Window Settings > Assistant model。
  6. 选择 Custom: Use your own LLM。
  7. 填写以下字段:
    • 模型名称:粘贴第 3 步中的 OpenRouter 模型 ID。
    • 模型端点:填写 OpenRouter API 端点,通常是 https://openrouter.ai/api/v1。
    • API 密钥:粘贴第 2 步中的 OpenRouter API 密钥。
  8. 点击 Save。
  9. 打开一个智能窗口,开始使用助手。
提示:您可以在 OpenRouter 的模型页面(直接链接)上搜索“free”来查找免费模型。
bringyourownmodel

使用本地模型

示例:Lemonade Server

  1. 在 https://lemonade-server.ai/ 下载并安装 Lemonade Server。您必须使用 10.2.0 或更新版本。
  2. 运行 Lemonade Server,并根据应用说明下载您选择的模型。
  3. 在命令行终端中,使用命令 lemonade config set ctx_size=8192 设置更大的上下文大小。
  4. 从 UI 或使用命令 lemonade unload 重新加载模型(下次您向模型发出请求时,它将使用您的设置加载)。
  5. 在 Firefox 中:在屏幕顶部的菜单栏里点击 Firefox 并选择 设置(或 首选项,在某些情况下)。点击菜单按钮 Fx89menuButton 并选择 设置。
  6. 前往 AI Controls > Smart Window Settings > Assistant model。
  7. 选择 Custom: Use your own LLM。
  8. 填写以下字段:
    • 模型名称:输入第 2 步中的模型名称(例如,SmolLM3-3B-GGUF)。
    • 模型端点:输入 Lemonade Server 端点,通常是 http://localhost:13305/api/v1。
    • 请注意,Lemonade Server 不需要 API 密钥。
  9. 点击 Save。
  10. 打开一个智能窗口,开始使用助手。

示例:Ollama

  1. 在 https://ollama.com/download 下载并安装 Ollama。
  2. 运行 Ollama,并按照网站上的说明下载您选择的本地模型。
  3. 打开 Firefox 设置屏幕,然后前往 AI Controls > Smart Window Settings > Assistant model,并选择 Custom: Use your own LLM。
  4. 填写以下字段:
    • 模型名称:输入第 2 步中的模型名称(例如:qwen3.5:4b)。
    • 模型端点:输入 Ollama 端点,通常是 http://localhost:11434/v1。
    • 请注意,Ollama 不需要 API 密钥。
  5. 点击 Save。
  6. 打开一个智能窗口,开始使用助手。

相关文章

此文章在这些用户的协助下写成:

Illustration of hands

志愿者

分享知识并培养专业技能。解答问题并改进我们的知识库。

详细了解