Brugerdefinerede modeller i Smart-vinduet - Brug dit eget endepunkt

Firefox Firefox Sidst opdateret: 3 uger siden
Dette er en maskingenereret oversættelse af den engelske artikel. Den er ikke blevet gennemgået af et menneske og kan indeholde fejl. Hvis du ønsker at revidere dette indhold, kan du starte her.
Bemærk: Funktionen Smart Window vil gradvist blive gjort tilgængelig, startende med Firefox-brugere i USA og Canada i Firefox-version 150 og med brugere i Frankrig startende i Firefox-version 155.

Smart Window lader dig tilslutte din egen AI-model i stedet for at bruge dem, der leveres af Firefox. Hovedkravet for at det virker er, at den server, du forbinder til, skal være OpenAI API-kompatibel. Dette er nyttigt, hvis du vil have mere kontrol, bruge en bestemt udbyder eller køre en model lokalt på din enhed.

Du kan tilslutte enten:

  • En fjernmodel (såsom OpenRouter)
  • En lokal model, der kører på din enhed (såsom Lemonade Server eller Ollama)
Bemærk: Hvis du bruger en brugerdefineret model, fungerer Smart Window muligvis ikke som forventet. Denne funktion og disse instruktioner er rettet mod brugere, der er fortrolige med disse tjenester og værktøjer. Sørg for, at du bruger en pålidelig modeludbyder!

Brug en fjernmodel (OpenRouter)

  1. Opret en OpenRouter-konto, hvis du ikke allerede har en, på https://openrouter.ai/.
  2. Generer en API-nøgle i OpenRouter, og kopiér den til et sikkert sted.
    • OpenRouter API-nøgler begynder med sk-or-v1-.
  3. Åbn OpenRouters modelside, og vælg en model, du gerne vil bruge.
    • Notér dens model-ID. Fx: z-ai/glm-4.5-air:free.
  4. I Firefox: Klik på menuen Firefox i menulinjen øverst i vinduet, og vælg Indstillinger.Klik på menuknappen Fx89menuButton, og vælg Indstillinger.
  5. Gå til AI Controls > Smart Window Settings > Assistant model.
  6. Vælg Custom: Use your own LLM.
  7. Udfyld felterne:
    • Model name: Indsæt OpenRouter-model-ID fra trin 3.
    • Model endpoint med OpenRouter API-endepunktet, som typisk er https://openrouter.ai/api/v1.
    • API key: Indsæt din OpenRouter API-nøgle fra trin 2.
  8. Klik på knappen Save.
  9. Åbn et Smart Window, og begynd at bruge assistenten.
Tip: Du kan finde gratis modeller på OpenRouter ved at søge efter "free" på modelsiden (direkte link).
bringyourownmodel

Brug en lokal model

Eksempel: Lemonade Server

  1. Download og installer Lemonade Server på https://lemonade-server.ai/. Du skal bruge version 10.2.0 eller nyere.
  2. Kør Lemonade Server, og download en model efter eget valg ved hjælp af appens instruktioner.
  3. I en kommandolinjeterminal skal du indstille en større kontekststørrelse ved hjælp af kommandoen lemonade config set ctx_size=8192.
  4. Genindlæs modellen fra brugerfladen eller ved at bruge kommandoen lemonade unload (næste gang du anmoder om modellen, vil den blive indlæst med dine indstillinger).
  5. I Firefox: Klik på menuen Firefox i menulinjen øverst i vinduet, og vælg Indstillinger.Klik på menuknappen Fx89menuButton, og vælg Indstillinger.
  6. Gå til AI Controls > Smart Window Settings > Assistant model.
  7. Vælg Custom: Use your own LLM.
  8. Udfyld felterne:
    • Model name: Indtast dit modelnavn fra trin 2 (for eksempel SmolLM3-3B-GGUF).
    • Model endpoint: Indtast Lemonade Server-endepunktet, som typisk er http://localhost:13305/api/v1.
    • Bemærk, at der ikke kræves nogen API-nøgle til Lemonade Server.
  9. Klik på knappen Save.
  10. Åbn et Smart Window, og begynd at bruge assistenten.

Eksempel: Ollama

  1. Download og installer Ollama på https://ollama.com/download.
  2. Kør Ollama, og følg instruktionerne på webstedet for at downloade en lokal model efter eget valg.
  3. Åbn skærmen med Firefox' indstillinger, og gå til AI Controls > Smart Window Settings > Assistant model, og vælg Custom: Use your own LLM.
  4. Udfyld felterne:
    • Model name: Indtast dit modelnavn fra trin 2 (fx: qwen3.5:4b).
    • Model endpoint: Indtast Ollama-endepunktet, som typisk er http://localhost:11434/v1.
    • Bemærk, at der ikke kræves nogen API-nøgle til Ollama.
  5. Klik på knappen Save.
  6. Åbn et Smart Window, og begynd at bruge assistenten.

Relaterede artikler

Disse udmærkede personer hjalp med at skrive denne artikel:

Illustration of hands

Bliv frivillig

Grow and share your expertise with others. Answer questions and improve our knowledge base.

Læs mere