Egyéni modellek az Intelligens ablakban – Saját végpont használata

Firefox Firefox Létrehozva: 1 hete
This is a machine-generated translation of the English article. It has not been reviewed by a human, and may contain errors. If you would like to revise this content, you can start here.
Megjegyzés: Az Intelligens ablak funkció fokozatosan válik elérhetővé a Firefox felhasználói bázisa számára, kezdve az Egyesült Államokban és Kanadában élő felhasználókkal a Firefox-verzió 150-es verziójában.

Az Intelligens ablak lehetővé teszi, hogy a Firefox által biztosítottak helyett saját MI-modellt csatlakoztasson. A működés fő követelménye, hogy a szerver, amelyhez csatlakozik, OpenAI API-kompatibilis legyen. Ez akkor hasznos, ha nagyobb kontrollt szeretne, egy adott szolgáltatót használ, vagy egy modellt helyben futtat az eszközén.

Csatlakoztathat:

  • Egy távoli modellt (például OpenRouter)
  • Egy helyi modellt, amely az eszközén fut (például Lemonade Server vagy Ollama)
Megjegyzés: Ha egyéni modellt használ, előfordulhat, hogy az Intelligens ablak nem a várt módon működik. Ez a funkció és ezek az utasítások azoknak a felhasználóknak szólnak, akik ismerik ezeket a szolgáltatásokat és eszközöket. Győződjön meg róla, hogy megbízható modellszolgáltatót használ!

Távoli modell használata (OpenRouter)

  1. Hozzon létre egy OpenRouter-fiókot, ha még nem rendelkezik vele, a https://openrouter.ai/ oldalon.
  2. Hozzon létre egy API-kulcsot az OpenRouterben, és másolja azt egy biztonságos helyre.
    • Az OpenRouter API-kulcsok a sk-or-v1- előtaggal kezdődnek.
  3. Nyissa meg az OpenRouter modellek oldalát, és válassza ki a használni kívánt modellt.
    • Jegyezze fel a modellazonosítóját. Például: z-ai/glm-4.5-air:free.
  4. A Firefoxban: A képernyő tetején található menüsoron kattintson a Firefox menüpontra, és válassza a Beállítások menüpontot.Kattintson a menügombra Fx89menuButton, és válassza a Beállítások menüpontot.
  5. Menjen a AI Controls > Smart Window Settings > Assistant model menüponthoz.
  6. Válassza ki a Custom: Use your own LLM lehetőséget.
  7. Töltse ki a mezőket:
    • Modell neve: Illessze be az OpenRouter modellazonosítóját a 3. lépésből.
    • Modell végpontja az OpenRouter API-végponttal, amely általában https://openrouter.ai/api/v1.
    • API-kulcs: Illessze be az OpenRouter API-kulcsát a 2. lépésből.
  8. Kattintson a Save gombra.
  9. Nyisson meg egy Intelligens ablakot, és kezdje el használni az Asszisztenst.
Tipp: Az OpenRouteren ingyenes modelleket találhat, ha a modellek oldalán rákeres az „ingyenes” szóra (közvetlen link).
bringyourownmodel

Helyi modell használata

Példa: Lemonade Server

  1. Töltse le és telepítse a Lemonade Servert a https://lemonade-server.ai/ oldalról. A 10.2.0 vagy újabb verziót kell használnia.
  2. Futtassa a Lemonade Servert, és töltse le a választott modellt az alkalmazás utasításai szerint.
  3. Egy parancssori terminálban állítson be nagyobb kontextusméretet a lemonade config set ctx_size=8192 paranccsal.
  4. Töltse be újra a modellt a felhasználói felületről vagy a lemonade unload paranccsal (amikor legközelebb kérést intéz a modellhez, az a beállításaival fog betöltődni).
  5. A Firefoxban: A képernyő tetején található menüsoron kattintson a Firefox menüpontra, és válassza a Beállítások menüpontot.Kattintson a menügombra Fx89menuButton, és válassza a Beállítások menüpontot.
  6. Menjen a AI Controls > Smart Window Settings > Assistant model menüponthoz.
  7. Válassza ki a Custom: Use your own LLM lehetőséget.
  8. Töltse ki a mezőket:
    • Modell neve: Adja meg a modell nevét a 2. lépésből (például SmolLM3-3B-GGUF).
    • Modell végpontja: Adja meg a Lemonade Server végpontját, amely általában http://localhost:13305/api/v1.
    • Vegye figyelembe, hogy a Lemonade Serverhez nincs szükség API-kulcsra.
  9. Kattintson a Save gombra.
  10. Nyisson meg egy Intelligens ablakot, és kezdje el használni az Asszisztenst.

Példa: Ollama

  1. Töltse le és telepítse az Ollamát a https://ollama.com/download oldalról.
  2. Futtassa az Ollamát, és kövesse az oldalon található utasításokat a választott helyi modell letöltéséhez.
  3. Nyissa meg a Firefox beállítási képernyőjét, menjen a AI Controls > Smart Window Settings > Assistant model menüponthoz, és válassza ki a Custom: Use your own LLM lehetőséget.
  4. Töltse ki a mezőket:
    • Modell neve: Adja meg a modell nevét a 2. lépésből (pl.: qwen3.5:4b).
    • Modell végpontja: Adja meg az Ollama végpontját, amely általában http://localhost:11434/v1.
    • Vegye figyelembe, hogy az Ollamához nincs szükség API-kulcsra.
  5. Kattintson a Save gombra.
  6. Nyisson meg egy Intelligens ablakot, és kezdje el használni az Asszisztenst.

Kapcsolódó cikkek

Ezek a nagyszerű emberek segítettek a leírás megírásában:

Illustration of hands

Közreműködés

Növelje és ossza meg tapasztalatát másokkal. Válaszoljon kérdésekre és tökéletesítse a tudásbázisunkat.

További tudnivalók