Mit Smart Window können Sie Ihr eigenes KI-Modell verbinden, anstatt die von Firefox bereitgestellten zu verwenden. Die Hauptanforderung für die Funktionstüchtigkeit ist, dass der Server, mit dem Sie sich verbinden, mit der OpenAI-API kompatibel sein muss. Dies ist hilfreich, wenn Sie mehr Kontrolle wünschen, einen bestimmten Anbieter nutzen oder ein Modell lokal auf Ihrem Gerät ausführen möchten.

Sie können entweder Folgendes verbinden:

• Ein Remote-Modell (wie OpenRouter)
• Ein lokales Modell, das auf Ihrem Gerät ausgeführt wird (wie Lemonade Server oder Ollama)

Ein Remote-Modell verwenden (OpenRouter)

1. Erstellen Sie ein OpenRouter-Konto unter https://openrouter.ai/, falls Sie noch keines haben.
2. Generieren Sie einen API-Schlüssel in OpenRouter und kopieren Sie ihn an einen sicheren Ort.
   • OpenRouter-API-Schlüssel beginnen mit sk-or-v1-.
3. Öffnen Sie die OpenRouter-Modellseite und wählen Sie ein Modell, das Sie verwenden möchten.
   • Notieren Sie sich dessen Modell-ID. Bspw.: z-ai/glm-4.5-air:free.
4. In Firefox: Klicken Sie in der Menüleiste am oberen Bildschirmrand auf Firefox und wählen Sie dann Einstellungen.Klicken Sie auf die Menüschaltfläche und wählen Sie Einstellungen.
5. Gehen Sie zu AI Controls > Smart Window Settings > Assistant model.
6. Wählen Sie Custom: Use your own LLM.
7. Füllen Sie die Felder aus:
   • Modellname: Fügen Sie die OpenRouter-Modell-ID aus Schritt 3 ein.
   • Modell-Endpunkt: Geben Sie den OpenRouter-API-Endpunkt ein, der normalerweise https://openrouter.ai/api/v1 lautet.
   • API-Schlüssel: Fügen Sie Ihren OpenRouter-API-Schlüssel aus Schritt 2 ein.
8. Klicken Sie auf Save.
9. Öffnen Sie ein Smart Window und beginnen Sie, den Assistenten zu verwenden.

Ein lokales Modell verwenden

Beispiel: Lemonade Server

1. Laden Sie Lemonade Server unter https://lemonade-server.ai/ herunter und installieren Sie es. Sie müssen Version 10.2.0 oder neuer verwenden.
2. Führen Sie Lemonade Server aus und laden Sie ein Modell Ihrer Wahl gemäß den Anweisungen der App herunter.
3. Legen Sie in einem Befehlszeilen-Terminal mit dem Befehl lemonade config set ctx_size=8192 eine größere Kontextgröße fest.
4. Laden Sie das Modell über die Benutzeroberfläche oder mit dem Befehl lemonade unload neu (wenn Sie das nächste Mal eine Anfrage an das Modell stellen, wird es mit Ihren Einstellungen geladen).
5. In Firefox: Klicken Sie in der Menüleiste am oberen Bildschirmrand auf Firefox und wählen Sie dann Einstellungen.Klicken Sie auf die Menüschaltfläche und wählen Sie Einstellungen.
6. Gehen Sie zu AI Controls > Smart Window Settings > Assistant model.
7. Wählen Sie Custom: Use your own LLM.
8. Füllen Sie die Felder aus:
   • Modellname: Geben Sie Ihren Modellnamen aus Schritt 2 ein (zum Beispiel SmolLM3-3B-GGUF).
   • Modell-Endpunkt: Geben Sie den Lemonade Server-Endpunkt ein, der normalerweise http://localhost:13305/api/v1 lautet.
   • Beachten Sie, dass für Lemonade Server kein API-Schlüssel erforderlich ist.
9. Klicken Sie auf Save.
10. Öffnen Sie ein Smart Window und beginnen Sie, den Assistenten zu verwenden.

Beispiel: Ollama

1. Laden Sie Ollama unter https://ollama.com/download herunter und installieren Sie es.
2. Führen Sie Ollama aus und folgen Sie den Anweisungen auf der Website, um ein lokales Modell Ihrer Wahl herunterzuladen.
3. Öffnen Sie die Firefox-Einstellungen und gehen Sie zu AI Controls > Smart Window Settings > Assistant model und wählen Sie Custom: Use your own LLM.
4. Füllen Sie die Felder aus:
   • Modellname: Geben Sie Ihren Modellnamen aus Schritt 2 ein (Bspw.: qwen3.5:4b).
   • Modell-Endpunkt: Geben Sie den Ollama-Endpunkt ein, der normalerweise http://localhost:11434/v1 lautet.
   • Beachten Sie, dass für Ollama kein API-Schlüssel erforderlich ist.
5. Klicken Sie auf Save.
6. Öffnen Sie ein Smart Window und beginnen Sie, den Assistenten zu verwenden.

Verwandte Artikel

• Modellauswahl in Smart Window
• Erinnerungen im Smart Window
• Erste Schritte mit Smart Window