Χρήση τερματικών σημείων για προσαρμοσμένα μοντέλα στα έξυπνα παράθυρα

Firefox Firefox Τελευταία ενημέρωση:
Αυτή είναι μια αυτόματη μετάφραση του αγγλικού άρθρου. Δεν έχει ελεγχθεί από άνθρωπο και ενδέχεται να περιέχει σφάλματα. Εάν θέλετε να αναθεωρήσετε αυτό το περιεχόμενο, μπορείτε να ξεκινήσετε εδώ.
Σημείωση: Η λειτουργία έξυπνου παραθύρου θα διατεθεί σταδιακά, ξεκινώντας από τους χρήστες του Firefox στις Ηνωμένες Πολιτείες και τον Καναδά στην έκδοση 150 του Firefox και στους χρήστες στη Γαλλία, ξεκινώντας από την έκδοση 155 του Firefox.

Τα έξυπνα παράθυρα σάς επιτρέπουν να συνδέσετε το δικό σας μοντέλο ΤΝ αντί να χρησιμοποιείτε αυτά που παρέχονται από το Firefox. Η κύρια απαίτηση για τη λειτουργία του είναι ότι ο διακομιστής με τον οποίο συνδέεστε πρέπει να είναι συμβατός με το OpenAI API. Αυτό είναι χρήσιμο εάν θέλετε περισσότερο έλεγχο, χρησιμοποιείτε έναν συγκεκριμένο πάροχο ή εκτελείτε ένα μοντέλο τοπικά στη συσκευή σας.

Μπορείτε να συνδέσετε:

  • Είτε ένα απομακρυσμένο μοντέλο (όπως το OpenRouter)
  • Είτε ένα τοπικό μοντέλο που εκτελείται στη συσκευή σας (όπως το Lemonade Server ή το Ollama)
Σημείωση: Εάν χρησιμοποιείτε ένα προσαρμοσμένο μοντέλο, τα έξυπνα παράθυρα ενδέχεται να μην λειτουργούν με τον αναμενόμενο τρόπο. Αυτή η λειτουργία και οι παρούσες οδηγίες απευθύνονται σε χρήστες που είναι εξοικειωμένοι με αυτές τις υπηρεσίες και εργαλεία. Βεβαιωθείτε ότι χρησιμοποιείτε έναν αξιόπιστο πάροχο μοντέλων!

Χρήση απομακρυσμένου μοντέλου (OpenRouter)

  1. Δημιουργήστε έναν λογαριασμό OpenRouter, εάν δεν διαθέτετε ήδη έναν, στο https://openrouter.ai/.
  2. Δημιουργήστε ένα κλειδί API στο OpenRouter και αντιγράψτε το σε ένα ασφαλές μέρος.
    • Τα κλειδιά API του OpenRouter API ξεκινούν με sk-or-v1-.
  3. Ανοίξτε τη σελίδα μοντέλων του OpenRouter και επιλέξτε αυτό που επιθυμείτε να χρησιμοποιήσετε.
    • Σημειώστε το αναγνωριστικό του μοντέλου, π.χ. z-ai/glm-4.5-air:free.
  4. Στο Firefox: Στη γραμμή μενού στο πάνω μέρος της οθόνης, κάντε κλικ στο Firefox και επιλέξτε Ρυθμίσεις (ή Προτιμήσεις, σε ορισμένες περιπτώσεις).Κάντε κλικ στο κουμπί του μενού Fx89menuButton και επιλέξτε Ρυθμίσεις.
  5. Μεταβείτε στην καρτέλα Επιλογές ελέγχου ΤΝ > Ρυθμίσεις έξυπνου παραθύρου > Μοντέλο βοηθού.
  6. Επιλέξτε Προσαρμοσμένο: Χρήση του δικού σας LLM.
  7. Συμπληρώστε τα πεδία:
    • Όνομα μοντέλου: Επικολλήστε το αναγνωριστικό του μοντέλου OpenRouter, από το βήμα 3.
    • Τερματικό σημείο μοντέλου: Εισαγάγετε το τερματικό σημείο (endpoint) του OpenRouter API, το οποίο συνήθως είναι το https://openrouter.ai/api/v1.
    • Κλειδί API: Επικολλήστε το κλειδί API του OpenRouter από το βήμα 2.
  8. Κάντε κλικ στο κουμπί Αποθήκευση.
  9. Ανοίξτε ένα έξυπνο παράθυρο και ξεκινήστε να χρησιμοποιείτε τον βοηθό.
Συμβουλή: Μπορείτε να βρείτε δωρεάν μοντέλα στο OpenRouter αναζητώντας τη λέξη «free» στη σελίδα μοντέλων (απευθείας σύνδεσμος).
bringyourownmodel

Χρήση τοπικού μοντέλου

Παράδειγμα: Lemonade Server

  1. Κάντε λήψη και εγκατάσταση του Lemonade Server στο https://lemonade-server.ai/. Θα πρέπει να χρησιμοποιήσετε την έκδοση 10.2.0 ή νεότερη.
  2. Εκτελέστε το Lemonade Server και κάντε λήψη του μοντέλου της επιλογής σας ακολουθώντας τις οδηγίες της εφαρμογής.
  3. Σε ένα τερματικό γραμμής εντολών, ορίστε ένα μεγαλύτερο μέγεθος πλαισίου με την εντολή lemonade config set ctx_size=8192.
  4. Επαναφορτώστε το μοντέλο από το περιβάλλον χρήστη ή χρησιμοποιώντας την εντολή lemonade unload (την επόμενη φορά που θα κάνετε ένα αίτημα στο μοντέλο, θα φορτωθεί με τις ρυθμίσεις σας).
  5. Στο Firefox: Στη γραμμή μενού στο πάνω μέρος της οθόνης, κάντε κλικ στο Firefox και επιλέξτε Ρυθμίσεις (ή Προτιμήσεις, σε ορισμένες περιπτώσεις).Κάντε κλικ στο κουμπί του μενού Fx89menuButton και επιλέξτε Ρυθμίσεις.
  6. Μεταβείτε στην καρτέλα Επιλογές ελέγχου ΤΝ > Ρυθμίσεις έξυπνου παραθύρου > Μοντέλο βοηθού.
  7. Επιλέξτε Προσαρμοσμένο: Χρήση του δικού σας LLM.
  8. Συμπληρώστε τα πεδία:
    • Όνομα μοντέλου: Εισαγάγετε το όνομα του μοντέλου σας από το βήμα 2 (π.χ. SmolLM3-3B-GGUF).
    • Τερματικό σημείο μοντέλου: Εισαγάγετε το τερματικό σημείο (endpoint) του Lemonade Server, το οποίο συνήθως είναι το http://localhost:13305/api/v1.
    • Σημειώστε ότι δεν απαιτείται κλειδί API για το Lemonade Server.
  9. Κάντε κλικ στο κουμπί Αποθήκευση.
  10. Ανοίξτε ένα έξυπνο παράθυρο και ξεκινήστε να χρησιμοποιείτε τον βοηθό.

Παράδειγμα: Ollama

  1. Κάντε λήψη και εγκατάσταση του Ollama στο https://ollama.com/download.
  2. Εκτελέστε το Ollama και ακολουθήστε τις οδηγίες στον ιστότοπο για να κάνετε λήψη ενός τοπικού μοντέλου της επιλογής σας.
  3. Ανοίξτε την οθόνη ρυθμίσεων του Firefox, μεταβείτε στην καρτέλα Επιλογές ελέγχου ΤΝ > Ρυθμίσεις έξυπνου παραθύρου > Μοντέλο βοηθού, και επιλέξτε Προσαρμοσμένο: Χρήση του δικού σας LLM.
  4. Συμπληρώστε τα πεδία:
    • Όνομα μοντέλου: Εισαγάγετε το όνομα του μοντέλου σας από το βήμα 2 (π.χ. qwen3.5:4b).
    • Τερματικό σημείο μοντέλου: Εισαγάγετε το τερματικό σημείο (endpoint) του Ollama, το οποίο συνήθως είναι το http://localhost:11434/v1.
    • Σημειώστε ότι δεν απαιτείται κλειδί API για το Ollama.
  5. Κάντε κλικ στο κουμπί Αποθήκευση.
  6. Ανοίξτε ένα έξυπνο παράθυρο και ξεκινήστε να χρησιμοποιείτε τον βοηθό.

Σχετικά άρθρα

Αυτοί οι υπέροχοι άνθρωποι βοήθησαν στη σύνταξη αυτού του άρθρου:

Illustration of hands

Συμμετοχή

Μοιραστείτε την εμπειρία σας με άλλους χρήστες. Απαντήστε σε ερωτήσεις και βελτιώστε τη γνωσιακή βάση μας.

Μάθετε περισσότερα