Confronta le versioni

Modelli personalizzati in Smart Window - Utilizzare il proprio endpoint

Versione 344879:

Versione 344879 di SumoBot del

Versione 344888:

Versione 344888 di michro del

Parole chiave:

modello di IA personalizzato, finestra intelligente
modello di IA personalizzato, finestra intelligente

Sommario dei risultati della ricerca:

Questo articolo spiega come collegare un endpoint di un modello di IA personalizzato a Smart Window, la finestra intelligente di Firefox, utilizzando provider remoti o locali.
Questo articolo spiega come collegare un endpoint di un modello di IA personalizzato a Smart Window, la finestra intelligente di Firefox, utilizzando provider remoti o locali.

Contenuti:

{note}'''Nota''': la funzionalità [[Get started with Smart Window|Smart Window]] verrà resa disponibile gradualmente agli utenti di Firefox, a partire dagli utenti negli Stati Uniti e in Canada nella [[Find what version of Firefox you are using|versione di Firefox]] 150.{/note} Smart Window consente di connettere il proprio modello di IA invece di utilizzare quelli forniti da Firefox. Il requisito principale per il suo funzionamento è che il server a cui ci si connette deve essere compatibile con l'API di OpenAI. Ciò è utile se si desidera un maggiore controllo, utilizzare un fornitore specifico o eseguire un modello localmente sul proprio dispositivo. È possibile connettere: *Un modello remoto (come OpenRouter) *Un modello locale in esecuzione sul proprio dispositivo (come Lemonade Server o Ollama) {note}'''Nota''': se si utilizza un modello personalizzato, Smart Window potrebbe non funzionare come previsto. Questa funzionalità e queste istruzioni sono rivolte agli utenti che hanno familiarità con questi servizi e strumenti. Assicurarsi di utilizzare un fornitore di modelli affidabile!{/note} __TOC__ =Utilizzare un modello remoto (OpenRouter)= #Creare un account OpenRouter se non se ne possiede già uno, all'indirizzo https://openrouter.ai/. #Generare una chiave API in OpenRouter e copiarla in un luogo sicuro. #*Le chiavi API di OpenRouter iniziano con <code>sk-or-v1-</code>. #Aprire la [https://openrouter.ai/models pagina dei modelli] di OpenRouter e scegliere un modello che si desidera utilizzare. #*Prendere nota del suo ID modello. Esempio: z-ai/glm-4.5-air:free. #In Firefox: {for mac}sulla barra dei menu nella parte superiore dello schermo, fare clic su {menu Firefox} e selezionare {menu Impostazioni} (o {menu Preferenze}, in alcuni casi).{/for}{for win,linux}fare clic sul pulsante dei menu [[Image:Fx89menuButton]] e selezionare {menu Impostazioni}.{/for} #Andare su {menu Controlli IA} > {menu Impostazioni Smart Window} > {menu Modello assistente}. #Selezionare {menu Personalizzato: utilizza il tuo LLM}. #Compilare i campi: #*'''Nome modello''': incollare l'ID del modello OpenRouter, dal passaggio 3. #*'''Endpoint modello''': l'endpoint API di OpenRouter, che in genere è https://openrouter.ai/api/v1. #*'''Chiave API''': incollare la propria chiave API di OpenRouter dal passaggio 2. #Fare clic su {button Salva}. #Aprire una Smart Window e iniziare a utilizzare l'Assistente. {note}'''Suggerimento''': è possibile trovare modelli gratuiti su OpenRouter cercando "free" nella pagina dei modelli ([https://openrouter.ai/models?q=free link diretto]).{/note} ;[[Image:bringyourownmodel]] =Utilizzare un modello locale= ==Esempio: Lemonade Server== #Scaricare e installare Lemonade Server da https://lemonade-server.ai/. È necessario utilizzare la versione 10.2.0 o successiva. #Eseguire Lemonade Server e scaricare un modello a scelta seguendo le istruzioni dell'applicazione. #In un terminale a riga di comando, impostare una dimensione del contesto più grande utilizzando il comando <code>lemonade config set ctx_size=8192</code>. #Ricaricare il modello dall'interfaccia utente o utilizzando il comando <code>lemonade unload</code> (la volta successiva che si effettua una richiesta al modello, questo verrà caricato con le proprie impostazioni). #In Firefox: {for mac}sulla barra dei menu nella parte superiore dello schermo, fare clic su {menu Firefox} e selezionare {menu Impostazioni} (o {menu Preferenze}, in alcuni casi).{/for}{for win,linux}fare clic sul pulsante dei menu [[Image:Fx89menuButton]] e selezionare {menu Impostazioni}.{/for} #Andare su {menu Controlli IA} > {menu Impostazioni Smart Window} > {menu Modello assistente}. #Selezionare {menu Personalizzato: utilizza il tuo LLM}. #Compilare i campi: #*'''Nome modello''': inserire il nome del proprio modello dal passaggio 2 (ad esempio, SmolLM3-3B-GGUF). #*'''Endpoint modello''': inserire l'endpoint di Lemonade Server, che in genere è http://localhost:13305/api/v1. #*Si noti che non è richiesta alcuna chiave API per Lemonade Server. #Fare clic su {button Salva}. #Aprire una Smart Window e iniziare a utilizzare l'Assistente. ==Esempio: Ollama== #Scaricare e installare Ollama da https://ollama.com/download. #Eseguire Ollama e seguire le istruzioni sul sito per scaricare un modello locale a scelta. #Aprire la schermata delle impostazioni di Firefox e andare su {menu Controlli IA} > {menu Impostazioni Smart Window} > {menu Modello assistente} e selezionare {menu Personalizzato: utilizza il tuo LLM}. #Compilare i campi: #*'''Nome modello''': inserire il nome del proprio modello dal passaggio 2 (es: qwen3.5:4b). #*'''Endpoint modello''': inserire l'endpoint di Ollama, che in genere è http://localhost:11434/v1. #*Si noti che non è richiesta alcuna chiave API per Ollama. #Fare clic su {button Salva}. #Aprire una Smart Window e iniziare a utilizzare l'Assistente. =Articoli correlati= *[[Model choices in Smart Window]] *[[Memories in Smart Window]] *[[Get started with Smart Window]]
{note}'''Nota''': la funzionalità [[Get started with Smart Window|Smart Window]] verrà resa disponibile gradualmente agli utenti di Firefox, a partire dagli utenti negli Stati Uniti e in Canada nella [[Find what version of Firefox you are using|versione di Firefox]] 150.{/note} Smart Window consente di connettere il proprio modello di IA invece di utilizzare quelli forniti da Firefox. Il requisito principale per il suo funzionamento è che il server a cui ci si connette deve essere compatibile con l'API di OpenAI. Ciò è utile se si desidera un maggiore controllo, utilizzare un fornitore specifico o eseguire un modello localmente sul proprio dispositivo. È possibile connettere: *Un modello remoto (come OpenRouter) *Un modello locale in esecuzione sul proprio dispositivo (come Lemonade Server o Ollama) {note}'''Nota''': se si utilizza un modello personalizzato, Smart Window potrebbe non funzionare come previsto. Questa funzionalità e queste istruzioni sono rivolte agli utenti che hanno familiarità con questi servizi e strumenti. Assicurarsi di utilizzare un fornitore di modelli affidabile.{/note} __TOC__ =Utilizzare un modello remoto (OpenRouter)= #Creare un account OpenRouter se non se ne possiede già uno, all'indirizzo https://openrouter.ai/. #Generare una chiave API in OpenRouter e copiarla in un luogo sicuro. #*Le chiavi API di OpenRouter iniziano con <code>sk-or-v1-</code>. #Aprire la [https://openrouter.ai/models pagina dei modelli] di OpenRouter e scegliere un modello che si desidera utilizzare. #*Prendere nota del suo ID modello. Esempio: z-ai/glm-4.5-air:free. #In Firefox: {for mac}sulla barra dei menu nella parte superiore dello schermo, fare clic su {menu Firefox} e selezionare {menu Impostazioni} (o {menu Preferenze}, in alcuni casi).{/for}{for win,linux}fare clic sul pulsante dei menu [[Image:Fx89menuButton]] e selezionare {menu Impostazioni}.{/for} #Andare su {menu Controlli IA} > {menu Impostazioni Smart Window} > {menu Modello assistente}. #Selezionare {menu Personalizzato: utilizza il tuo LLM}. #Compilare i campi: #*'''Nome modello''': incollare l'ID del modello OpenRouter, dal passaggio 3. #*'''Endpoint modello''': l'endpoint API di OpenRouter, che in genere è https://openrouter.ai/api/v1. #*'''Chiave API''': incollare la propria chiave API di OpenRouter dal passaggio 2. #Fare clic su {button Salva}. #Aprire una Smart Window e iniziare a utilizzare l'Assistente. {note}'''Suggerimento''': è possibile trovare modelli gratuiti su OpenRouter cercando "free" nella pagina dei modelli ([https://openrouter.ai/models?q=free link diretto]).{/note} ;[[Image:bringyourownmodel]] =Utilizzare un modello locale= ==Esempio: Lemonade Server== #Scaricare e installare Lemonade Server da https://lemonade-server.ai/. È necessario utilizzare la versione 10.2.0 o successiva. #Eseguire Lemonade Server e scaricare un modello a scelta seguendo le istruzioni dell'applicazione. #In un terminale a riga di comando, impostare una dimensione del contesto più grande utilizzando il comando <code>lemonade config set ctx_size=8192</code>. #Ricaricare il modello dall'interfaccia utente o utilizzando il comando <code>lemonade unload</code> (la volta successiva che si effettua una richiesta al modello, questo verrà caricato con le proprie impostazioni). #In Firefox: {for mac}sulla barra dei menu nella parte superiore dello schermo, fare clic su {menu Firefox} e selezionare {menu Impostazioni} (o {menu Preferenze}, in alcuni casi).{/for}{for win,linux}fare clic sul pulsante dei menu [[Image:Fx89menuButton]] e selezionare {menu Impostazioni}.{/for} #Andare su {menu Controlli IA} > {menu Impostazioni Smart Window} > {menu Modello assistente}. #Selezionare {menu Personalizzato: utilizza il tuo LLM}. #Compilare i campi: #*'''Nome modello''': inserire il nome del proprio modello dal passaggio 2 (ad esempio, SmolLM3-3B-GGUF). #*'''Endpoint modello''': inserire l'endpoint di Lemonade Server, che in genere è http://localhost:13305/api/v1. #*Si noti che non è richiesta alcuna chiave API per Lemonade Server. #Fare clic su {button Salva}. #Aprire una Smart Window e iniziare a utilizzare l'Assistente. ==Esempio: Ollama== #Scaricare e installare Ollama da https://ollama.com/download. #Eseguire Ollama e seguire le istruzioni sul sito per scaricare un modello locale a scelta. #Aprire la schermata delle impostazioni di Firefox e andare su {menu Controlli IA} > {menu Impostazioni Smart Window} > {menu Modello assistente} e selezionare {menu Personalizzato: utilizza il tuo LLM}. #Compilare i campi: #*'''Nome modello''': inserire il nome del proprio modello dal passaggio 2 (es: qwen3.5:4b). #*'''Endpoint modello''': inserire l'endpoint di Ollama, che in genere è http://localhost:11434/v1. #*Si noti che non è richiesta alcuna chiave API per Ollama. #Fare clic su {button Salva}. #Aprire una Smart Window e iniziare a utilizzare l'Assistente. =Articoli correlati= *[[Model choices in Smart Window]] *[[Memories in Smart Window]] *[[Get started with Smart Window]]

Torna allo storico