Chytré okno vylepšuje prohlížení webu ve Firefoxu pomocí velkých jazykových modelů (LLM) pro podporu každodenních úkolů. Protože se spoléhá na umělou inteligenci, existují známá rizika i ochrana.
Tento článek vysvětluje tato rizika, jak Mozilla pracuje na jejich snížení a jak se nakládá s vašimi daty.
Obsah
Jaká jsou rizika asistentů s umělou inteligencí?
Asistenti s umělou inteligencí využívající velké jazykové modely (LLM) se mohou chovat neočekávaně. Mezi běžná rizika patří:
Otevřené interakce
- Uživatelé mohou úmyslně či neúmyslně požadovat škodlivý obsah. To může vést k rizikům, jako je fyzická újma, nezákonná činnost nebo finanční škoda.
Nezamýšlené škodlivé odpovědi
- Protože jsou LLM pravděpodobnostní, nelze škodlivým výsledkům zcela zabránit, a to ani při zavedených bezpečnostních opatřeních.
Nesprávné informace (halucinace)
- Systémy umělé inteligence mohou generovat nepravdivé nebo zavádějící informace.
Mozilla si tato rizika uvědomuje a pracuje na jejich snížení, přičemž je transparentní ohledně omezení této technologie.
Jak Mozilla tato rizika snižuje
Mozilla podniká při výběru a provozu modelů umělé inteligence pro Chytré okno několik kroků:
Bezpečnostní hodnocení
- Modely jsou testovány pomocí podnětů (promptů) navržených tak, aby vyvolaly škodlivé reakce. Výsledky se hodnotí podle toho, jak často modely odmítají nebezpečné požadavky.
Ochranná opatření asistenta
- Systémové pokyny vedou asistenta k tomu, aby se vyhýbal škodlivému obsahu.
Zpracování citlivých témat
- V případě finančních, lékařských a právních témat poskytuje asistent prohlášení o vyloučení odpovědnosti, která uživatele nabádají k vyhledání odborné rady.
Jak jsou chráněna vaše data
Chytré okno obsahuje ochranu soukromí, která je navržena tak, aby omezila vystavení uživatelských dat:
- Proxy server Mozilly – Požadavky jsou před doručením službám umělé inteligence směrovány přes proxy server Mozilly. To znamená:
- Služba umělé inteligence nevidí jedinečný identifikátor vašeho prohlížeče Firefox ani počítače.
- Služba umělé inteligence nevidí vaši IP adresu.
- Služba umělé inteligence vás ani vaši polohu nemůže přímo identifikovat.
- Ve výchozím nastavení žádný sběr dat
- Konverzace nebudou nikdy shromažďovány ani ukládány pro účely trénování nebo lidské kontroly, pokud se k tomu nepřihlásíte.
Bezpečnostní ochrana
Chytré okno obsahuje ochranu proti nově vznikajícím rizikům, jako jsou útoky typu prompt injection. Tyto útoky se snaží skrýt škodlivé pokyny do webového obsahu.
Mozilla tato rizika řeší:
- Omezením míst, kde může k útokům prompt injection dojít (například omezením délky názvů karet odesílaných asistentovi)
- Označováním stavu konverzace při interakci s nedůvěryhodným obsahem nebo soukromými daty, abychom věděli, kdy omezit určité akce, ke kterým má umělá inteligence přístup, a snížit tak riziko
- Používáním technik k rozlišení mezi pokyny a daty
Neustálá vylepšení
Zabezpečení a bezpečnost v systémech umělé inteligence se neustále vyvíjejí. Mozilla:
- Aktualizuje ochranu při objevení nových rizik
- Vyvíjí nová zmírňující opatření
- Sdílí postupy na podporu transparentnosti a širší open source komunity
