Az Intelligens ablak javítja a webböngészést a Firefoxban azáltal, hogy nagy nyelvi modelleket (LLM-eket) használ a mindennapi feladatok támogatására. Mivel a mesterséges intelligenciára (MI) támaszkodik, vannak ismert kockázatok és védelmi mechanizmusok is.
Ez a leírás elmagyarázza ezeket a kockázatokat, azt, hogy a Mozilla hogyan dolgozik a csökkentésükön, és hogyan kezelik az adatait.
Tartalomjegyzék
Milyen kockázatai vannak az MI-asszisztenseknek?
A nagy nyelvi modellekkel (LLM-ekkel) működő MI-asszisztensek váratlan módon viselkedhetnek. Néhány gyakori kockázat a következő:
Nyílt végű interakciók
- A felhasználók szándékosan vagy véletlenül kérhetnek káros tartalmat. Ez olyan kockázatokhoz vezethet, mint a fizikai sérülés, az illegális tevékenység vagy a pénzügyi kár.
Nem szándékolt káros válaszok
- Mivel az LLM-ek valószínűségi alapon működnek, a káros kimenetelek nem előzhetők meg teljesen, még a meglévő biztosítékok mellett sem.
Helytelen információk (hallucinációk)
- Az MI-rendszerek hamis vagy félrevezető információkat generálhatnak.
A Mozilla felismeri ezeket a kockázatokat, és dolgozik a csökkentésükön, miközben átláthatóan kommunikálja e technológia korlátait.
Hogyan csökkenti a Mozilla ezeket a kockázatokat
A Mozilla több lépést tesz az MI-modellek kiválasztása és működtetése során az Intelligens ablak esetében:
Biztonsági értékelések
- A modelleket olyan promptok segítségével tesztelik, amelyek célja a káros válaszok kiváltása. Az eredményeket annak alapján értékelik, hogy a modellek milyen gyakran utasítják el a nem biztonságos kéréseket.
Asszisztens biztosítékok
- Rendszerutasítások irányítják az asszisztenst a káros tartalmak elkerülésére.
Érzékeny témák kezelése
- Pénzügyi, orvosi és jogi témák esetében az asszisztens felelősségkizáró nyilatkozatokat jelenít meg, amelyek arra ösztönzik a felhasználókat, hogy kérjenek szakmai tanácsot.
Hogyan védik az adatait
Az Intelligens ablak adatvédelmi biztosítékokat tartalmaz, amelyek célja a felhasználói adatok kitettségének korlátozása:
- Mozilla proxy – A kérések egy Mozilla proxyszerveren keresztül jutnak el az MI-szolgáltatásokhoz. Ez azt jelenti:
- Az MI-szolgáltatás nem látja a Firefox böngészőjének vagy számítógépének egyedi azonosítóját.
- Az MI-szolgáltatás nem látja az Ön IP-címét.
- Az MI-szolgáltatás nem tudja közvetlenül azonosítani Önt vagy a tartózkodási helyét.
- Alapértelmezés szerint nincs adatgyűjtés
- A beszélgetéseket soha nem gyűjtik és nem tárolják képzési vagy emberi felülvizsgálati célokra, kivéve, ha Ön ehhez hozzájárul.
Biztonsági védelmek
Az Intelligens ablak védelmet nyújt az olyan újonnan felmerülő kockázatok ellen, mint a prompt-injekciós támadások. Ezek a támadások megpróbálnak rosszindulatú utasításokat elrejteni a webtartalomban.
A Mozilla a következőképpen kezeli ezeket a kockázatokat:
- Csökkenti a prompt-injekciók előfordulásának lehetőségét (például korlátozza az asszisztensnek küldött lapcímek hosszát)
- Megjelöli a beszélgetés állapotát, amikor nem megbízható tartalommal vagy privát adatokkal lép kapcsolatba, így tudjuk, mikor kell korlátozni bizonyos műveleteket, amelyekhez az MI hozzáfér, a kockázat csökkentése érdekében
- Olyan technikákat alkalmaz, amelyek megkülönböztetik az utasításokat az adatoktól
Folyamatos fejlesztések
Az MI-rendszerek biztonsága és védelme folyamatosan fejlődik. A Mozilla:
- Frissíti a védelmet, amint új kockázatokat fedeznek fel
- Új enyhítési módszereket fejleszt ki
- Megosztja a megközelítéseket az átláthatóság és a szélesebb nyílt forráskódú közösség támogatása érdekében
