Pametno okno izboljša brskanje po spletu v Firefoxu z uporabo velikih jezikovnih modelov (LLM) za pomoč pri vsakdanjih opravilih. Ker temelji na umetni inteligenci, obstajajo znana tveganja in tudi zaščite.
Ta članek pojasnjuje ta tveganja, kako si Mozilla prizadeva, da bi jih zmanjšala, in kako se obravnavajo vaši podatki.
Kazalo
Kakšna so tveganja pomočnikov z umetno inteligenco?
Pomočniki z umetno inteligenco, ki jih poganjajo veliki jezikovni modeli (LLM), se lahko obnašajo na nepričakovane načine. Nekatera pogosta tveganja vključujejo:
Odprte interakcije
- Uporabniki lahko namerno ali nenamerno zahtevajo škodljivo vsebino. To lahko povzroči tveganja, kot so telesne poškodbe, nezakonite dejavnosti ali finančna škoda.
Nenamerni škodljivi odzivi
- Ker so LLM-ji verjetnostni, škodljivih izidov ni mogoče v celoti preprečiti, tudi če so vzpostavljeni zaščitni ukrepi.
Napačne informacije (halucinacije)
- Sistemi umetne inteligence lahko ustvarijo napačne ali zavajajoče informacije.
Mozilla se zaveda teh tveganj in si prizadeva, da bi jih zmanjšala, hkrati pa je pregledna glede omejitev te tehnologije.
Kako Mozilla zmanjšuje ta tveganja
Mozilla pri izbiri in delovanju modelov umetne inteligence za Pametno okno izvaja več korakov:
Varnostna ocenjevanja
- Modeli se preizkušajo z uporabo pozivov, ki so zasnovani za sprožanje škodljivih odzivov. Rezultati se ocenjujejo glede na to, kako pogosto modeli zavrnejo nevarne zahteve.
Zaščitni ukrepi pomočnika
- Sistemska navodila vodijo pomočnika, da se izogiba škodljivim vsebinam.
Obravnava občutljivih tem
- Pri finančnih, zdravstvenih in pravnih temah pomočnik prikaže izjave o omejitvi odgovornosti, ki uporabnike spodbujajo, da poiščejo strokovni nasvet.
Kako so zaščiteni vaši podatki
Pametno okno vključuje zaščito zasebnosti, ki je zasnovana tako, da omejuje izpostavljenost uporabniških podatkov:
- Mozillin posredniški strežnik – Zahteve se pred posredovanjem storitvam umetne inteligence preusmerijo prek Mozillinega posredniškega strežnika. To pomeni:
- Storitev umetne inteligence ne vidi edinstvenega identifikatorja vašega brskalnika Firefox ali računalnika.
- Storitev umetne inteligence ne vidi vašega naslova IP.
- Storitev umetne inteligence vas ali vaše lokacije ne more neposredno prepoznati.
- Privzeto se podatki ne zbirajo
- Pogovori se ne bodo nikoli zbirali ali shranjevali za usposabljanje ali človeški pregled, razen če se za to odločite.
Varnostne zaščite
Pametno okno vključuje zaščito pred novimi tveganji, kot so napadi z vbrizgavanjem pozivov. Pri teh napadih se poskuša skriti zlonamerna navodila v spletno vsebino.
Mozilla ta tveganja obravnava tako, da:
- zmanjšuje mesta, kjer lahko pride do vbrizgavanja pozivov (na primer z omejitvijo dolžine naslovov zavihkov, poslanih pomočniku)
- označuje stanje pogovora pri interakciji z nezaupljivo vsebino ali zasebnimi podatki, da vemo, kdaj omejiti določena dejanja, do katerih ima dostop umetna inteligenca, da se zmanjša tveganje
- uporablja tehnike za razlikovanje med navodili in podatki
Stalne izboljšave
Varnost in zaščita v sistemih umetne inteligence se nenehno razvijata. Mozilla:
- posodablja zaščite, ko se odkrijejo nova tveganja
- razvija nove ukrepe za zmanjšanje tveganj
- deli pristope za podporo preglednosti in širše odprtokodne skupnosti
