Smart Window は、大規模言語モデル (LLM) を使用して日常的なタスクをサポートすることで、Firefox でのウェブブラウジングを強化します。AI に依存しているため、既知のリスクと保護機能が存在します。

この記事では、それらのリスク、Mozilla がリスクを軽減するためにどのように取り組んでいるか、そしてあなたのデータがどのように扱われるかについて説明します。

AI アシスタントのリスクとは？

大規模言語モデル (LLM) を搭載した AI アシスタントは、予期しない動作をすることがあります。一般的なリスクには、以下のようなものがあります:

自由回答形式の対話

• ユーザーが意図的または意図せずに有害なコンテンツを要求する可能性があります。これにより、身体的危害、違法行為、金銭的損害などのリスクにつながる可能性があります。

意図しない有害な応答

• LLM は確率論に基づいているため、安全策を講じても有害な結果を完全に防ぐことはできません。

不正確な情報 (ハルシネーション)

• AI システムは、誤った情報や誤解を招く情報を生成することがあります。

Mozilla はこれらのリスクを認識し、この技術の限界について透明性を保ちながら、リスクの軽減に取り組んでいます。

Mozilla はこれらのリスクをどのように軽減しているか

Mozilla は、Smart Window のための AI モデルを選択し、運用する際に、いくつかの手順を踏んでいます:

安全性評価

• 有害な応答を引き起こすように設計されたプロンプトを使用してモデルをテストします。結果は、モデルが安全でない要求をどのくらいの頻度で拒否するかに基づいて評価されます。

アシスタントの保護機能

• システムインストラクションが、アシスタントが有害なコンテンツを回避するように誘導します。

機密性の高いトピックの取り扱い

• 金融、医療、法律に関するトピックについては、アシスタントは免責事項を提供し、ユーザーに専門家のアドバイスを求めるよう促します。

あなたのデータはどのように保護されるか

Smart Window には、ユーザーデータの漏洩を制限するために設計されたプライバシー保護機能が含まれています:

• Mozilla プロキシー – リクエストは、AI サービスに到達する前に Mozilla のプロキシーサーバーを経由してルーティングされます。これは、以下のことを意味します:
  • AI サービスは、あなたの Firefox ブラウザーやコンピューターの固有の識別子を見ることはありません。
  • AI サービスは、あなたの IP アドレスを見ることはありません。
  • AI サービスは、あなたやあなたの場所を直接特定することはできません。
• 既定ではデータを収集しない
  • あなたがオプトインしない限り、会話がトレーニングや人間によるレビューのために収集または保存されることはありません。

セキュリティ保護

Smart Window には、プロンプトインジェクション攻撃などの新たなリスクに対する保護機能が含まれています。これらの攻撃は、ウェブコンテンツに悪意のある指示を隠そうとします。

Mozilla は、以下の方法でこれらのリスクに対処しています:

• プロンプトインジェクションが発生する可能性のある場所を減らす (例: アシスタントに送信されるタブタイトルの長さを制限する)
• 信頼できないコンテンツやプライベートデータと対話する際に会話の状態にラベルを付け、リスクを軽減するために AI がアクセスできる特定のアクションをいつ制限すべきかを把握する
• 指示とデータを区別するための技術を使用する

継続的な改善

AI システムにおけるセキュリティと安全性は進化し続けています。Mozilla は:

• 新たなリスクが発見されるたびに保護機能を更新します
• 新しい緩和策を開発します
• 透明性とより広範なオープンソースコミュニティをサポートするためにアプローチを共有します

関連記事

• Firefox privacy and security features
• デスクトップ版 Firefox の強化型トラッキング防止
• Firefox のデータ収集とプライバシー設定を管理する