- Metaが、Meta AIチャットボットでユーザーのプライベートなプロンプトやAI生成コンテンツが他のユーザーから閲覧可能になるセキュリティバグを修正した。
- セキュリティテスト企業AppSecureの創設者サンディープ・ホドカシア氏がこのバグを発見し、2024年12月26日に報告、Metaは報奨金10,000ドル（約148万円）を支払った。
- Metaは2025年1月24日に修正を展開し、悪用された証拠は見つからなかったと報告している。
- このバグは、ユーザーがプロンプトを編集する際に生成される一意の番号が推測しやすかったため、認可されていないユーザーが他者のプロンプトや応答にアクセスできる状態にあった。
Meta AIのプライバシーバグと修正
Metaは、Meta AIチャットボットのユーザーが、他のユーザーのプライベートなプロンプトやAI生成の応答にアクセスし、閲覧できてしまうセキュリティバグを修正した。
セキュリティテスト企業AppSecureの創設者であるサンディープ・ホドカシア氏（Sandeep Hodkasia）は、彼が2024年12月26日に提出したこのバグの非公開開示に対し、Metaがバグ報奨金として10,000ドル（約148万円）を支払ったと独占的に語った。
ホドカシア氏によると、Metaは2025年1月24日に修正を適用し、このバグが悪意を持って悪用された証拠は発見されなかったとのことだ。
ホドカシア氏は、ログイン中のユーザーがAIプロンプトを編集してテキストや画像を再生成する仕組みを調査する中で、このバグを特定したと述べた。彼は、ユーザーがプロンプトを編集すると、MetaのバックエンドサーバーがそのプロンプトとAI生成の応答に一意の番号を割り当てることを発見した。AIプロンプトを編集している間にブラウザのネットワークトラフィックを分析することで、ホドカシア氏はその一意の番号を変更でき、Metaのサーバーが全く別のユーザーのプロンプトとAI生成の応答を返すことを突き止めた。
このバグは、Metaのサーバーが、プロンプトとその応答を要求するユーザーがそれを見る権限があるかどうかを適切にチェックしていなかったことを意味する。ホドカシア氏は、Metaのサーバーによって生成されるプロンプト番号が「容易に推測可能」であり、悪意のあるアクターが自動ツールを使ってプロンプト番号を急速に変更することで、ユーザーの元のプロンプトをスクレイピングする可能性があったと述べた。
Metaは1月にこのバグを修正したこと、そして「悪用の証拠は見つからず、研究者に報奨金を支払った」ことを確認したと、Metaの広報担当者ライアン・ダニエルズ氏（Ryan Daniels）は語った。
このバグのニュースは、多くのセキュリティおよびプライバシーリスクがあるにもかかわらず、大手テック企業がAI製品のローンチと改善に躍起になっている時期に報じられた。
今年初めにChatGPTのような競合アプリに対抗するためにデビューしたMeta AIのスタンドアロンアプリは、一部のユーザーがプライベートな会話だと思っていたものを誤って公開してしまい、波乱の幕開けとなっていた。
引用元:TechCrunch
Meta fixes bug that could leak users’ AI prompts and generated content
