- Appleが通知要約などのAI製品パフォーマンス改善に向けた取り組みを発表
- 合成データと「差分プライバシー」アプローチを活用した新手法を導入
- デバイス分析共有にオプトインしたユーザーの協力を得て精度向上を目指す
- Genmoji、Image Playground、Writing Toolsなど複数のAI機能に適用予定
プライバシー重視のAI改善アプローチ
特に通知要約などの分野でのAI製品のパフォーマンスが期待に応えていないという批判を受け、Appleは月曜日に合成データの助けを借りてプライバシーを保護しながらユーザーデータを分析し、AIモデルを改善する方法の詳細を明らかにした。
「ディファレンシャル・プライバシー」と呼ばれるアプローチを使用して、同社はまず合成データを生成し、その後ユーザーのデバイス（デバイス分析をAppleと共有することにオプトインしている場合に限る）に生成された合成データの断片を送信して、モデルの精度を比較し、それに基づいて改善するとしている。
合成データによるプライバシー保護手法
「合成データはユーザーデータの形式と重要な特性を模倣するように作成されているが、実際のユーザー生成コンテンツは含まれていない」と同社はブログ投稿で述べている。「代表的な合成メールのセットをキュレーションするために、まずさまざまなトピックに関する大量の合成メッセージを作成する[…]次に、埋め込みと呼ばれる各合成メッセージの表現を導出し、言語、トピック、長さなどのメッセージの主要な側面をいくつか捉える。」
同社によると、これらの埋め込みはデバイス分析にオプトインした少数のユーザーデバイスに送信され、デバイスはそれらをメールのサンプルと比較して、どの埋め込みが最も正確かをAppleに伝えるという。
今後の展開と適用範囲
Appleはこのアプローチを使用してGenmojiモデルを改善しており、将来的にはImage Playground、Image Wand、Memories Creation、Writing Tools、およびVisual Intelligenceにも合成データを使用する予定だと述べている。また、デバイス分析を共有することにオプトインしたユーザーに対して、メール要約を改善するための合成データも調査するとしている。
引用元：TechCrunch
Apple details how it plans to improve its AI models by privately analyzing user data
