- OpenAIがChatGPTの画像生成ポリシーを大幅に改訂し、公人や人種的特徴の画像生成を許可
- 以前は拒否していた、公人や人種的特徴に関する画像リクエストを受け入れ
- 「害を防ぐ」ことに焦点を当てた、より精密なアプローチに移行
- スタジオジブリやピクサーなどの創作スタイルの模倣を許可
画像生成ポリシーの大転換
OpenAIは今週、ChatGPTの画像生成に関する大幅な方針転換を発表した。モデル行動責任者のJoanne Jang（ジョアンヌ・ジャン）氏によると、従来の包括的な拒否から、「現実世界の害を防ぐ」ことに焦点を当てたより精密なアプローチへと移行する。この変更により、ドナルド・トランプやイーロン・マスクなどの公人の画像生成、人種的特徴の描写、さらにはスワスティカなどの過激なシンボルの生成が、教育的または中立的な文脈において許可されることとなった。
コンテンツモデレーションの新戦略
OpenAIは、「誰が生成を許可されるべきか」を裁定することを避け、代わりにユーザーに自身の画像生成を拒否するオプションを提供している。以前は拒否していた「目を多少アジア人風に」や「体重を増やす」といった物理的特徴の変更リクエストも、新しいポリシーでは許可されている。
技術的進化と政治的圧力
この変更は、シリコンバレーのAI「検閲」に対する保守派からの批判や、潜在的な政治的圧力を背景としている。共和党下院議員ジム・ジョーダンがOpenAIやGoogleに対して、バイデン政権とのAIコンテンツ検閲に関する共謀の可能性について質問状を送付したことも、この背景にある。
安全性への配慮
OpenAIは完全に制限を解除したわけではない。GPT-4oのネイティブ画像生成機能は依然として多くの機密性の高いクエリを拒否し、子供の画像生成については以前のDALL-E 3よりもさらに厳格な安全ガードを設けている。同社は、これらの変更が政治的動機によるものではなく、ユーザーにより多くの制御権を与えるという長年の信念を反映していると主張している。
現時点では、スタジオジブリ風ミームの作成に留まっているものの、これらの新しいポリシーがどのような広範な影響をもたらすかは依然として不透明だ。OpenAIの新しいアプローチが、テクノロジーと社会の複雑な関係を如実に示す一例となるだろう。
引用元：TechCrunch
OpenAI peels back ChatGPT’s safeguards around image creation
