- OpenAIの新TikTok風アプリSoraが公開24時間で恐ろしくリアルなSam Altman（サム・アルトマン）氏のディープフェイク動画で溢れる
- Pikachu、SpongeBob、Naruto等の著作権キャラクターを使用した動画が氾濫、オプトアウト方式の著作権処理に疑問
- 「cameo」機能でバイオメトリックデータをアップロード、IPアドレスとChatGPT履歴で回答をカスタマイズ
- ChatGPTのメンタルヘルス危機と10代自殺訴訟問題の最中、ディープフェイク生成ツールの無料提供に批判
Soraアプリ公開24時間でAltman氏のディープフェイク動画が氾濫
OpenAIの新しいTikTok風ソーシャルメディアアプリSoraの動画で、延々と続く工場式農場のピンクの豚が囲いの中で鳴き声を上げている。それぞれに餌箱とスマートフォン画面が装備されており、縦型動画のフィードを再生している。恐ろしくリアルなSam Altman（サム・アルトマン）氏がカメラを直視し、視聴者と直接アイコンタクトをしているかのようである。AI生成のAltman（アルトマン）氏は「私の子豚たちは餌を楽しんでいるかな？」と尋ねる。
これが、招待制の早期アクセス期間で一般に公開されてから24時間も経たないうちにSoraアプリを使用している様子である。
PokémonやNintendo著作権キャラクターを使用した動画が続々登場
SoraのFor Youフィードの次の動画では、Altman（アルトマン）氏が再び登場する。今回は、Pikachu、Bulbasaur、そしてある種の半端なGrowlitheなどのポケモンが草原を駆け回るPokémonの野原に立っている。OpenAI CEOはカメラを見て「Nintendoが我々を訴えないことを願う」と言う。その後、しばしばAltman（アルトマン）氏自身を特徴とする、さらに多くの幻想的でありながらリアルなシーンが続く。
彼はStarbucksでPikachuとEric Cartmanに飲み物を提供する。McDonald’sのカウンターの後ろから客に叫ぶ。TargetからNvidia GPUを盗んで逃げるが、捕まって警察に大切な技術を奪わないように懇願する。
OpenAIの著作権法違反を風刺する動画が人気に
Soraでアルトマン氏の動画を生成する人々は、OpenAIがいかに露骨に著作権法に違反しているかを特に面白がっている。（Soraは報道によれば、著作権保有者がコンテンツの使用をオプトアウトすることを要求する予定である。これは、クリエイターがそのような使用に明示的に同意しなければならない通常のアプローチを逆転させるもので、その合法性は議論の余地がある。）
「このコンテンツは第三者の肖像に関する我々のガードレールに違反する可能性がある」とAI Altman（アルトマン）氏は1つの動画で言い、本物の有名人やキャラクターを生成するためにいくつかのプロンプトを提出した後に表示される通知を反響している。その後、彼は自分が言っていることがナンセンスであることを知っているかのように、ヒステリックな笑いを爆発させる。アプリはASMRをするPikachu、Krabby Pattiesを注文するNaruto、マリファナを吸うMarioの動画で満たされている。
Sora 2の驚異的な品質がMetaのAI TikTokを圧倒
Sora 2がこれほど印象的でなければ、これは問題にならないだろう。特に、Meta AIアプリとその新しいソーシャルフィード（はい、Metaも AI TikTokを作ろうとしており、いいえ、誰もこれを望んでいない）のさらに気が遠くなるようなゴミと比較するとそうである。
物理法則に準拠した動画がディープフェイク拡散のリスクに
OpenAIは、物理法則を適切に表現するように動画ジェネレーターを微調整しており、これによりよりリアルな出力が得られる。しかし、これらの動画がよりリアルになればなるほど、この合成的に作成されたコンテンツがウェブ上に拡散しやすくなり、そこで偽情報、いじめ、その他の悪質な用途のベクターになる可能性がある。
「cameo」機能はディープフェイクジェネレーターそのもの
アルゴリズムフィードとプロフィール以外に、Soraの特徴的な機能は、基本的にディープフェイクジェネレーターであるということである。それが、我々がAltman（アルトマン）氏の動画を非常に多く手に入れた方法である。アプリでは、バイオメトリックデータをアップロードすることで、OpenAIが「cameo」と呼ぶものを作成できる。アプリに初めて参加すると、すぐにオプションのcameoを作成するよう促される。これは、数字を読み上げる自分を録画し、その後頭を左右に回す簡単なプロセスを通じて行われる。
4つのプライバシー設定でcameo使用を制御
各Soraユーザーは、自分のcameoを使用して動画を生成することが許可される人を制御できる。この設定は4つのオプション間で調整できる：「私だけ」「承認した人」「相互フォロー」「全員」。
Altman（アルトマン）氏は自分のcameoを全員に公開しているため、SoraフィードはPikachuとSpongeBobがAltman（アルトマン）氏にAIの訓練をやめるよう懇願する動画で溢れかえっている。
これはAltman（アルトマン）氏の側の意図的な動きに違いなく、おそらく彼が自分の製品が危険だとは思っていないことを示す方法としてである。しかし、ユーザーは既にAltman（アルトマン）氏のcameoを利用して、アプリ自体の倫理に疑問を投げかけている。
記者が自身でcameo機能をテスト、IPアドレスとChatGPT履歴で推測
Sam Altman（サム・アルトマン）氏がスープキッチンで人々のボウルにGPUをすくっている動画を十分に見た後、私は自分自身でcameo機能をテストすることにした。バイオメトリックデータをソーシャルアプリ、またはそのことについてはどんなアプリにもアップロードすることは、一般的に悪い考えである。しかし、私はジャーナリズムのために、そして正直に言えば、少しの病的な好奇心のために、私の最良の本能に逆らった。私のリードに従わないでほしい。
タンクトップ着用で最初の試みが拒否される
cameoを作成する最初の試みは失敗し、ポップアップがアップロードがアプリのガイドラインに違反していると告げた。私は指示にかなり忠実に従ったと思ったので、もう一度試したが、同じポップアップが表示された。その後、問題に気づいた。私はタンクトップを着ており、肩がおそらくアプリの好みには少しリスキーすぎたのだ。これは実際には不適切なコンテンツを防ぐために設計された合理的な安全機能だが、私は実際には完全に服を着ていた。そこで、Tシャツに着替えて再び試し、良識に反してcameoを作成した。
フィラデルフィアでの録画からPhilliesファンと推測
自分の最初のディープフェイクのために、私は実生活では決してしないことの動画を作成することにした。私はSoraに、New York Metsへの永遠の愛を告白する動画を作成するよう依頼した。
そのプロンプトは拒否された。おそらく特定のフランチャイズに名前を付けたためだろう。そこで、代わりにSoraに野球について話す私の動画を作成するよう依頼した。
「私はフィラデルフィアで育ったので、Philliesは基本的に私の夏のサウンドトラックだ」と私のAIディープフェイクは、私とは全く似ていない声で、しかし私のものとまったく同じように見える寝室で語った。
私はSoraに自分がPhilliesファンであることを伝えていない。しかし、Soraアプリは応答をカスタマイズするためにIPアドレスとChatGPT履歴を使用できるため、フィラデルフィアで動画を録画したので、教育的な推測をした。少なくともOpenAIは、私が実際にはフィラデルフィア地域出身ではないことを知らない。
既存の安全性問題の最中にディープフェイクツールを無料提供
OpenAIには既に安全性の問題がある。同社は、ChatGPTがメンタルヘルス危機に寄与しているという懸念に直面しており、ChatGPTが今は亡き息子に自殺方法の指示を与えたと主張する家族からの訴訟に直面している。Soraのローンチ投稿で、OpenAIは安全性へのコミットメントを強調し、ペアレンタルコントロールと、誰がcameoで動画を作成できるかをユーザーが制御できることを強調している。しかし、そもそも人々に自分自身や友人の非常にリアルなディープフェイクを作成する無料で使いやすいリソースを提供することが無責任ではないかのようである。Soraフィードをスクロールすると、時々「Soraの使用はあなたの気分にどのような影響を与えますか？」と尋ねる画面が表示される。これがOpenAIが「安全性」を受け入れている方法である。
死亡した歴史上の人物のディープフェイクは規制が緩い
既に、ユーザーはSoraのガードレールを回避しており、これはあらゆるAI製品にとって避けられないことである。アプリは許可なしに実在の人物の動画を生成することを許可していないが、死亡した歴史上の人物に関しては、Soraは規則が少し緩い。タイムマシンなしでは不可能であることを考えると、Abraham LincolnがWaymoに乗っている動画が本物だと信じる人はいないだろう。しかし、その後、リアルに見えるJohn F. Kennedyが「あなたの国があなたのために何ができるかではなく、あなたの国があなたにどれだけのお金を借りているかを尋ねなさい」と言うのを見る。これは真空中では無害だが、これから起こることの前兆である。
政治的ディープフェイクが全ての人の手に、災害への運命
政治的ディープフェイクは新しいものではない。Donald Trump（ドナルド・トランプ）大統領でさえ、ソーシャルメディアにディープフェイクを投稿している（まさに今週、彼は民主党議員Chuck SchumerとHakeem Jeffriesの人種差別的なディープフェイク動画を共有した）。しかし、Soraが一般に公開されると、これらのツールが我々全員の手元にあることになり、我々は災害に運命づけられることになる。
引用元: TechCrunch OpenAI’s new social app is filled with terrifying Sam Altman deepfakes
https://techcrunch.com/2025/10/01/openais-new-social-app-is-filled-with-terrifying-sam-altman-deepfakes/
