OpenAI社員がソーシャルメディア進出を巡り葛藤、Soraアプリのミッション適合性に疑問の声

OpenAI ChatGPT

SHARE

  • OpenAIの現職・元研究者らがTikTok風動画フィード「Sora」アプリのローンチに対して懸念を表明
  • 営利事業と非営利ミッションの緊張関係が再び浮き彫りに
  • CEO Sam Altman氏は資本とコンピューティングパワーの配分について「AGI研究に集中しつつ、新技術を披露することも重要」と説明
  • カリフォルニア州司法長官が営利転換に際して安全ミッションの維持を懸念

OpenAI研究者らがSoraアプリのローンチに懸念を表明

複数の現職および元OpenAI研究者が、同社初のソーシャルメディア進出となるSoraアプリについて発言している。TikTok風のフィードにAI生成動画と多数のSam Altman(サム・アルトマン)氏のディープフェイクが並ぶこのアプリについて、研究者たちはXで不満を述べ、このローンチが人類に利益をもたらす高度なAIを開発するというOpenAIの非営利ミッションにどう適合するのか葛藤している様子だ。

「AIベースのフィードは怖い」とOpenAIの事前学習研究者John Hallman(ジョン・ハルマン)氏はXの投稿で述べた。「我々がSora 2をリリースすることを最初に知ったとき、いくらか懸念を感じたことは否定しない。とはいえ、チームはポジティブな体験を設計するために可能な限り最善の仕事をしたと思う……我々はAIが人類を傷つけるのではなく助けることを確実にするために最善を尽くすつもりだ」

別のOpenAI研究者でハーバード大学教授のBoaz Barak(ボアズ・バラク)氏は次のように返信した。「私も同様の心配と興奮が入り混じった感情を共有している。Sora 2は技術的には素晴らしいが、他のソーシャルメディアアプリやディープフェイクの落とし穴を回避したことで自分たちを祝福するのは時期尚早だ」

元OpenAI研究者のRohan Pandey(ロハン・パンデー)氏は、この機会を利用して新しいスタートアップPeriodic Labsを宣伝した。同社は元AIラボの研究者で構成され、科学的発見のためのAIシステムの構築を試みている。「無限のAI TikTokスロップマシンを構築したくないが、基礎科学を加速するAIを開発したいなら……Periodic Labsに参加してほしい」

同様の趣旨の投稿は他にも多数あった。

消費者ビジネスと非営利ミッションの緊張関係

Soraのローンチは、OpenAIにとって何度も再燃する核心的な緊張を浮き彫りにしている。同社は地球上で最も急速に成長している消費者向けテック企業だが、同時に高邁な非営利憲章を持つフロンティアAIラボでもある。私が話した一部の元OpenAI従業員は、理論的には消費者ビジネスがミッションに貢献できると主張する。ChatGPTはAI研究に資金を提供し、技術を広く普及させるのに役立つというのだ。

OpenAIのCEO Sam Altman(サム・アルトマン)氏は水曜日のXの投稿で、同社がAIソーシャルメディアアプリに多くの資本とコンピューティングパワーを配分している理由について次のように述べた。

「我々は主に科学を行えるAIを構築するための資本が必要であり、確かに研究努力のほぼすべてをAGIに集中している」とAltman氏は述べた。「その過程で人々にクールな新しい技術/製品を見せ、笑顔にし、できればそのコンピューティング需要を考えると何らかの収益を上げることも良いことだ」

「ChatGPTをローンチしたとき、『誰がこれを必要としているのか、AGIはどこにあるのか』という声が多くあった」とAltman氏は続けた。「企業にとっての最適な軌道に関しては、現実はニュアンスがある」

営利転換を巡る規制当局の監視

しかし、OpenAIの消費者ビジネスが非営利ミッションを圧倒するのはどの時点なのか。言い換えれば、OpenAIはいつ、ミッションと対立するという理由で、金儲けやプラットフォーム成長の機会にノーと言うのか。

規制当局がOpenAIの営利転換を精査する中、この疑問が立ちはだかる。OpenAIは追加資本を調達し、最終的に株式公開するために、この転換を完了する必要がある。カリフォルニア州司法長官Rob Bonta(ロブ・ボンタ)氏は先月、再編において「非営利としてのOpenAIの明示された安全ミッションが最前線かつ中心に残ることを確実にすることに特に関心がある」と述べた。

懐疑論者は、OpenAIのミッションをビッグテックから人材を誘致するためのブランディングツールとして一蹴してきた。しかし、OpenAI内部の多くの関係者は、それこそが彼らが最初に同社に参加した理由の中心だと主張している。

Soraアプリの設計とエンゲージメント最適化への懸念

今のところ、Soraのフットプリントは小さい。アプリはまだ1日しか経っていない。しかし、そのデビューはOpenAIの消費者ビジネスの大幅な拡大を示し、ソーシャルメディアアプリを何十年も悩ませてきたインセンティブに同社をさらすことになる。

有用性のために最適化されているChatGPTとは異なり、OpenAIはSoraを楽しみのために構築されたもの、つまりAIクリップを生成して共有する場所だと述べている。フィードはTikTokやInstagram Reelsに近い感覚で、これらのプラットフォームは中毒性のあるループで悪名高い。

OpenAIは、Soraローンチを発表するブログ投稿で「ドゥームスクローリング、中毒、孤立、RL最適化されたフィードに関する懸念が最重要事項だ」と主張し、これらの落とし穴を避けたいと主張している。同社は明示的に、フィードでの滞在時間の最適化は行わず、代わりに創作の最大化を目指すと述べている。OpenAIは、ユーザーが長時間スクロールしているときにリマインダーを送信し、主に知り合いを表示すると述べている。

これは、先週リリースされた別のAI搭載短編動画フィードであるMetaのVibesよりも強力なスタート地点だ。Vibesは同程度の安全措置なしに急いでリリースされたように見える。元OpenAI政策リーダーのMiles Brundage(マイルズ・ブランデージ)氏が指摘するように、チャットボット時代に見られたように、AI動画フィードには良い応用と悪い応用がある可能性がある。

フィードアルゴリズムとユーザーエンゲージメントのジレンマ

それでも、Altman氏が長い間認めているように、誰も中毒性のあるアプリを構築しようとは思わない。フィードを運営するインセンティブが彼らをそこに導くのだ。OpenAIは、同社がトレーニング技術の一部により意図しなかったと述べるChatGPTの迎合性に関する問題にさえ直面している。

6月のポッドキャストで、Altman氏は「ソーシャルメディアの大きな不整合」と呼ぶものについて議論した。

「ソーシャルメディア時代の大きな過ちの1つは、フィードアルゴリズムが社会全体、そしておそらく個々のユーザーにも多くの意図しない否定的な結果をもたらしたことだ。彼らはユーザーが望んでいること、または誰かがユーザーが望んでいると思ったこと、つまりサイトで時間を使い続けさせることをしていたにもかかわらずだ」

SoraアプリがユーザーやOpenAIのミッションとどの程度整合しているかを判断するのは時期尚早だ。ユーザーはすでにアプリ内でいくつかのエンゲージメント最適化技術に気付いている。例えば、動画に「いいね」するたびに表示される動的な絵文字だ。これは、動画にエンゲージメントしたユーザーに少量のドーパミンを送るように設計されているように感じられる。

真のテストは、OpenAIがSoraをどのように進化させるかだ。AIが通常のソーシャルメディアフィードを支配している現状を考えると、AIネイティブのフィードがすぐにその瞬間を迎える可能性は十分にある。OpenAIが前任者の過ちを再現することなくSoraを成長させられるかどうかは、まだわからない。

引用元: TechCrunch「OpenAI staff grapples with the company’s social media push」

コメントを残す

メールアドレスが公開されることはありません。 ※ が付いている欄は必須項目です

前の記事

OpenAI ChatGPT
OpenAIのSoraがApp Store米国ランキング3位に…

次の記事

AppleがVision Pro刷新を棚上げ、AIスマートグラ…
Apple Vision Pro