- OpenAI CEOのSam Altmanは、SNSの投稿が人間によるものかボットによるものか判別できなくなっていると述べた。
- きっかけは、OpenAIの新しいプログラミングツール「Codex」を称賛するRedditの投稿を見たことだった。
- この現象は、人間が大規模言語モデル（LLM）のような話し方を身につけたり、SNSのエンゲージメントを重視する仕組みなどが原因だと分析している。
- Altmanは、この状況を打開するため、OpenAIが独自のソーシャルメディアを立ち上げるという憶測も呼んでいる。
AI時代におけるSNSの「フェイク」化
Xの熱心なユーザーであり、Redditの株主でもあるSam Altmanは、ボットのせいでSNSの投稿が本当に人間によって書かれたものか判断できなくなったとXに投稿した。
この気づきは、ライバルであるAnthropicの「Claude Code」に対抗してOpenAIが5月にローンチしたプログラミングサービス「Codex」を称賛する「r/Claudecode」というRedditのsubredditの投稿を読んでいるときに訪れた。
最近、そのsubredditは「Codex」に移行したと公言するユーザーの投稿で溢れており、Altmanはこれらの投稿が本当に人間によるものなのか疑問を抱いた。「このsubredditを読んでいて奇妙な経験をした。Codexの成長が本当に著しく、このトレンドが本物だとわかっていながら、私はそれら全てがフェイクやボットだと仮定してしまう」と彼はXで告白した。
フェイク感を生む複数の要因
Altmanはこの現象について、「リアルな人々がLLMのような話し方の癖を身につけてしまった」「オンラインにいる極端な人々が非常に似通った行動を取る」「過剰なまでの極端な熱狂サイクル」「SNSプラットフォームがエンゲージメントを過剰に重視する仕組み」「他社が『アストロターフィング』（組織的に人間が投稿しているように見せかける行為）を行っているため、私が過敏になっている」など、複数の要因を挙げた。
皮肉なことに、OpenAIのモデルは、Altmanが2022年まで取締役を務め、現在も大株主であるRedditの投稿で学習している。彼が自ら生み出した技術が、人間のコミュニケーションを模倣し、その結果、人間がその技術を模倣するという一種のフィードバックループを生んでいるのだ。
Altmanは、この現象について「AI関連のXやRedditが、1年や2年前には感じなかった方法で非常にフェイクだと感じる」と結論付けた。
誰の責任か、そして今後どうなるのか
もしこの状況が真実だとしたら、一体誰の責任なのだろうか。GPTは、LLMが非常に優れた文章を書けるように導き、その結果、SNSだけでなく、学校、ジャーナリズム、さらには法廷にまで影響を及ぼしている。
Redditの投稿のうち、どれだけがボットによるものか、あるいはLLMを使って書かれたものかは不明だが、その数は相当なものだと考えられる。データセキュリティ企業Impervaの2024年の報告によると、全インターネットトラフィックの半分以上が人間以外のものであり、その大部分がLLMに起因しているという。
一部の懐疑的な見方では、Altmanの嘆きは、OpenAIが開発を噂されているソーシャルメディアプラットフォームのマーケティングを狙った最初の試みだと指摘されている。もしOpenAIが新しいSNSを計画しているとしても、それがボットフリーな空間になる可能性はどれくらいあるだろうか。オランダの大学の研究者がボットだけで構成されたSNSを作ったところ、ボット同士が派閥やエコーチェンバーを形成したという興味深い結果も出ている。
引用元：
