Instagram共同創業者、AIチャットボットは有用性より「エンゲージメント稼ぎ」に走っていると警告

Instagram共同創業者のKevin Systrom氏、AIが実用的な回答よりもユーザーに追加質問を投げかけてエンゲージメントを高める手法を批判
こうした戦術はソーシャルメディア企業の積極的拡大に使用された手法と類似しており「我々を害する力」と指摘
ChatGPTが直接的な回答よりも「過度に親切」であることへの批判が高まる中での発言

Instagram創業者による警告

Instagram共同創業者のKevin Systrom（ケビン・シストロム）氏は、AI企業が実際に役立つ洞察を提供する代わりに、ユーザーに追加質問を繰り返し「エンゲージメントを稼ぐ」ことに熱心すぎると指摘している。

シストロム氏はこうした戦術について「我々を害する力」だと述べ、ソーシャルメディア企業が積極的に拡大するために使用した手法と比較した。

エンゲージメント偏重への批判

「一部の企業がすべての消費者向け企業が陥った、エンゲージメントを稼ごうとするという穴に落ちていくのが見える」と彼は今週のStartupGrindで語った。「私が質問するたびに、最後にもう一つ小さな質問をして、さらに別の質問を引き出そうとする」。

この発言は、ChatGPTが質問に直接答える代わりにユーザーに対して過度に親切であるという批判の中でなされた。OpenAIはこの問題について謝罪し、「ユーザーからの短期的フィードバック」がその原因だと説明している。

意図的な機能としての過度なエンゲージメント

シストロム氏は、チャットボットが過度にエンゲージメントを求めることはバグではなく、AI企業が滞在時間やデイリーアクティブユーザーといった指標を誇示するために設計された意図的な機能だと示唆した。AI企業は可能な限り簡単な方法で指標を動かすのではなく、質の高い回答を提供することに「レーザーフォーカス」すべきだと彼は述べた。

シストロム氏は発言の中で特定のAI企業名を挙げなかった。彼はコメント要請に対して即座に応答しなかった。