- 音楽教育プラットフォームSoundsliceの創設者Adrian Holovaty氏が、ChatGPTのハルシネーションにより新機能開発を余儀なくされる
- ChatGPTが存在しない機能について誤った情報を多数のユーザーに提供し、期待値のずれが発生
- ASCII tablature（テキスト形式のギター譜）をオーディオに変換する機能を実際に開発して対応
- AI幻覚症状による誤情報で企業が機能開発を強いられる初の事例として注目
Django創設者Adrian Holovaty氏が直面したChatGPTハルシネーション症状問題
今月初め、音楽教育プラットフォームSoundsliceの創設者Adrian Holovaty（エイドリアン・ホロヴァティ）氏は、数週間にわたって彼を悩ませていた謎を解決した。明らかにChatGPTセッションの奇妙な画像が継続的にサイトにアップロードされていたのだ。
この謎が解けたとき、彼はChatGPTが自社の最大の宣伝マンの一人になっていることに気づいた。しかし同時に、彼のアプリができることについて人々に嘘をついていたのだ。
Holovaty氏は、人気のPython ウェブ開発フレームワークであるオープンソースDjangoプロジェクトの創設者の一人として最もよく知られている（ただし2014年にプロジェクトの管理から退いている）。2012年に彼はSoundsliceを立ち上げ、現在も「誇りを持ってブートストラップ」を続けている。現在は、アーティストとして、そして創設者として音楽キャリアに集中している。
Soundsliceの楽譜スキャナー機能とエラーログの謎
Soundsliceは学生と教師が使用する音楽教育アプリだ。音符の演奏方法をユーザーに指導する楽譜と同期した動画プレーヤーで知られている。
また、「楽譜スキャナー」と呼ばれる機能も提供しており、ユーザーが紙の楽譜の画像をアップロードすると、AIを使用してそれを記譜付きのインタラクティブな楽譜に自動変換する。
Holovaty氏は、どのような問題が発生し、どこに改善を加えるべきかを確認するため、この機能のエラーログを注意深く監視していると述べた。
そこで彼はアップロードされたChatGPTセッションを目にし始めた。これらは大量のエラーログを生成していた。楽譜の画像ではなく、これらは単語の画像とASCII tablatureとして知られる記号のボックスだった。これは通常のキーボードを使用するギター記譜の基本的なテキストベースシステムだ（例えば、標準的なQWERTYキーボードには高音記号がない）。
ChatGPTが生成した誤った期待値への対応
これらのChatGPTセッション画像の量は、同社が保存するのにコストがかかったり、アプリの帯域幅を圧迫したりするほど重荷ではなかったとHolovaty氏は述べた。彼は当惑し、この状況についてブログ投稿で次のように書いている。
「我々のスキャンシステムは、このスタイルの記譜法をサポートすることを意図していませんでした。それなら、なぜ我々は非常に多くのASCII tab ChatGPTスクリーンショットで爆撃されているのでしょうか？私は数週間困惑していました — 自分でChatGPTをいじってみるまでは。」
こうして彼は、ChatGPTが人々にSoundsliceアカウントを開設してチャットセッションの画像をアップロードすることでこの音楽を聞けると伝えているのを見た。しかし、実際にはできなかった。それらの画像をアップロードしてもASCII tabをオーディオ音符に変換することはできなかった。
彼は新たな問題に直面した。「主要なコストは評判的なものでした：新しいSoundsliceユーザーが誤った期待を持って参入していました。彼らは、我々が実際にはやっていないことをやると自信を持って言われていたのです」と彼は説明した。
誤情報対応か機能開発か – 創設者の苦悩
彼とチームは選択肢を検討した：サイト全体に免責事項を掲載する —「いいえ、ChatGPTセッションを聞こえる音楽に変換することはできません」— か、彼がこれまで考えたことのなかったこの風変わりな音楽記譜システムをサポートしていても、スキャナーにその機能を組み込むかだった。
彼は機能の構築を選択した。
「この件に関する私の気持ちは複雑です。人々を助けるツールを追加することは嬉しいことです。しかし、私たちの手が奇妙な方法で強制されたように感じます。誤情報に対応して機能を開発すべきなのでしょうか？」と彼は書いた。
彼はまた、ChatGPTが多くの人々に対してそのハルシネーション（幻覚症状）を繰り返し続けたために、企業が機能を開発しなければならなかった初の文書化された事例なのかと疑問に思った。
プログラマーコミュニティの反応と新たな視点
Hacker Newsのプログラマー仲間たちは興味深い見解を示した：彼らの何人かは、これは熱心すぎる人間の営業担当者が見込み客に世界を約束し、その後開発者に新機能の提供を強制することと何ら変わらないと述べた。
「それは非常に的確で面白い比較だと思います！」とHolovaty氏は同意した。
引用元: TechCrunch
ChatGPT hallucinated about music app Soundslice so often, the founder made the lie come true
