- AnthropicのAIチャットボットClaudeが法的引用を捏造し、同社の弁護士がこれを裁判所で使用したと認める
- 音楽出版社との訴訟で、Anthropicの専門家証人が偽の記事を引用したと非難される
- 法廷でのAI利用による引用エラーが相次ぐ中、法律業務自動化のAIスタートアップは巨額資金調達を継続
AnthropicのAI「Claude」が引用を捏造、北カリフォルニア裁判所で問題に
木曜日に北カリフォルニア裁判所に提出された書類によると、Anthropicを代表する弁護士は、同社のAIチャットボットClaudeが作成した誤った引用を音楽出版社との継続中の法的戦いで使用したことを認めた。
Claudeの幻覚による不正確な引用、手動チェックでも見逃される
Bloombergが最初に報じたこの提出書類によると、Claudeは「不正確なタイトルと不正確な著者」を含む引用を幻覚（ハルシネーション）したとAnthropicは述べている。Anthropicの弁護士らは、彼らの「手動での引用チェック」がこれを見逃し、Claudeの幻覚が原因で生じた他のいくつかのエラーも見逃したと説明している。
Anthropicはこのエラーを謝罪し、「誠実な引用ミスであり、権威の捏造ではない」と述べた。
ユニバーサルミュージックグループとの訴訟で専門家証人が問題に
今週初め、ユニバーサルミュージックグループ(Universal Music Group)および他の音楽出版社を代表する弁護士らは、Anthropicの専門家証人—同社の従業員の一人であるオリビア・チェン(Olivia Chen)氏—が彼女の証言で偽の記事を引用するためにClaudeを使用したと非難した。連邦判事のスーザン・ヴァン・クーレン(Susan van Keulen)氏はその後、これらの申し立てに対応するようAnthropicに命じた。
著作権所有者とテック企業間の対立が続く生成AI業界
この音楽出版社の訴訟は、著作権所有者とテクノロジー企業の間で、生成AIツールを作成するための彼らの作品の不正使用をめぐる複数の紛争の一つだ。
法廷でのAI利用によるエラー相次ぐも、法律AI分野への投資は加速
これは、弁護士が法廷でAIを使用し、その後決定を後悔した最新の事例である。今週初め、カリフォルニアの判事は、彼の法廷に「偽のAI生成リサーチ」を提出したとして法律事務所2社を厳しく批判した。1月には、オーストラリアの弁護士が裁判所文書の準備にChatGPTを使用しているところを発見され、そのチャットボットは欠陥のある引用を生成していた。
しかし、これらのエラーがスタートアップが法的業務を自動化するために巨額の資金を調達することを止めているわけではない。弁護士を支援するために生成AIモデルを使用するHarveyは、50億ドル（約7,500億円）の評価額で2億5,000万ドル（約375億円）以上を調達する交渉をしていると伝えられている。
引用元：TechCrunch
Anthropic’s lawyer was forced to apologize after Claude hallucinated a legal citation
