- イングランド・ウェールズ高等法院がAI誤用防止で弁護士により強力な対策を要求
- Victoria Sharp（ヴィクトリア・シャープ）判事がChatGPTなど生成AI「信頼できる法的調査不可能」と判定
- 2件の事例で計50件以上の偽引用が発覚、うち23件が存在しない判例
- 弁護士の職業義務違反に対し「重大な制裁」から警察への通報まで幅広い処罰を警告
英国高等法院がAI法的調査の限界を明確化
イングランド・ウェールズ高等法院は、弁護士が業務における人工知能の誤用を防ぐためのより強力な対策を講じる必要があると述べた。最近の2つの事例を結びつけた判決で、Victoria Sharp（ヴィクトリア・シャープ）判事はChatGPTなどの生成AIツールは「信頼できる法的調査を実施することができない」と記した。
Sharp（シャープ）判事は「このようなツールは、プロンプトに対して一見一貫性があり妥当に見える回答を生成できるが、それらの一貫性があり妥当に見える回答は完全に間違っている可能性がある」と記述した。「回答は単純に真実ではない自信に満ちた断言をする可能性がある。」
AI研究結果の検証義務を強調
これは弁護士が調査でAIを使用できないということではないが、シャープ判事は弁護士には「職業業務の過程で使用する前に、権威ある情報源を参照してそのような調査の正確性を確認する」職業上の義務があると述べた。
シャープ判事は、弁護士（米国側では主要AIプラットフォームを代表する弁護士を含む）がAI生成と思われる虚偽を引用する事例が増加していることは、「ガイダンスが遵守され、弁護士が裁判所に対する義務を遵守することを確実にするため、より多くのことを行う必要がある」ことを示唆していると述べ、判決は法廷弁護士会や法律協会を含む専門団体に転送されると語った。
銀行損害賠償事例で45件中18件が偽引用
問題となった事例の1つでは、2つの銀行に対して損害賠償を求める男性を代表する弁護士が45件の引用を含む書類を提出した。シャープ判事によると、これらの事例のうち18件は存在せず、他の多くは「帰属とされた引用を含んでおらず、引用された命題を支持せず、申請の主題に関連性がなかった」という。
ロンドン立ち退き事例でも5件の偽引用発覚
もう1つの事例では、ロンドンの自宅から立ち退きを求められた男性を代表する弁護士が、存在しないと思われる5つの事例を引用した法廷書類を作成した。（弁護士はAIの使用を否定したが、引用は「GoogleやSafari」に表示されたAI生成要約から来た可能性があると述べた。）シャープ判事は、裁判所が法廷侮辱手続きを開始しないことを決定したが、これは「前例ではない」と述べた。
重大な制裁から警察通報まで幅広い処罰を警告
「この点で職業上の義務を遵守しない弁護士は重大な制裁のリスクを負う」と同判事は付け加えた。両弁護士は専門規制機関に照会されるか、自ら照会した。シャープ判事は、弁護士が裁判所に対する義務を果たさなかった場合、裁判所の権限は「公的譴責」から費用の負担、法廷侮辱手続き、さらには「警察への通報」まで及ぶと指摘した。
引用元：TechCrunch
Lawyers could face ‘severe’ penalties for fake AI-generated citations, UK court warns
