事の経緯：AI生成の偽引用と「華麗な散文」
ニューヨーク連邦地裁のキャサリン・ポルク・ファイラ判事は、AIツールを不適切に使用し、偽の引用を繰り返し提出した弁護士に対し、異例の訴訟却下という厳しい制裁を科しました。この弁護士、スティーブン・フェルドマン氏は、裁判所に提出した書類において、存在しない判例や法律文献を引用し、さらにはAIが生成したと見られる「顕著に華麗な散文」が含まれていました。
判事が指摘した文書には、レイ・ブラッドベリの小説『華氏451度』からの引用や、法律擁護を「ガーデニング」に例えるような比喩表現が用いられており、他の文書とは明らかに異なる文体であったとされます。弁護士は当初、この華麗な文章も自身で執筆したと主張し、引用の検証にAIツール（Paxton AI、vLex Vincent AI、Google NotebookLMなど）を使用したことを認めました。
弁護士の釈明と判事の反論
フェルドマン弁護士は、高額な法律データベースの費用や図書館の開館時間の制約を理由に、AIツールを引用の確認に利用したと釈明しました。彼は、自身が引用した判例をすべて読み込む代わりに、AIによる3段階のレビューに頼った結果、幻覚（Hallucination）や偽の引用が混入したと述べました。しかし、ファイラ判事は、AIが文書の草稿を作成したと強く疑い、弁護士の証言を「真実を曖昧にするもの」と断じました。判事は、AIツールの使用自体は問題ないとしつつも、弁護士が引用の正確性を自ら確認する義務を怠った点を厳しく批判しました。
AIは研究支援ツール、最終責任は専門家に
ファイラ判事は、今回の事態から得られる最大の教訓は、弁護士が自身の過ちを繰り返し、そこから学んでいないことだと強調しました。彼女は、AIを法的調査に利用することには問題ないとしつつも、引用された判例を読み、その正確性を確認する責任は常に弁護士自身にあると明言しました。「ほとんどの弁護士はこれを『法的調査を行うこと』と呼ぶ。すべての弁護士がその方法を知っている必要がある。フェルドマン氏は、新興技術を利用しているからといって、この専門的な義務を免れることはできない」と判事は述べました。
繰り返される過ちと訴訟却下の重い判断
弁護士は、偽の引用について警告を受けていたにもかかわらず、その後の提出書類でも同様の誤りを繰り返しました。この「度重なる、大胆な」規則違反と、自らの責任を十分に受け入れようとしない姿勢が、最終的に訴訟却下という判断に至った最大の理由となりました。判事は、弁護士が「状況の重大性を理解していない」と指摘し、他の弁護士からの助言を無視して過ちの訂正を遅らせたことも、判事の不信感を募らせる結果となりました。
教訓：AIツールの倫理的かつ責任ある使用を
今回の判決は、AI技術が進化する現代において、専門家がツールを倫理的かつ責任を持って使用することの重要性を改めて浮き彫りにしました。AIは強力な支援ツールとなり得ますが、その出力の正確性を検証し、最終的な責任を負うのは常に人間であることを忘れてはなりません。特に法的な分野では、些細な誤りが顧客の運命を左右するため、今回の事例はすべての専門家にとって重要な教訓となるでしょう。