AI弁護士が引用した判例は「巨大なお尻」？法廷で珍事件

アメリカの法廷に提出された弁護士の準備書面が、裁判官の度肝を抜きました。そこに引用されていたのは「Hugh Jass v. Ima Weiner」なる判例。そう、発音すれば「Huge Ass (巨大なお尻) vs. I'm a Wiener (俺はソーセージ野郎)」に聞こえる、どう考えても悪ふざけです。裁判官は呆れ返り、「このAIの駄文は誰が書いたんだ？」と痛烈なメモを残すという、前代未聞の事態に発展しました。 この珍妙な事件は、もはや他人事ではありません。生成AIが急速に普及する現代において、テクノロジーへの過信が生み出した、愛すべき人類のやらかしなのです。 ## 事件の概要：法廷に提出された「申し立て的なやつ」 コトの発端は、ある弁護士が裁判所に提出した準備書面でした。通常、こうした法廷文書は厳格な形式と正確な引用が求められるもの。しかし、今回提出された書面には、ふざけた名前の架空の判例が堂々と記載されていたのです。 これを発見した裁判官の反応がまた秀逸でした。ただ却下するのではなく、弁護士の書面の上に手書きでこう書き加えたのです。「I hearby deny your motion thingy based on the holding in Hugh Jass v. Ima Weiner... who wrote this AI slop?（あなたの『申し立て的なやつ』を、『巨大なお尻 vs 俺はソーセージ野郎』事件の判例に基づき却下します…で、このAIの駄文は誰が書いたんだ？）」 「申し立て的なやつ (motion thingy)」という、弁護士の雑な表現を皮肉たっぷりに引用し返すセンス。そして、問題の文章がAIによって生成されたものだと一発で見抜く慧眼。この裁判官、なかなかの切れ者です。 ## なぜAIは「巨大なお尻」判例を生み出したのか？ では、なぜこんなことが起きてしまったのでしょうか。原因は、生成AIが持つ「ハルシネーション（幻覚）」と呼ばれる現象にあると考えられます。 生成AIは、膨大なテキストデータを学習し、それっぽい文章を生成するのは得意ですが、情報の真偽を判断する能力はありません。そのため、質問に対して事実に基づかない、もっともらしい嘘を平気ででっち上げてしまうことがあるのです。これをハルシネーションと呼びます。 今回のケースもおそらく、弁護士がAIに判例調査を依頼したところ、AIが「それっぽい」架空の事件名を創作してしまったのでしょう。そして、その中にたまたま英語圏の古典的なイタズラ電話で使われるような名前が混じっていた、というわけです。 実は、法曹界でのAIハルシネーション騒動はこれが初めてではありません。2023年にはニューヨークの弁護士が、ChatGPTが生成した6件もの架空の判例をそのまま提出してしまい、裁判所から5,000ドルの罰金を科されるという事件も起きています。便利さの裏には、大きな落とし穴が潜んでいる。今回の事件は、その事実を改めて突きつけました。 ## 確認を怠ったのはAIか、それとも人間か この事件の面白さは、単にAIが奇妙な判例を生成した点だけにとどまりません。それを鵜呑みにして、ろくに確認もせず公式な書類として提出してしまった弁護士の存在こそが、この物語の核心です。 AIはあくまでツール。最終的なアウトプットに責任を持つのは、いつだってそれを使う人間です。多忙な業務の中でついAIに頼りたくなる気持ちは分かります。しかし、「巨大なお尻」なんて判例、一度でも音読すれば「おや？」と気づけたはず。この一手間を惜しんだがために、彼は法曹史（？）に名を刻むことになってしまいました。 もしかしたら、その弁護士はAIを過信していたのかもしれません。「最新技術が間違うはずがない」と。しかし、結果はご覧の通り。最新技術がどんなに進化しようとも、人間の注意力や常識的判断が不要になる日は、まだまだ遠そうです。 ## 愛すべき「やらかし」が示す未来の法廷 今回の事件は、法曹界におけるAI活用の難しさと課題を浮き彫りにしました。AIはリサーチ時間を大幅に短縮するなど、計り知れない可能性を秘めています。しかし、その回答を検証するプロセスを省略すれば、今回のような喜劇、あるいは悲劇が再び起こるでしょう。 今後、法律事務所ではAIが生成した情報のファクトチェックを専門に行う「AI監査役」のような役職が生まれるかもしれません。あるいは、法廷提出書類用の「ハルシネーション検出ソフト」が開発される可能性だってあります。 テクノロジーの進化は、いつも少しばかり間抜けで、愛すべき失敗と共に進んでいくもの。次にAIがどんな珍事件を法廷に持ち込むのか。呆れつつも、どこか楽しみにしている自分がいるのです。