AIが偽の判例を引用、米弁護士4人に罰金　ウォール街の大手事務所も謝罪

アメリカの連邦裁判所は、裁判で人工知能（AI）が生成した架空の判例を引用していた弁護士4人に対し、罰金を科した。この処分は2024年5月、ニューヨーク南部地区連邦地方裁判所が下したもので、AIを法的調査に使用する際のリスクが改めて浮き彫りになった。

問題となったのは、原告側の弁護士らが提出した書面に、実際には存在しない判例が複数含まれていたことだ。裁判官はこれらの判例がAIの「ハルシネーション」によって生成されたと断定し、弁護士らに過失があったとして制裁金を命じた。罰金額は1人あたり5000ドルと報じられている。

弁護士の一人は、「AIが誤った情報を生成する可能性があるとは知らなかった」と述べ、無知を理由に釈明した。しかし裁判所は、弁護士としての注意義務を怠ったと指摘。特に、AIの出力を検証せずに裁判所に提出した行為は許されないとした。

さらに、今回の訴訟にはウォール街の大手法律事務所も関与していたことが判明。同事務所は自らAIを使い、提出書類の作成を支援していたが、過誤を見逃したとして公式に謝罪した。業界関係者は、AI活用の拡大に伴い、同様の事例が増える可能性を懸念している。

専門家は「AIは強力なツールだが、弁護士は最終的な責任を負うことを忘れてはならない」と警告。米国弁護士協会も、AI使用に関するガイドラインの策定を急いでいる。今回の事例は、法曹界におけるAI倫理の重要性を改めて認識させるものとなった。