弁護士がChatGPTで書類作成し裁判例を捏造 「虚偽の可能性を認識していなかった」

AIがウソをつくとは思わなかった? ChatGPTに“相談”した弁護士が、書類を捏造してしまった。

2023/06/03 18:05

弁護士

アメリカの弁護士が、ChatGPTを使って裁判所に提出する書類を作成。その結果、AIが存在しない裁判例をでっち上げるなど、文書からは多くの捏造が見られたという。『CBS News』『Vigour Times』などの海外メディアが報じた。


関連記事:杉谷拳士氏、栗山英樹監督との“感動話”をChatGPTが捏造 「腹筋ねじ切れそう」

■提出書類をAIで…?

ロベルト・マタさんは昨年、ニューヨーク行きのフライトで金属製の食品カートによって膝を負傷したとして、コロンビアのアビアンカ航空を訴えた。

宣誓供述書によると、マタさんの弁護人であるスティーブン・A・シュワルツ氏は、ChatGPTが行った「調査」に基づいた書類を作成し、マンハッタンの裁判所に提出したという。

関連記事:武井壮、ChatGPTの教育への影響に私見 「点数付けて選考するなんて…」

■存在しない裁判を捏造

確かにChatGPTは形式的な書面の作成に役立つが、専門的な分野には向いていない。出力する文書の信頼性が低いことも知られている。

ChatGPTは蓄積したデータベースからあくまでも「それっぽい」文章を生成するため、人間から見るとしばしばAIが知ったかぶりをしているかのように見えるからだ。

この事件では、ChatGPTのAIが存在しない裁判例をでっち上げ、それが実際に起きたことであると主張したという。


関連記事:大学教授の主張で学生の半分以上が落第に? 「彼らはChatGPTに論文書かせた」

■データベースのどこにもない

この捏造は、訴えられたアビアンカ航空の弁護士が、ニューヨークの判事に「シュワルツ氏の書類で引用された事件が、裁判のデータベースから見つからない」と相談したことで発覚した。

同弁護士は「どの事件も見つからなかったことから、何かが間違っていることは明らかでした」「私たちはそれが、何らかのチャットボットによるものと考えました」とも語っている。

なお、でっち上げられた裁判の中には「マルティネス対デルタ航空」「ジッカーマン対大韓航空」「ヴァルギース対中国南方航空」などのタイトルの訴訟が含まれていたという。


関連記事:東国原英夫、ChatGPTに自らの欠点を聞いたら… 「あの国会議員のこと?」

■まさかウソをつくと思わず…

その後、シュワルツ氏は自身の調査を「補足」するためにChatGPTに“相談”したと語り、ChatGPTを使用するのはこれが初めてで「内容が虚偽である可能性について認識していなかった」と弁明している。

シュワルツ氏の使用したChatGPTは、挙げられた裁判について情報源がないことを指摘されると、「先ほどは混乱を招いてしまい申し訳ございません」と答えたそうだ。

そして「ウェストローやレクシスネクシスなど、別のデータベース上にある可能性があります」と、またもや「それっぽい」返答で関係者を煙に巻いたという。

・合わせて読みたい→杉谷拳士氏、栗山英樹監督との“感動話”をChatGPTが捏造 「腹筋ねじ切れそう」

(文/Sirabee 編集部・びやじま

ChatGPT 120%活用術【Amazonでチェック】