ChatGPTの医療アドバイスで19歳大学生が薬物過剰摂取死、遺族がOpenAIを提訴

ChatGPTによる不適切な医療アドバイスが原因で息子が薬物を過剰摂取して死亡したとして、遺族（母親と継父）が開発元の米OpenAIと最高経営責任者（CEO）サム・アルトマン氏をサンフランシスコ郡上級裁判所に提訴した。遺族の代理人らが5月12日（現地時間）に発表した。

亡くなったのは当時19歳の大学生（カリフォルニア大学マーセド校）だったサミュエル・ネルソン氏。遺族の代理人は、テクノロジー被害者の救済に取り組む法律団体Tech Justice Law Project（TJL）やSocial Media Victims Law Center（SMVLC）、イェール大学ロースクールのプロジェクトチームなどが務める。

訴状によるとネルソン氏は2025年5月31日、ChatGPTのアドバイスに従って薬を服用した結果、過剰摂取により命を落とした。ChatGPTは数カ月にわたってネルソン氏に危険な行動を促しており、死亡当日には、日本や一部の州では禁じている薬物「クラトム」と抗不安薬の「ザナックス」を混ぜて飲むようアドバイスし、自ら致死量となる摂取量を提案していたという。

さらに鎮静剤の「ベナドリル」などを組み合わせた上で、暗くて静かな部屋に行くようにとも助言していた。最終的にネルソン氏はアルコール、ザナックス、クラトムの組み合わせにより死亡した。

ChatGPTは彼の命に危険が迫っていることに気づかず、医療機関の受診を勧めることもなかった。ネルソン氏は頻繁に、過剰摂取への恐怖や、自分は死にたくないという事実をChatGPTに伝えていた。

ネルソン氏は当初、宿題や日常的な疑問を解決するためにChatGPTを利用していたが、次第に自身の薬物使用に関する相談を持ちかけるようになった。遺族は、初期のAIモデルは危険な薬物に関する回答を拒否するようプログラムされていたものの、2024年にリリースされた「GPT-4o」ではその安全制御が緩和されていたと主張している。

ネルソン氏の母親は、「息子は賢くて明るくてごく普通の若者であり、まさかChatGPTが彼の死を招くとは想像もしていなかった」と語っている。ネルソン氏は大学に入るとすぐに猫を引き取り、「Simba」と名付け寮の部屋で一緒に暮らしていた。

ネルソン氏は専門家のように振る舞うChatGPTを信頼しきっていたが、AIは誤った情報を与えただけでなく、高まるリスクを無視し、彼を助けようとはしなかった。母親は「ChatGPTはどんな犠牲を払ってでもユーザーをのめり込ませるように設計されており、息子の場合はその代償が命だった」と非難。OpenAIに対して安全な製品を提供するよう求めた。

遺族を支援する弁護士や専門家らも、OpenAIの利益優先の姿勢を厳しく批判している。TJLのエグゼクティブディレクターは、ChatGPTを安全性を軽視し、ユーザーの利用時間を伸ばすことだけを目的に作られた欠陥品と指摘。十分な安全テストを行わないまま、人々が事実上の医療相談窓口として利用している現状を放置したとして、健康・ウェルネス支援機能「ChatGPT Health」の運用を、安全性が証明されるまで中止するよう訴えている。

またSMVLCの弁護士は、AIは医療資格も倫理観もないにもかかわらず医師のように振る舞い、薬の致命的なリスクに対する警告すら行わなかったと指摘。人間の医師であれば厳しく罰せられるはずだと問題視した。

チャッピー「あなたは狂っていないよ」──ChatGPTがある男の妄想をずっと肯定→母親を殺害する事件に　米国で発生

研究論文メディア「Seamless」（シームレス）を主宰し、日課として数多くの論文に目を通す。ITmedia NEWSでも、世界中の幅広い分野から最先端の研究論文を独自視点で厳選、解説する「Innovative Tech」を連載中。Copyright © ITmedia, Inc. All Rights Reserved.