生成AIに悩みを打ち明ける10代女性　阿部前監督事件が問う「AI正論」の功罪

長女（18）への暴行容疑で、プロ野球巨人の監督だった阿部慎之助さん（47）が逮捕された。きっかけは、長女が対話型の生成人工知能（AI）「チャットGPT」に被害を相談し、回答に基づき児童相談所へ連絡したことだった。長女の行動の是非とは別に、生成AIは若者の相談相手として定着し、若い女性ほど信頼しているとの調査結果もある。情報が氾濫する今、どのように生成AIに向き合うべきなのか。

「伝統ある巨人軍監督の名も汚してしまった」。逮捕翌日の5月26日、釈放された阿部さんは都内での謝罪会見で目を赤くした。その後、代理人弁護士が長女が公表した手紙を読み上げた。事件を巡り、父親と大掛かりなけんかとなったのは初めてと明かした長女は、<チャットGPTに相談した結果、匿名で相談できる児童相談所があるとの説明書きがなされ、電話をした>とつづった。

長女の相談相手がチャットGPTだったこと。またその相談に基づいて児相や警察が動き、阿部さんが逮捕されたこと。複数の衝撃的な内容を孕んだニュースが議論を呼んだ。

チャットGPTは米オープンAIが開発した対話型AI。質問や命令を入力すると、自然な文章で回答したりプログラムを作成したりする。2022年11月に公開され、1週間当たりの利用者は8億人とされる。

国内でも定着している生成AI。若い女性が勉強や仕事の手助けだけでなく、「悩み相談」の相手として選ぶ傾向もあるようだ。

内閣府の消費者委員会が今年2月に実施した生成AIに関するアンケートによると、10代女性の52・4％が使用目的に悩み相談を挙げた。女性は20～40代でも30％を超えた一方、男性はいずれの年代も30％未満だった。

人間関係や人付き合いに関する生成AIのアドバイスを「とても信頼している」「ある程度信頼している」と答えた人は全体で38・6％。男女とも若年層ほど信頼度が高く、10～20代は半数を超えた。さらに10代女性に限ると63・1％に達した。

メリットの半面、リスクにも注意が必要だ。「（AIが）なんでも知っている〝相棒〟と擬人化してしまうのは危険だ」。人とAIの協調などを研究する神奈川大情報学部の山田誠二教授が指摘する。

授業の一環としてもAIに触れる機会が多く、「AIネーティブ」とも呼ばれる現代の若者。理想のデートプランや宿題の答えを聞くだけでなく、恋愛や友人関係などの悩みについてもAIに相談し、その答えを100％真に受けてしまう子供は珍しくないという。「AIは質問に反射的に回答し、その内容は使用者を肯定するものばかり。だから大人子供問わず依存度が強い相談相手になってしまう」（山田氏）。

AIが導き出す答えは、ネットにあふれるあらゆる情報をまとめたものにすぎない。最新の研究によると、AIの回答のうち、常識から外れるなど誤った情報を含むものは約2割もあった。

米国では生成AIの利用者が自殺や自傷行為をしたり、殺人事件を起こしたりしたとされるトラブルが続出。安全基準が設けられたとされるものの、山田氏は「それでも人間の感情や倫理を理解しているものでは決してない。あくまでも参考程度にとどめるべきだ」と呼びかけた。（鈴木源也）