AI助言に従い行動するリスクと職場での対策——阿部前監督事件から学ぶ

プロ野球巨人の阿部慎之助前監督が5月25日、娘への暴行容疑で警視庁により逮捕され、翌26日に監督を辞任したというニュースは球界のみならず社会全体に大きな衝撃を与えた。

世間が驚いたのは「娘による生成AI（ChatGPT）への相談、父親の現行犯逮捕と監督辞任にまで発展した」という事件の経緯にある。

「AIのアドバイスに従ってそのまま行動を起こす」という構図は、今や珍しいものではなくなった。家庭内に留まらず、恋愛の場面でも、学校でも職場でも全く同じことが起きうるし、同様にリスクもはらんでいる。

職場においてはどんなリスクがあり、どう対策すべきなのか。阿部監督の騒動を機に、現代における生成AIとの向き合い方を整理してみたい。

社員が職場や仕事の内容について生成AIを相談相手として利用することは、主に3つのリスクにつながる。

阿部前監督の事例では、そもそも娘が父親からの暴行についてAI（ChatGPT）に相談したところ、児童相談所への通報（相談）を促されたという背景がある。しかし、その後、相談者である娘が想定していなかった「児童相談所による警察への通報」へと発展して逮捕・辞任に至っており、この認識のギャップが騒動を大きくした一因といえる。

おそらくAIは「児相へ相談すると、本人が意図しなくても警察へ通報される可能性がある」ことを娘に伝えていなかったのではないか。現に、長女の手紙でも「自分の意向が十分に聞かれることなく警察に通報された」との認識が示されている。

児童相談所は法律に基づき、相談内容によって緊急性が高いと判断された場合、警察と連携・通報することがある。長女が児相に虐待や家庭内暴力関連に関する相談をした時点で、警察へ通報する可能性は十分にあったわけだ。

もしAIがこれらの事情を一切触れずに「相談を」と促したならば、情報提供として不完全だったといえる。これは「AIが完全に間違っていた」というより、「AIが提供するアドバイスは文脈・手続きのリスク・相談者の本当の希望を十分にくみ取れない」という、AIの限界によるものである。