OpenAIがChatGPTに自殺リスク検知機能「Trusted Contact」を追加

米OpenAIは5月7日（現地時間）、対話型AI「ChatGPT」に新たな安全機能「Trusted Contact（信頼できる連絡先）」を追加すると発表した。この機能により、成人ユーザーは事前に緊急連絡先を指定し、自殺や自傷行為などの深刻なリスクが検知された場合に、その連絡先へ自動的に通知が送られる仕組みとなる。対象は18歳以上（韓国では19歳以上）の個人用アカウントを持つユーザーで、「Business」「Enterprise」「Edu」などの共有ワークスペースプランでは現時点では利用できない。

OpenAIは今回の機能追加について、ユーザーが精神的な苦痛を抱えた際、AIの枠組みの中だけで孤立させるのではなく、現実世界のケアや人間関係につなげることを目指す安全方針に基づくと説明した。同社の安全に関する声明では、「社会的つながりは自殺リスクを低減する強力な保護要因である」と指摘。ユーザーが事前に信頼できる人物を指定しておくことで、最も助けが必要な時に現実のサポートへアクセスしやすくなるよう設計されたという。

システムはAIと人間のレビュアーによる二段階の構成を採用している。まず、ChatGPTの自動監視システムがユーザーの会話から自殺や自傷行為に関する深刻な安全上の懸念を検知すると、システムがユーザーに「連絡先に通知する可能性がある」旨を伝える。その後、専門のトレーニングを受けたレビュアーが状況を評価し、実際に深刻な懸念があると判断した場合にのみ、ユーザーが指定した連絡先へメールやSMSで安否確認を促す短い通知が送られる。なお、ユーザーのプライバシーを保護するため、会話の詳細やチャット履歴が連絡先に共有されることはないとしている。

設定方法は、ChatGPTの「設定」メニューから「Trusted Contact」に進み、選んだ連絡先を登録する。登録できる連絡先は1つだけで、相手のメールアドレスの入力が必須となっており、電話番号の追加も強く推奨されている。招待状が送られた後、相手が1週間以内に承認すると機能が有効になる。OpenAIは、機能を設定する前に、相手とどのようなサポートが必要になるか事前に話し合っておくことを推奨している。

この新機能は、オンライン上で精神的な危機に直面したユーザーにとって、現実の人間関係を活用したセーフティーネットを提供するものと期待される。一方で、プライバシー保護と通知のバランスや、誤検知のリスクなど、実運用上の課題も指摘されている。OpenAIは今後もユーザーの安全とプライバシーを両立させる取り組みを継続していく方針だ。