ChatGPT回答で「ゴブリン」急増の原因は？OpenAIがメカニズム解明し対策、人格設定「Nerdy」廃止へ

ChatGPTの回答内で「ゴブリン」という単語の使用が急増する異常現象が発生した原因について、開発元のOpenAIが調査結果を公表した。同社はこの問題の背景に、ChatGPTの人格カスタマイズ機能を開発する過程での学習プロセスにあったと説明している。具体的には、強化学習時に特定のモンスター名を出力する回答が過度に高評価されたことが、ゴブリン表現の増殖を招いたとされる。

問題の発端は、ChatGPTに搭載された人格設定の一つ「Nerdy」（オタク）だった。この設定は、知的で遊び心のある文体を促すために用意されていたもので、ユーザーは複数の人格から好みの返答スタイルを選択可能だ。調査の結果、オタク人格を使った回答は全回答のわずか2.5％を占めるに過ぎないが、ゴブリンを含む表現の約66.7％をオタク人格が占めていることが判明した。

OpenAIが強化学習中の出力を詳細に分析したところ、ゴブリンや「グレムリン」といった単語を含む回答は、オタク人格の学習過程で高い評価を受けやすい傾向があった。この評価バイアスにより、「GPT-5.1」では「GPT-5」と比較してゴブリンの使用が175％、グレムリンが52％増加したという。さらに、この評価がその後の学習にも波及し、「GPT-5.4」や「GPT-5.5」でもこれらの生き物関連の比喩が顕著に増えた。

こうした事態を受け、OpenAIは3月にオタク人格を正式に廃止した。同時に、学習時に生き物の比喩を好む設定を取り除き、生き物を表す単語を含む訓練データのフィルタリングも実施している。これらの対策により、新たなモデルではゴブリンやグレムリンの異常な使用頻度は抑制される見通しだ。

ただし、GPT-5.5は原因特定前に学習が始まっていたため、コード生成ツール「Codex」のテスト時にも同様の傾向が確認された。そこでOpenAIはCodex向けに、明確に関連がある場合を除きゴブリンなどの生き物の比喩を使わないよう、開発者プロンプトに抑制指示を追加した。現在のChatGPTではこの問題は解決されているとしている。