AI生成の「ゴミ報告」殺到で脆弱性懸賞金制度に異変、HackerOneが新規受付停止

オープンソースソフトウェア（OSS）の脆弱性に懸賞金をかけて発見を促し、対応を支援してきた米セキュリティ企業のHackerOneが、新規の報告受け付けを停止している。AIで生成された質の低い脆弱性報告の激増が原因といい、影響は主要OSSプロジェクトに及ぶ。同様の懸賞金プログラムを提供してきたGoogleも対応を強いられるなど、AIの影響が深刻化している現実が浮き彫りになった。

OSSの脆弱性を発見した人に懸賞金を支払うHackerOneのバグバウンティプログラムは2021年に開始され、これまでに支払われた賞金の総額は150万ドルを超える。重大な脆弱性の場合は1件あたり4000〜2万5000ドルの賞金が支払われ、うち80％が発見者に、残る20％は対応に当たるOSSプロジェクト側に提供されていた。

しかしHackerOneは3月28日付けで、新規の報告受け付けを停止すると発表。理由については「脆弱性発見の様相が変わりつつある。AIを利用した調査によって、エコシステム全体で脆弱性発見が拡大し、カバー範囲ととスピードの両方が増大した。オープンソースの脆弱性発見と修正能力の間のバランスが大きく変化した」と説明した。

HackerOneからの賞金がなくなったことで、オープンソースのJavaScript実行環境「Node.js」もバグバウンティプログラムの停止を余儀なくされた。今後も脆弱性報告は受け付けるものの、賞金は支払われないという。

これとは別に、オープンソースの通信ツール「curl」プロジェクトも1月末でバグバウンティプログラムを打ち切っていた。「インセンティブが大きすぎて悪意を持って『問題』がでっち上げられ、過度な負担や悪用を引き起こした」という理由だった。

サイバーセキュリティニュースサイトの「Dark Reading」によると、オープンソースプロジェクトのメンテナーはAIが生成する「ゴミ報告」の検証に時間を奪われるようになり、「トリアージ（優先順位付け）疲れ」が大きな問題になっているという。

米セキュリティ企業Minimusの専門家は、AIが生成した「ゴミ報告」が激増したことで、かつて15％程度あった有効な報告の割合は5％未満に低下したと指摘する。「脆弱性探しにAIを利用しても、重大なゼロデイの発見が増えるとは限らない」。それどころか「もっともらしく見えながら悪用はできない」脆弱性報告が殺到して、トリアージ担当者が何千件もの検証を強いられる状況に追い込まれているという。

先にオープンソースソフトウェアの脆弱性を対象とする懸賞金プログラムのルール改訂に踏み切ったGoogleも、AIで生成された「低品質で無効な報告」の激増を伝えていた。

AI生成レポートの激増は、謝った情報やハルシネーション（もっともらしい偽情報）の「洪水」状態を引き起こしたとGoogleは主張する。そうした中で「対応チームが重大な脆弱性に集中して取り組むため」としてルール改訂を表明。「低品質の報告を除外して、実質的な影響に照準を絞るため、より高い品質の証拠提出を義務付ける」とした。

これに伴い、小規模プロジェクトや優先度が低いとされたプロジェクトは賞金の対象外となった。「AIは脆弱性の発見を効率化できる強力なセキュリティツールだが、出力された内容は検証を必要とする」とGoogleは強調している。