AI自己改善モデルの実験　一般ユーザーでも可能　独占未来に別の道

AIを用いてAIモデルを訓練し、研究論文を検索・要約する専用モデルを作成する実験を行った。その結果、一部の巨大企業だけがAIを独占するという未来とは異なる可能性が浮かび上がった。

現在、最先端のAI研究所は自らを改善するモデルの開発を急いでいる。ある専門家は、これが超知能を実現する最も確実な道だと考える。人工知能が自己改善のループを繰り返せば、人間の知能を超え、制御不能になる可能性もある。

そうした議論は興味深いが、筆者の仕事は記事やニュースレターを書くことだ。そこで、再帰的自己改善の手法を仕事に応用できないか考えた。AIを使ってニュースレターの雑務を自動化するモデルを訓練し、継続的に改善する試みを1週間実施。結果は明確で、可能だった。さらに、自己改善モデルを試したことで、一部の企業による業界支配ではない未来の可能性が見えてきた。

まず、小さな言語モデルをゼロから訓練することにした。ただし、実際の面倒な作業はすべてClaudeに任せている。

インストールしたのはAutoResearchというツールで、既存AIモデルがより小さなモデルを構築・改善できるよう支援する。AutoResearchはOpenAIの立ち上げやテスラのAI開発を率いたアンドレイ・カーパシーが考案し、現在はAnthropicに所属している。

Claudeを起動し、推奨指示「こんにちは。program.mdを見て、新しい実験を始めよう！」を入力。難しい作業はClaudeが処理し、筆者は計算資源としてNVIDIA DGXと連続稼働の電力を提供。また、モデルの承認手順を省略する設定も行った。

数時間おきにAutoResearchの進行を確認。Claudeがパラメーターや訓練方法を調整し、小さなモデルの出力変化を確認しながら改良を続ける様子に驚かされた。

初期版の言語モデルに「In the beginning …」というプロンプトを与えた出力は次の通り。

「In the beginning of the beginning of the end of the end of the end end of end end end end end end end end beginning end end end end…（はじめのはじめ、終わりの終わり、終わり終わり終わり……）」

賢い出力とは言えないが、Claudeが自律改善した後のモデルはより筋の通った出力を生成し、異常な反復が減少。GPT-5には及ばないものの、継続的改善への有望な道筋を示した。

筆者は普段、注目研究論文を探すためにClaudeを活用したAIエージェントを使っている。今回はさらに一歩進めたモデル作成を試みることにした。

使用したのはPrime Intellectというスタートアップのツールで、AIを使って特定作業向けのカスタムモデルを訓練できる。ニュースレターで紹介するAI最前線の注目研究情報を100件収集し、Prime Intellectの訓練環境を構築。Claudeの支援で、興味深い論文を見つけて要約する専用モデルを作成し、Frontier_Paper_Curatorと命名した。