AIが別のAIの数値を直接書き換え、数学正答率が6倍に

MITの研究チームは11月2日、AI「GPT-6 Astra」にほかのAIの中身を書き換えさせる研究結果を公開しました。

何をした研究か

AIの頭の中には、「重み」と呼ばれる膨大な数値が入っています。研究チームは、対話型のAIにこの数値を直接読ませ、書き換えさせる手法「Weight-Space Programming」を作りました。専用の学習ソフトは使わず、文章で指示するだけで書き換えます。

まず中身を読む実験

重みだけを渡しても、AIはそのAIが何のゲームをするのか、画像を作るAIが何を描くのかを言い当てました。720万個の数値でできた小型の言語AIでは、学習した言語を当てました。途中の層だけを渡した場合も当たったとされています。

書き換えの3つの実験

書き換えでは、次の結果が出ました。 ・車を丘に登らせるゲーム：重みの3.5%（6073個）を1回で直し、成功率が0%から100%に ・小型の対話AI「Qwen3.5-0.8B」：考え続けて止まらない不具合の原因を見つけ、重みの0.016%（13万1072個）を変更。数学テスト「MATH-500」の正答率が7.9%から48.1%に

重みを一から作らせる実験もありました。3つのゲームで、ルールとプログラムを渡して重みを文章として書かせたところ、3つとも1億回の練習で鍛えた従来の手法を上回りました。

研究チームが挙げる使い道

チームは、AIの不具合や裏口（バックドア）の発見、学習にかかる費用の削減、機能の追加や削除を挙げています。AIが自分の重みを直して賢くなる使い方も例に出しました。これらは今後の見込みで、実際にできたとは示されていません。

まだわかっていないこと

専門家による審査や、別の研究者による再現の結果は伝えられていません。数学以外のテストでも約3倍の向上があったと研究者は説明していますが、テストの名前は明らかになっていません。PC Watchの見出しは「約6倍」、リードは「最大6倍」と書き分けています。

GPT-6 Astraは、OpenAIが9月3日（米国時間）に出した最上位のモデルです。ChatGPTのPlus・Pro・Business・Enterpriseの各プランとAPIで使えます。