Anthropic、AIによるAI開発の急加速が間近と警告

Anthropicは米国時間11月2日、上場申請書の修正版で警告しました。AIの力でAI開発が急に速くなる段階が近いというのです。

申請書に書かれたこと

Anthropicは、米国で上場するための申請書「S-1/A」（修正版）で、リスクの説明を書き換えました。社内の見積もりや次のモデルへの見通しをもとに、ある状態にまもなく達しうると述べています。自社の安全方針「責任あるスケーリング方針（RSP）」が定める、「AIのおかげで開発が劇的に速まる」状態です。

ただし、現行のモデルがその基準を超えたとは認定していません。元になるデータは引き続き調べているといいます。

「RSI」とは何か

RSIは「再帰的な自己改良」の略です。AIが自分より賢いAIを作り、それがまた次のAIを作る、という連鎖を指します。米National CIO Reviewによると、RSPの目安は、AIの貢献で開発のふだんのペースが2倍になることです。

心配する人は、AIが人の手を離れる入り口と見ます。期待する人は、科学や仕事の大きな進歩につながると見ます。

見逃す恐れも認めた

申請書は、過去にAIを使って新しいモデルを作った際、能力の大きな伸びに気づけなかったことがあると認めています。AIへの依存が進むと、加速が起きてからでないと気づけない恐れもあるといいます。

Anthropicは、次の世代のモデルの設計と開発を、人の監督なしでClaudeに任せて安全にできるとは考えていません。人が関わり続けるよう、RSPの更新を検討しています。

数字と見方の分かれ

National CIO Reviewによると、Anthropicの研究で、技術者が1四半期に書くコードの量が増えました。2021〜2025年の平均の8倍です。ただし、AIだけの効果かどうかは切り分けられていません。

一方で、上場の申請書には投資家向けの宣伝の面もあり、「自己改良が近い」という表現も販促に使えるという指摘があります。今年のClaudeはコード、数学、サイバーセキュリティで力を伸ばしており、警告を重く受け止めるべきだという見方もあります。