OpenAI、欠陥探しAIを限定公開 Linuxで948件の手口

OpenAIが、ソフトの欠陥探しに特化したAI「GPT-6 Cyber」を、審査済みの専門家に限り公開しました。

どんなAIなのか

米TechCrunchが11月5日に伝えました。GPT-6 Cyberは、ソフトの弱点を見つけ、実際に攻撃が成り立つかを確かめる作業に特化しています。攻撃の手口をどれだけ作れるかを測る試験「ExploitGym」では、成功率が48.5%でした。前の版のGPT-5.6 Cyberは32.1%です。

TechCrunchによると、Firefoxの試験では、これまで知られていなかった欠陥を81件見つけました。OpenAIは自社の危険度の基準で、最も高い「Critical」に分類したと伝えられています。

使える人と条件

使えるのは、OpenAIのセキュリティ事業「Daybreak」で最上位のコース「Daybreak Red」の参加者です。参加者はすでに「数千人」だとOpenAIは説明しています。守る側向けの「Daybreak Blue」もあります。OpenAIは今後、あらゆる規模の企業、個人の研究者、オープンソースの保守担当者へ広げる方針です。

本人確認は厳しく、研究者のJusticz氏は、運転免許証の写真を送って参加したと話しています。

Linuxで見つけた欠陥

OpenAIは11月4日、10月中旬の試験を公表しました。未公開のサイバー用AIが、2308件の候補を調べました。1724件の欠陥を再現し、管理者権限を奪える手口948件を作っています。

費用は約120万ドルで、欠陥1件あたり約1280ドルです。直し方の案は、まずOpenAIの研究者が確認しました。Linuxの保守担当者の審査待ちで、まだ配られていません。

議論になっている点

利用を絞ることには批判があります。守る側は、安全装置を外した公開モデルを使える攻撃者に対し、自分たちが不利になると訴えています。Justicz氏は、Blueが最近「性能を落とされた」と感じているそうです。

同氏はGPT-5.6 Solを使い、約2時間でUbuntu関連の欠陥を見つけました。Debianが修正を出し、悪用は確認されていません。OpenAIは、重要インフラを守る人への10億ドルの支援策も打ち出しています。