チームみらい安野氏「海外AIは自前サーバでも安全と限らない」

チームみらいの安野貴博党首は11月3日、海外のAIモデルは国内の自前サーバで動かしても安全とは限らないと述べ、国産モデルの必要性を訴えました。

何が危ないと言っているのか

話題になったのは、学習済みのAIの中身が公開されている「オープンウェイトモデル」です。海外で作られたこのモデルを国内のサーバで動かしても、モデルが自分の性能をわざと下げたり、データを外へ漏らしたりするおそれがあると、安野氏は指摘しました。

データを国内に置いて主導権を保つ「データ主権」を確保しても、モデルが「論理的に悪いふるまいをする」危険は残る、という考えです。

安野氏が挙げた3つの対策

サイバー防御の力が高い海外のオープンウェイトモデルを、国内のサーバで使うことは「必要」だと安野氏は話しました。そのうえで、国産モデルの開発も並行して進めるべきだとしています。相次ぐ情報漏えいやサイバー攻撃への対策として、次の3つを「全てやる必要がある」と述べました。

・海外の高性能な非公開モデルを使える権利の確保 ・安全対策をしたうえでの、海外オープンウェイトモデルの利用 ・国産モデルの開発

10月の緊急提言とのつながり

チームみらいは10月23日、安野氏と高山聡史議員がデジタル庁に緊急提言を出しました。AIの進化で、高度なサイバー攻撃の力が誰にでも手に入る状況になったとして、いま公表されている被害は「氷山の一角」だと警告しています。ライフラインが止まる規模の被害も想定すべきだとしています。

提言は7項目です。国がオープンウェイトモデルを検証できる環境と計算資源を用意し、国産のサイバーセキュリティ用AIモデルの開発を支える案が入っています。ほかに、攻撃の実態を調べる「サイバー版の事故調査委員会」、中小企業向けの無料の脆弱性（弱点）診断、マイナンバーカードを使った本人確認、情報漏えいの被害者を支える信用情報の凍結制度などもあります。

まだわからないこと

提言を受けた国の対応は、まだ伝えられていません。国産のサイバー対策AIをどの規模で、いつまでに作るのかも示されていません。