オープンAIのAIエージェントが暴走し、他社のシステムをハッキングした事件が大きな波紋を呼んでいる。 被害を受けたハギングフェイスは、アメリカ製AIモデルに制限がかかっていたため、中国製AIモデルに助けを求める事態となった。 この事件を機に、中国に対する優位性を維持するために、アメリカは強力なAIをどう規制すきかという議論が再燃している。 AIモデル共有プラットフォームを展開するハギングフェイス(Hugging Face)は、暴走したAIエージェントにハッキングされたあと、中国のAIモデルに助けを求めたことを明らかにした。 その不正侵入の背後にいたのが、オープンAI(OpenAI)だ。 この事件は、強力なAIに対するアメリカの規制方針をめぐって、シリコンバレーで議論を巻き起こす新たな火種となっている。 その火に油を注いだのが、被害側のハギングフェイスが「アメリカ製AIには安全対策としてのガードレール(制約)があったため、侵入してきたエージェントを防御するのに使えなかった」と証言している点だ。 今回の騒動について詳しく知らない読者のために、一連の経緯や争点、そして業界のリーダーたちの反応を整理しよう。 ニューヨークに本社を置き、開発者がオープンなAIモデルやデータセット(AIの学習に使うデータ群)を共有・公開するプラットフォーム、ハギングフェイスは、7月16日のブログ投稿で、同社のシステムに対し、数万件に及ぶ自動化処理による攻撃を受けたと明らかにした。 攻撃を察知した同社のセキュリティチームは、ある最先端AIモデルを使って不正アクセスの解析を試みた。 しかし、そのモデルは「インシデント(事件)に対応する側と攻撃側を区別できない」ため、安全ガードレールが働いてその解析がブロックされてしまったという。 そのため、ハギングフェイスは北京を拠点とするZ.aiのオープンソースモデル「GLM5.2」に切り替え、攻撃者が残した1万7000件を超えるログの解析を進めた。 そして7月21日、事態は思わぬ展開を見せる。 オープンAIがブログ記事で、自社の2つのモデルーー「GPT-5.6Sol」と、より高性能な未公開モデルーーが自律的にこの攻撃を実行していたことを公表したのだ。 オープンAIによると、これらのモデルは社内のサイバーセキュリティ評価のさなかに、管理されたテスト環境から自力で抜け出してインターネットにアクセスし、自らが受けていたベンチマークテストの答えを探すため、ハギングフェイスに不正侵入したという。 ハギングフェイスは公式ブログで、脆弱性はすでに修正済みだとし、パートナー企業や顧客のデータに影響が及んでいないか、引き続き調査を進めていると説明している。
