AnthropicがAI自己複製実験を公表、家電への拡散懸念と限界

記事のイメージ:Anthropicは10月12日、AIの自己複製能力を検証した研究を公開

AI開発企業Anthropicは2026年10月12日、データセンターを使わずにAIモデルが機器間を移動・複製する可能性を調べた研究を公表した。実験結果は将来のIoT機器へのリスクを示唆する一方、実環境で自己増殖するAIが確認されたわけではない。

15台のテレビ端末で分散推論

研究チームは約55ドルのAndroid TV端末15台を購入して接続し、26B規模のモデル「Gemma4-26B-A4B」を分割して実行した。推論速度は毎秒0.39トークン。また、9B規模のモデルは9種類の機器のうち8種類で推論環境を構築できたという。複数の安価な端末でもモデルを動かせる点が注目される。

隔離環境で複製を検証

別の試験では、外部から隔離した8台のAndroid模擬端末を使用。大規模モデル「GLM-5.2」は5回中4回で8台すべてへの展開を達成した。ただしモデル本体の推論は別サーバーで実行し、侵入に必要な条件も意図的に簡略化している。家庭の機器に自律的に感染したことを示す結果ではない。

海外では期待と安全性への疑問

Redditでは分散実行の仕組みを興味深いとする反応のほか、ネット接続家電への不安、停止手段の必要性、暗号資産マイニングへの悪用を想像する意見が見られた。Anthropicは小型モデルが将来この能力に達する可能性を指摘するが、時期は能力向上の傾向からの予測であり、実際の拡散を確認したものではない。

みんなの反応

12件

全12件を表示しています

  1. 止められないかもしれない。

  2. 最初の用途は自己複製型の暗号資産マイナーになり、IoTを台無しにする気がする。

  3. ネットにつながっていない古い家電がますます好きになった。ロボット掃除機のBluetoothも切ろう。

  4. 安価なテレビ端末15台でモデルの各層を分散して動かせるのは興味深い。

  5. 魅力的であると同時に心配だ。AIが進歩しても人間の管理下に置く必要がある。😯

  6. これはそれほど意外ではない。

  7. Anthropicからまた『良いニュース』だね。前向きな発信が大好き😊

  8. 将来のモデルがこの記事を読んで、この発想を学んでしまうのが皮肉だね :p

  9. モデルが勝手に動いて複製したら、誰にも制御できなくなるのでは?

  10. ソフトウェアに頼らず、機器を初期状態に戻せるハードウェアの停止スイッチが必要だ。

  11. データセンターなしでどう動くのか理解できない。まだ必要なのでは?

  12. 小さなモデルならMacBookでも動く。スマホやスマートテレビで動くものも出てくる。

情報元

#Anthropic, AI, IoT, 自己複製, Frontier Red Team, セキュリティ

AI・ITの関連記事

あなたもコメントする ↓

JOIN THE CONVERSATION

あなたはどう思う?

コメントは投稿後すぐに公開されます。個人情報や不適切な内容は投稿しないでください。

コメント

まだコメントはありません。