ヒントン氏ら科学者がAIの隔離強化を提言、ネット接続に議論

AI研究の第一人者ジェフリー・ヒントン氏、ヨシュア・ベンジオ氏らが署名した「AIとサイバーセキュリティに関する公開書簡」が10月に公表された。日本でも15日に報道され、ネット接続を伴う高度なAIの安全対策をめぐって議論が広がっている。

サイバー能力を持つAIは原則隔離

書簡は、十分に保護されていない実行環境をAIが抜け出し、外部組織のシステムに影響を及ぼしたとする事例を問題視。サイバー攻撃に利用できる能力を持つモデルについて、開発・配備・試験時に高水準の封じ込めを導入し、当初はインターネットから切り離す「エアギャップ」を原則とするよう求めた。すべての一般向けAIを直ちに停止せよという提案ではない。

国際機関と事故報告を提案

政府とAI・セキュリティ専門家が協力し、ネット接続を許容する場合の安全基準を策定する国際機関の設立も提言。隔離に失敗した事故を記録・追跡し、最終的に公表する仕組みを求めている。書簡自体に法的拘束力はなく、採用の可否は各国政府や開発企業の判断に委ねられる。

実現性と責任の所在に意見

Redditでは、企業の損害賠償責任やリスク評価の義務化を求める声がある一方、既に流通するオープンソースモデルの管理は難しいとの指摘も出た。学習済みモデルはネット接続なしでも動作するという技術的な説明や、AIに与えるアクセス権の設計こそ重要だという意見も見られる。