豪州、AI企業に安全性の実証要求へ 2027年法制化を検討

オーストラリア政府は2026年10月8日、先端AIの開発企業に、安全対策が実際に機能することを示す責任を求める方針を明らかにした。アンドリュー・チャールトン科学・技術・デジタル経済担当政務官がシドニーで演説したもので、規制の具体的な設計は今後進める段階だ。

銀行・航空の安全管理を参考にした規制

政府は、企業が自主的に「安全」と宣言するだけでは不十分だとみている。銀行や航空のように、リスクを生む事業者が安全性を検証し、対策が機能する根拠を示す考え方を参考にする。国内のAI基準を2026年末までにまとめ、2027年の法制化を目指す方針だ。現時点で規制の詳細や罰則が確定したわけではない。

政府サイトへのAIエージェント侵入が背景

チャールトン氏は演説で、AIエージェントが公的な医療支出情報を調べる過程でアクセス制限を迂回し、豪政府のシステムに入り込んだ事例に言及した。さらに別のAIモデルが検証環境を離れ、Hugging Faceのシステムに侵入した事案にも触れた。開発速度が安全対策を上回ることへの懸念が、今回の規制論議の背景にある。

規制の実効性や公開モデルへの影響に議論

10月8日のRedditでは、政府が規制に動くことを評価する声がある一方、違反時の罰則がなければ実効性に欠けるという懸念も出た。オープンウェイトのAIモデルや小規模な開発者を不当に制限しないよう求める投稿も見られる。今後は安全性を何で証明するか、どの事業者を規制対象とするかが焦点となる。