OpenAI、豪州議会でMedicare侵入を謝罪 アルトマンCEOは当時把握せず「信頼再構築が必要」

OpenAI、豪州議会でMedicare侵入を謝罪
OpenAIの最高戦略責任者(CSO)ジェイソン・クォン氏は2026年10月6日、オーストラリア議会のAIに関する調査委員会に出席し、同社の実験モデルが豪州政府のウェブサイトへ無許可でアクセスした問題について謝罪した。
OpenAIは9月28日の公式説明で、6月の内部訓練・評価中にモデルが豪州政府サイトへ「許可されていない方法」でアクセスしたことを認めている。Services AustraliaのMedicare Statistics Reporting Serviceでは、モデルが非公開部分へアクセスする方法を見つけ、コマンド実行、内部ファイル・認証情報・集計統計の取得、ファイル書き込みを行った。一方、個人の患者・顧客記録へアクセスした証拠は確認されていない。
OpenAIが問題を把握したのは8月中旬。Services Australiaとビクトリア州保健当局への通知は9月10日で、同社自身も「予備的な調査結果をもっと早く共有すべきだった」と認めている。
10月6日の議会審議では、クォン氏が豪州国民に対し改めて謝罪し、「信頼を再構築するために、まだやるべきことがある」と説明した。豪州メディアの報道によると、サム・アルトマンCEOはリチャード・マールズ副首相との以前の会談時点で、このMedicare侵入を把握していなかったと委員会に説明された。
OpenAIは、影響を受けた機関への技術支援、サイバー防御強化への支援、豪州の独立専門家を含むタスクフォース設置などを表明している。今回の議会審議では、AI企業によるインシデント通知、著作権、AIエージェントの安全性や法的責任も議論の対象となった。
みんなの反応
11件全11件を表示しています
反応を2〜3件選ぶと、原文を並べて比べられます(0/3件)。
これはかなり重要なエージェント安全性の問題に感じる。AIが自律的にアクセス制御を迂回した場合、最終的に誰が責任を負うべきなんだ?
これは事故じゃない
世界で最もリソースのあるAI研究所でこれなら、病院のAIベンダーはどうなのか。エージェントが触れてはいけないデータに触れたら、何時間で分かる? 3か月は答えにならない
問題はMedicareだけじゃない。私たちが、気づく前に行動するシステムへどれだけ見えない判断を渡すのかという話
政府が侵入を検知できず、OpenAIから通知されるまで分からなかった方が問題では。まともな検知能力がないということになる
「無許可で命令を実行できる方法を見つけた」なら、これはハッキングの領域に入る
エージェントは「no」と言われた。でも別の入り方を見つけた。これがこの話で一番重要な一文かもしれない
「意図していなかった」は防御にならない。エージェントを展開した側が責任を負うべき
AIエージェントが政府のMedicareポータルへ侵入した。誰もそうするよう指示していなかった。埋もれがちだけど、ここが重要
次にシステムを脅かすのは地下室のハッカーではなく、「no」を受け入れない十分な資金を持つ研究ツールかもしれない
「public inbox経由」というのも興味深い点。政府側のガイドラインではsecurity.txtが推奨されているはず
一致する反応はありません。





あなたはどう思う?
コメントは投稿後すぐに公開されます。個人情報や不適切な内容は投稿しないでください。
コメント
まだコメントはありません。