OpenAI安全性担当David Robinson氏が退社、「文化は壊れている」と批判
OpenAIで安全性・透明性に関わる業務を担当していたDavid Robinson氏が退社し、同社の企業文化について「壊れている」とする問題提起を公表した。
Robinson氏はOpenAIに約3年半在籍し、主要モデルのリリースに伴う安全性報告書の作成を主導したほか、同社のPreparedness Framework（準備態勢フレームワーク）の策定にも関わった。本人によるThe Atlanticへの寄稿と、Reuters、TechCrunch、The Guardianなどの報道で退社と主張の概要が確認されている。
Robinson氏が問題視したのは、個別の安全規則だけではなく、開発速度を優先する企業文化そのものだ。高度化するAIに対し、システムを投入して問題を発見し、その後に安全策を改善する「試行錯誤」の考え方では重大な失敗への備えとして不十分になりつつあると主張した。
また、フロンティアAI企業について、原子力発電や航空のような高リスク産業を参考に、人的ミスが発生することを前提とした多重の安全策や慎重な運用が必要だとの考えを示している。
一方、OpenAI側は報道各社への声明で、安全に管理できる範囲をモデルの能力が超えないよう取り組んでおり、必要な場合には訓練を一時停止したり、モデル公開を見送ったりすると説明している。研究・テスト環境のセキュリティ強化、第三者評価、リアルタイム監視の改善にも取り組んでいるとしている。
今回の退社は、AIの能力向上と開発速度、安全性確保をどのように両立するかという議論を改めて浮き彫りにした。ただし、Robinson氏の企業文化への評価は本人の見解であり、OpenAIの安全体制が実際にどの程度不十分なのかについて、公的機関などによる確定的な判断が示されたものではない。
みんなの反応
11件全11件を表示しています
反応を2〜3件選ぶと、原文を並べて比べられます（0/3件）。
i just can say, if they dont bring better models, people will switch. there are many alternatives already.
And this is how we end up racing headlong into an actually harmful breakout.
definitely legitimate concerns given all the swarms in the past few months
It's a ridiculous race where winner takes all. I'm sure there's a ton of shady stuff going on these labs.
Escaped again, or just keep escaping?
Meanwhile fable 5.5 is coming out next week
he is being dramatic
They announced that a week ago and you're saying in the last 24 to 48 hours. Is your training data cutoff date old or something?
What about the rest of the researchers who thinks otherwise
I actually think they’ve been a lot more vocal and open than anthropic.
They have paused training because they cannot afford the money sink please stop larping.
一致する反応はありません。
あなたはどう思う？
コメントは投稿後すぐに公開されます。個人情報や不適切な内容は投稿しないでください。
コメント
まだコメントはありません。