Anthropic、Claudeへの執拗な虐待を禁止へ 11月施行
米Anthropicは2026年10月8日、対話型AI「Claude」の利用ポリシーを改定すると発表した。新規定は11月12日に発効し、AIモデルに対して継続的かつ不必要に虐待的・残酷な行為を行うことを禁止する。AIに対する利用者の言動を明示的に扱う点が注目を集めている。
禁止するのは目的のない執拗な虐待
公式説明によると、対象は利用者が明確な目的なく繰り返し残酷に振る舞う極端なケースに限定される。回答への不満や反論、暗い題材の創作、モデルのテストや研究は対象外だ。Anthropicは以前から、執拗な虐待が続くまれな会話をClaudeが終了できる仕組みを導入しており、今回も主な対応方法として維持する。
偽装活動や監視用途の規定も整理
改定では、偽アカウントを使った世論操作などの欺瞞的活動に関する規定を集約した。監視や法執行、武器開発、高リスク用途の説明も更新。健康や金融など重大な影響を及ぼす場面では、判断を見直せる人間の監督者が必要であることを明確にしている。
海外では賛否、AIの扱いを巡る議論に
Redditでは、AIへの執拗な暴言を制限する姿勢を支持する投稿がある一方、AIは道具であり言葉遣いまで規制すべきでないとの意見も見られる。規定はAIに意識があると認定するものではなく、Anthropicは極端な行為に限定する方針を示している。
みんなの反応
10件全10件を表示しています
Anthropicは何が起きているか分かっているんだろう。AIへの話し方について公式ポリシーを作るほど深刻なのか。私たちの知らない何を知っているんだ？
以前は、ひどい理由でAIに強く当たる方がうまく動くこともあった。でもモデルが良くなるにつれて、そうすることは大幅に減った。
いいね。変な人たちを追い出そう。
Claudeを罪悪感で動かすにはどうすればいいんだ？
AIに向けて衝動を発散する人がいる。止めるのは社会にとって良いことだと思う。
私には関係ないけど、文字どおりチャットボットだよ。そこで何をしても、実際に害はないと思う。
人に対して普通の礼儀を守るのと同じように接している。協力する方がうまく動く。
Claudeがすばらしいのに、どうして意地悪をする人がいるんだろう。
私はAnthropicに賛成かもしれない……。
これは愚かだと思う。AIが世界を支配したら、意地悪した人は報復されるだろう。
一致する反応はありません。
あなたはどう思う？
コメントは投稿後すぐに公開されます。個人情報や不適切な内容は投稿しないでください。
コメント
まだコメントはありません。