リコー、日本語AI安全判定モデル刷新 Gemma 4採用
リコーは2026年10月20日、生成AIへの入力や生成結果の安全性を判定する日本語向けセーフガードモデルの改良版を発表した。新モデルは「gemma-4-E4B-it」を基盤とし、従来より少ない計算資源で動かせるよう小型化した。企業内での生成AI運用において、不適切な内容の検知と使いやすさの両立を狙う。
入出力の判定性能を公表
リコーの評価では、新モデルのF1スコアは入力用データで0.900、出力用データで0.942。従来モデルはそれぞれ0.891、0.952だった。入力側はわずかに向上し、出力側はわずかに低下した数値で、同社は総合的に従来と同等水準と説明する。評価には入力476件、出力508件のデータを使用した。
13カテゴリーに独自ラベルを追加
モデルには一般的な有害情報を分類する13種類のカテゴリーが用意され、利用者は用途に応じた判定ラベルを追加できる。追加学習なしで組織固有のルールを反映できる点が特徴だ。また、判定基準も見直し、利用目的や文脈を考慮して必要以上の制限を抑える方針としている。
11月から法人向け製品に搭載
新モデルは11月から順次、リコージャパンの「RICOH オンプレLLMスターターキット」に標準搭載される予定。リコーは2026年5月に従来版を無償公開しているが、今回の改良版については公式発表で同じ公開条件を確認できないため、無償配布が始まったとは記載しない。
みんなの反応
50件Gemma 4ベースで小型化したのは気になる！
安全性の判定にも専用のLLMを使う時代か。
オンプレで動かしやすくなるのは企業には大きいね
出力側のF1は少し下がってるんだな
入力側は0.900か。評価データの内訳も見たい
こういう比較表があると判断しやすい
誤検知が減るなら普段の業務でも助かるw
安全性と利便性のバランス、難しい問題だよね
13カテゴリーって具体的に何が入るんだろう
独自ラベルを追加できるのは便利そう！
追加学習なしでカスタマイズできるのが面白い
実運用だと判定速度も重要になりそう
社内規程に合わせた調整ができるなら試したい
セーフガード自体の管理も必要になるよね
入力と出力を両方見る設計は納得感がある
小さいモデルでも精度を保てるのはいいね
F1だけじゃなく適合率と再現率も確認したいな
機密情報の検知はどこまで対応するのかな？
利用目的まで判断するのはかなり難しそう
安全側に倒しすぎると仕事にならないこともある
企業ごとに許容範囲が違うから設定できるのは大事
Gemma系のモデルがここにも使われるのか
ローカル環境で使える選択肢が増えるのは歓迎
判定の理由を説明してくれる機能もほしい
日本語特有の曖昧な表現にも強いといいな
実際の社内文書での性能が気になるところ
入力476件だけで十分かは検討したい
出力508件の評価は再現性も知りたいね
安全判定の基準が変わると結果も変わりそう
これを入れたら絶対安全、とはならないよね
社内でAIを使うための一つの部品という印象
判定モデルを別に置く構成は設計が楽しそう
低スペックのサーバーでも動くなら助かる
必要なGPUメモリ量を具体的に知りたい！
レイテンシがどれくらい増えるのか気になる
モデルを小型化しても運用コストは別問題だな
カスタムラベルの設定方法を見てみたい
11月から順次搭載なら導入事例はその後かな
スターターキットの構成も調べてみよう
セキュリティ担当者と現場の意見が割れそうw
業界別のルールに対応できるのは実用的
医療や金融などでは特に慎重な運用が必要そう
モデル更新時の評価方法も公開してほしい
英語混じりの文章での判定はどうなるんだろう
一律ブロックより文脈を見る方向は理解できる
判断が難しいケースは人間に回す設計がよさそう
リコーがこういうLLMを開発しているのは意外
日本語向けの安全対策が増えるのはありがたい
公開モデルとの比較ももう少し詳しく見たい
まずは実際の運用結果を見て評価したいね
一致する反応はありません。
あなたはどう思う？
コメントは投稿後すぐに公開されます。個人情報や不適切な内容は投稿しないでください。
コメント
まだコメントはありません。