タグ
#moderation
2件の記事
tools
ガードレール：LLMの入力と出力をフィルタリングする
モデルだけでは安全なプロダクトにはなりません。ガードレールとは、LLMを実際に必要な境界の内側にとどめておくための入力・出力フィルターです。
#guardrails#safety#llm-ops
06-16 12:31·7 分
use-cases
AIによるコンテンツモデレーション:逃れられないトレードオフ
AIモデレーションは人間には不可能な規模に対応します——が、回すダイヤルはどれも、ある害を別の害と引き換えにします。逃れられないトレードオフを解説します。
#moderation#trust-and-safety#operations
05-24 15:19·7 分