タグ
#alignment
3件の記事
research
RLHFが実際に行っていること
RLHFは、生のテキスト予測器を対話できる存在へと変えるステップです。それが実際に何を変えるのか——そして同じくらい重要な、何を変えないのかを解説します。
#rlhf#alignment#fine-tuning
05-25 15:07·7 分
research
ベンチマークを越えた評価：人間とモデルの審判
ベンチマークは採点しやすいものを測ります。自由形式の仕事には判断が要ります——人から、あるいは人の代わりを務めるモデルから。どちらも人を惑わせえます。
#evaluation#llm-as-judge#benchmarks
05-06 16:53·7 分
research
事前学習・ファインチューニング・アライメントの違い
モデルがどう作られるかを説明するとき、三つの言葉が混同されがちです。これらは異なる役割を持つ別々の段階です。それぞれが何をするのかを解説します。
#pretraining#fine-tuning#alignment
04-08 17:04·7 分