标签
#alignment
3 篇文章
research
RLHF 究竟做了什么
RLHF 是把一个原始文本预测器变成你能对话之物的那一步。本文谈它究竟改变了什么——以及同样重要的，它没有改变什么。
#rlhf#alignment#fine-tuning
05-25 15:07·7 分钟
research
超越基准的评估：人类与模型裁判
基准测量的是易于打分的东西。对于开放式的工作，你需要判断——来自人，或来自代替人的模型。两者都可能误导你。
#evaluation#llm-as-judge#benchmarks
05-06 16:53·7 分钟
research
预训练、微调与对齐
人们描述模型是怎么造出来的时候，常把这三个词混作一团。它们是各司其职的不同阶段。下面讲清楚每个阶段都在做什么。
#pretraining#fine-tuning#alignment
04-08 17:04·7 分钟