태그
#alignment
3개 기사
research
RLHF가 실제로 하는 일
RLHF는 날것의 텍스트 예측기를 대화할 수 있는 무언가로 바꾸는 단계입니다. 그것이 실제로 무엇을 바꾸는지 — 그리고 못지않게 중요한, 무엇을 바꾸지 않는지 살펴봅니다.
#rlhf#alignment#fine-tuning
05-25 15:07·7 분
research
벤치마크를 넘어선 평가: 사람 심사자와 모델 심사자
벤치마크는 점수 매기기 쉬운 것을 측정합니다. 열린 과제에는 판단이 필요합니다. 사람에게서든, 사람을 대신하는 모델에게서든. 둘 다 오도할 수 있습니다.
#evaluation#llm-as-judge#benchmarks
05-06 16:53·7 분
research
사전학습 vs 파인튜닝 vs 정렬
모델이 어떻게 만들어지는지 설명할 때 세 단어가 뭉뚱그려집니다. 이들은 각기 다른 일을 하는 다른 단계입니다. 각각이 무엇을 하는지 짚어 봅니다.
#pretraining#fine-tuning#alignment
04-08 17:04·7 분