チュートリアル / 学習・モデル
人の評価を学習に変える考え方：評価の観点を設計する
RLHF の中心にあるのは、人の比較評価です。実際に学習を回さなくても、評価の観点を設計する作業は同じ手順で行えます。自社の回答品質チェックにもそのまま使えます。
手
手順
対象の回答を 1 種類選ぶ
品質をそろえたい回答を 1 つ選びます。
確認ポイント：「毎回ばらつく」と感じる回答かよい／悪いを分ける観点を挙げる
判断の基準になりそうな観点を 5 つ書き出します。
確認ポイント：観点どうしが重複していないか観点を 3 つに絞る
実際に判断に使う観点を 3 つまでに絞ります。
確認ポイント：依頼者が説明できる観点か同じ回答を 2 つ並べる
既存の回答例を 2 つ並べ、観点ごとに優劣を付けます。
確認ポイント：判断が割れた観点はどれか記録と見直しを決める
評価の記録欄と、見直しの時期を決めます。
確認ポイント：評価者が後から理由を説明できる形か
Q
つまずきポイント
評価が人によって分かれる
観点の説明文を先に整え、判断に迷ったときの扱いを決めてから評価を始めます。
評価の作業が続かない
1 回あたりの件数を絞り、見直しの周期を決めてから始めます。最初から大量に集めようとすると運用が止まります。
AIクローラーの主要運営者
- Yandexクローラー39種
- Googleクローラー32種
- Baiduクローラー10種
- Amazonクローラー8種
- Metaクローラー8種
- OpenAIクローラー6種
- Anthropicクローラー6種
- Microsoftクローラー6種
- ByteDanceクローラー4種
- Mistral AIクローラー3種
- Awarioクローラー3種
- Semrushクローラー3種