同じ種類の問題でも、モデルの解き方が回ごとに変わると、出力の形が揺れて使いにくくなります。ECHO(Self-Harmonized Chain-of-Thought)は、複数の推論経路を反復的に統合し、1つの安定した解き方の型に整える手法です。Learn Promptingの解説に沿って手順を整理します。

手順1:似た問題をクラスタにまとめる
最初の工程は、扱う問題を種類ごとに分けることです。Learn Promptingの記事は、類似した質問をクラスタ化する工程から始めると説明しています。たとえば算数の文章題なら「割合」「速さ」「場合の数」のように分けます。ここでの分け方は、実際に運用するタスクの種類に合わせます。分け方が粗いと後の統合工程が上手くいかず、細かすぎると例が足りなくなります。
手順2:クラスタごとに解答例(レーショナル)を作る
各クラスタの問題に対し、ゼロショットCoT(「段階的に考えてください」のような指示)で解答例を作ります。ECHOの対象となるのは、この段階で生まれた複数の推論経路です。Learn Promptingの記事は、ECHOが複数の推論経路を一つのパターンに整える工程を持ち、これが従来のCoTとの違いだと説明しています。
手順3:複数の解答例を反復的に統合する
ここがECHOの中心です。クラスタ内で生まれた複数の解答例を並べ、表現の揺れをそろえ、反復的に1つの一貫した推論パターンへ調整します。Learn Promptingの記事は、この「自己調和(self-harmonization)」と呼ばれる反復統合の工程が、ECHOの名前の由来だと説明しています。統合後の型が、実運用の依頼文に付ける解答例(デモンストレーション)になります。
手順4:統合した型を依頼文に付け、実際の問題を解かせる
統合済みの解答例を、実際の問題の依頼文に付けます。以後の回答は、この型に沿って返るため、出力の形が安定し、後段の処理(採点、表への転記、判定)が書きやすくなります。Learn Promptingの記事は、ECHOが算数・常識推論・記号推論のタスクで従来手法より高い正解率を示したと報告していますが、これは同記事が引用する測定条件での値です。
| 工程 | やること | 出来上がるもの |
|---|---|---|
| クラスタ化 | 似た問題を種類ごとにまとめる | 問題群の分類 |
| 解答例生成 | ゼロショットCoTで解答例を作る | 複数の推論経路 |
| 統合 | 表現をそろえ、1つの型に調整する | 一貫した解答例 |
| 適用 | 型を依頼文に付け本番問題を解かせる | 安定した回答 |
解答例の選び方そのものは、Few-shotで例を選ぶ手順で整理しています。複数の回答を投票で安定させる別の手法は、Self-Consistencyで回答を安定させる手順が参考になります。
FAQ
Q. 普通のChain-of-Thoughtと何が違いますか?
A. CoTは1つの問題について段階を追って考えさせます。ECHOは、その前提として、類似問題群から作った複数の解答例を反復的に調整し、一貫した推論パターンに整えてから渡す手法です。Learn Promptingの記事は、この統合工程が精度向上の鍵だと説明しています。
Q. Auto-CoTの問題点とは何ですか?
A. Learn Promptingの記事によれば、Auto-CoTは類似問題をクラスタ化して例を自動生成しますが、生成される例が多様すぎることがあり、ECHOはこの多様さを統合して整える方向で改良した手法とされています。
あわせて使いたいツール
統合工程も本番の実行も、チャット型LLMで試せます。料金と提供条件は各サービスの公式情報で確認してください。
出典
出典:Learn Prompting「Self-Harmonized Chain-of-Thought(ECHO)」(2024年10月23日更新、Sander Schulhoff執筆)。4工程の構成、Auto-CoTの多様性問題への位置づけ、推論タスクでの比較結果の説明は同記事に基づきます。
関連ガイド
最新のAI情報をメールで受け取る
新着のAIツール比較・ランキング・ニュースを、まとめてお届けします。
ご登録後、確認メールをお送りします。配信停止はいつでも可能です。
