【LangChainのFew-shot prompt templatesとは？】使い方を解説

Few-shot prompt templatesとは

Few-shot prompt templatesは、Langchainが提供する強力な機能の一つです。少数の例（“few-shot”）を使用して、言語モデルを特定のタスクに適応させるためのプロンプトを生成することができます。Few-shot prompt templatesにより、言語モデルがユーザーによる入力とそれに対する適切な出力のパターンを学ぶことができます。

Few-shot prompt templatesの使い方

基本の使い方

Few-shot prompt templatesの具体的な使用方法は、以下のコードのようになります。

コード1

from langchain.prompts.few_shot import FewShotPromptTemplate
from langchain.prompts.prompt import PromptTemplate

examples = [
    {
        "question": "Who lived longer, Muhammad Ali or Alan Turing?",
        "answer": """
Are follow up questions needed here: Yes.
Follow up: How old was Muhammad Ali when he died?
Intermediate answer: Muhammad Ali was 74 years old when he died.
Follow up: How old was Alan Turing when he died?
Intermediate answer: Alan Turing was 41 years old when he died.
So the final answer is: Muhammad Ali
""",
    },
    {
        "question": "When was the founder of craigslist born?",
        "answer": """
Are follow up questions needed here: Yes.
Follow up: Who was the founder of craigslist?
Intermediate answer: Craigslist was founded by Craig Newmark.
Follow up: When was Craig Newmark born?
Intermediate answer: Craig Newmark was born on December 6, 1952.
So the final answer is: December 6, 1952
""",
    },
    {
        "question": "Who was the maternal grandfather of George Washington?",
        "answer": """
Are follow up questions needed here: Yes.
Follow up: Who was the mother of George Washington?
Intermediate answer: The mother of George Washington was Mary Ball Washington.
Follow up: Who was the father of Mary Ball Washington?
Intermediate answer: The father of Mary Ball Washington was Joseph Ball.
So the final answer is: Joseph Ball
""",
    },
]

example_prompt = PromptTemplate(
    input_variables=["question", "answer"], template="Question: {question}\n{answer}"
)

prompt = FewShotPromptTemplate(
    examples=examples,
    example_prompt=example_prompt,
    suffix="Question: {input}",
    input_variables=["input"],
)

print(prompt.format(input="Who was the father of Mary Ball Washington?"))

このコードの処理の流れは、以下のようになっています。

初めに、必要なクラスをインポートします。

FewShotPromptTemplate：少数の例文を提示するためのプロンプトテンプレートを作るクラス
PromptTemplate：プロンプトのフォーマットを定義するクラス

examplesという変数に言語モデルに与える少数の例を定義しています。各例は、入力変数と出力変数の辞書となっています。ここでは、questionとanswerが入力変数と出力変数です。
PromptTemplateクラスを使って、手順2.で定義したexamplesをどのような文字列のテンプレートに変換するのかを指定するインスタンスexample_promptを作成しています。input_variablesは変数のリストです。Question: {question}\n{answer}というテンプレートを使っています。
FewShotPromptTemplateクラスによるインスタンスを作ります。引数examplesは手順2.で定義したexamplesを受け取り、引数example_promptは手順3.で作成したexample_promptを受け取ります。これによって、少数の例を与えるためのプロンプトテンプレートができます。さらに、引数suffixで、ユーザーによる入力のプロンプトを追加しています。
最後に、print(prompt.format(input="Who was the father of Mary Ball Washington?"))で、プロンプトテンプレートに変数を代入してプロンプトを作成し、その結果を表示すると、次のような結果が得られます。

Question: Who lived longer, Muhammad Ali or Alan Turing?

Are follow up questions needed here: Yes.
Follow up: How old was Muhammad Ali when he died?
Intermediate answer: Muhammad Ali was 74 years old when he died.
Follow up: How old was Alan Turing when he died?
Intermediate answer: Alan Turing was 41 years old when he died.
So the final answer is: Muhammad Ali


Question: When was the founder of craigslist born?

Are follow up questions needed here: Yes.
Follow up: Who was the founder of craigslist?
Intermediate answer: Craigslist was founded by Craig Newmark.
Follow up: When was Craig Newmark born?
Intermediate answer: Craig Newmark was born on December 6, 1952.
So the final answer is: December 6, 1952


Question: Who was the maternal grandfather of George Washington?

Are follow up questions needed here: Yes.
Follow up: Who was the mother of George Washington?
Intermediate answer: The mother of George Washington was Mary Ball Washington.
Follow up: Who was the father of Mary Ball Washington?
Intermediate answer: The father of Mary Ball Washington was Joseph Ball.
So the final answer is: Joseph Ball


Question: Who was the father of Mary Ball Washington?

ExampleSelector

LangChainにはExampleSelectorという機能があり、ExampleSelectorをFew-shot prompt templatesと組み合わせることで、ユーザーが提示する少数の例（“few-shot”）のうち、言語モデルへの入力に類似した例を選んで、その例を与えるプロンプトを作ることができます。

ExampleSelectorとFew-shot prompt templatesを組み合わせた使い方は、以下のコードのようになります。

コード2

from langchain.prompts.example_selector import SemanticSimilarityExampleSelector
from langchain_community.vectorstores import Chroma
from langchain_openai import OpenAIEmbeddings

example_selector = SemanticSimilarityExampleSelector.from_examples(
    # This is the list of examples available to select from.
    examples,
    # This is the embedding class used to produce embeddings which are used to measure semantic similarity.
    OpenAIEmbeddings(),
    # This is the VectorStore class that is used to store the embeddings and do a similarity search over.
    Chroma,
    # This is the number of examples to produce.
    k=1,
)

example_prompt = PromptTemplate(
    input_variables=["question", "answer"], template="Question: {question}\n{answer}"
)

prompt = FewShotPromptTemplate(
    example_selector=example_selector,
    example_prompt=example_prompt,
    suffix="Question: {input}",
    input_variables=["input"],
)

print(prompt.format(input="Who was the father of Mary Ball Washington?"))

このコードの処理の流れは、以下のようになっています。

初めに、必要なクラスをインポートしています。

SemanticSimilarityExampleSelector：意味的類似性に基づいて例を選択するためのクラス
OpenAIEmbeddings：意味的類似性を測定するために使用される埋め込みベクトルを生成するクラス
Chroma：埋め込みベクトルから類似性検索を行うためのクラス

SemanticSimilarityExampleSelectorクラスのインスタンスexample_selectorを作成しています。このインスタンスは、examples（選択可能な例のリスト）、OpenAIEmbeddings（埋め込みを生成するクラス）、Chroma（ベクトルを保存し、類似性検索を行うクラス）、およびk（生成する例の数）を引数に取ります。examplesは、コード1で定義したexamplesと同じものとします。
PromptTemplateクラスを使って、examplesをどのような文字列のテンプレートに変換するのかを指定するインスタンスexample_promptを作成しています。input_variablesは変数のリストです。Question: {question}\n{answer}というテンプレートを使っています。
FewShotPromptTemplateのインスタンスを作成します。このインスタンスは、example_selector（例を選択するためのインスタンス）、example_prompt（各例をフォーマットするためのインスタンス）、suffix（ユーザーによる入力のプロンプト）、およびinput_variables（入力変数のリスト）を引数に取ります。
最後に、print(prompt.format(input="Who was the father of Mary Ball Washington?"))で、プロンプトテンプレートに変数を代入してプロンプトを作成し、その結果を表示すると、次のような結果が得られます。

Question: Who was the maternal grandfather of George Washington?

Are follow up questions needed here: Yes.
Follow up: Who was the mother of George Washington?
Intermediate answer: The mother of George Washington was Mary Ball Washington.
Follow up: Who was the father of Mary Ball Washington?
Intermediate answer: The father of Mary Ball Washington was Joseph Ball.
So the final answer is: Joseph Ball


Question: Who was the father of Mary Ball Washington?

今回の場合、ユーザーによる入力のプロンプトQuestion: Who was the father of Mary Ball Washington?と類似している例として、

Question: Who was the maternal grandfather of George Washington?

Are follow up questions needed here: Yes.
Follow up: Who was the mother of George Washington?
Intermediate answer: The mother of George Washington was Mary Ball Washington.
Follow up: Who was the father of Mary Ball Washington?
Intermediate answer: The father of Mary Ball Washington was Joseph Ball.
So the final answer is: Joseph Ball

が選ばれたということになります。

まとめ

この記事では、LangChainのFew-shot prompt templatesについて解説しました。言語モデルを特定のタスクに適応させたい時に、このテンプレートを使用しましょう。また、ExampleSelectorをFew-shot prompt templatesと組み合わせることで、ユーザーが提示する少数の例（“few-shot”）のうち、言語モデルへの入力に類似した例を選んで、その例を与えるプロンプトを作ることができます。

参考文献

備考

LLM を業務で活用したり、自社のサービスに組み込みたくありませんか？Hakky では、AI を用いた企業独自のシステムを構築するご支援を行っています。ソリューションサイト：https://www.about.st-hakky.com/chatgpt-solution

「どんなことが出来るのか」「いま考えているこのようなことは本当に実現可能か」など、ご検討段階でも構いませんので、ぜひお気軽にフォームよりお問い合わせくださいませ。