LangChain のエージェントについて

概要

このページでは以下の内容を解説します。

• エージェントとツールの概要
• ツールについて
  • 代表的なツールの概要
  • ツールの導入方法
  • カスタムツールの定義方法
  • 既存のツールを調整する方法
• エージェントについて
  • 利用可能なエージェントの種類
  • エージェントの構築方法と基本的な使用方法

なおこの文書ではカスタムエージェントを取り扱いません。詳しく知りたい方は、Custom Agent を参照してください。

エージェントとツール

LangChain は、エージェントと呼ばれる機能を提供しています。 これは、ユーザーの要求を「どのような手段を使ってどういう順番で解決するか」を LLM を使って自動的に決定してくれるような機能です。

また、エージェントを使用する際には、ツールを使うことができます。 ツールは、"エージェントが世界と対話できるようにする" ための機能です。 以下にあげるものがツールとして利用できます。

• 検索などの一般的なユーティリティ
• チェーン
• 他のエージェント

これは、LLM 単独では対応困難な問題を解決するのに役立ちます。たとえば、OpenAI の GPT-4 は、2021年9月までの知識しか備えていませんが、Google 検索を行えるツールと組合わせて使用することで、時事問題にも対応できるようになります。

エージェントを構築するには、以下の三つを指定する必要があります。

1. 使用するツール

   • エージェントが使用する機能を指定します
   • 例： Google 検索機能を提供する SerpApi

2. 使用する LLM

   • 例：OpenAI

3. 使用するエージェントの種類

   • エージェントの種類で紹介しているものか、カスタムエージェントを指定します
   • 例：zero-shot-react-description

たとえば、Google 検索でしか得られない情報（明日の東京の予想最高気温など）を必要とする問題を LLM で処理したいとします。 このとき、ユーザーが手動で Google 検索を行って、その結果を LLM に渡すこともできますが、それには手間がかかります。 そこで、SerpApi を利用可能なエージェントを構築し、プロンプトを渡すことで、エージェントが自動で Google 検索を行い、その結果を LLM に渡してくれます。

このような利用例については 「エージェントを使って実行順を動的に決定する」や「エージェントをチャットモデルと組合わせて使用する」でサンプルコードを交えて紹介しています。 また、特定のリソースの取り扱いに長けたエージェントを構築したり、複数のツールを組合わせた強力なエージェントの構築例については、エージェントの使用例 を参照してください。

代表的なツールの一覧

エージェントを利用するうえでどのようなツールが利用可能なのかを把握しておくことは大切です。 代表的なツールの概要を以下の表にまとめたので参考にしてください。 なお、より詳細な情報は公式ドキュメントを参照してください。

ツールの導入方法

ツールは通常、以下のように導入します。

# ツールのロードに必用なモジュールをインポートします
from langchain.agents import load_tools

# 使用するツールをツール名の文字列のリストとして指定します
tool_names = ["serpapi"]

# ツールをロードします
tools = load_tools(tool_names)

チェーンやエージェントを含む一部のツールは、それ自体を構築するために LLM を必要とします。 そのような場合は、ツールのロード時に、以下のようにして LLM を渡します。

# 事前に LLM ラッパーを作成しておきます
from langchain.llms import OpenAI
llm = OpenAI(temperature=0.7)

from langchain.agents import load_tools
tool_names = ["serpapi", "llm-math"]

# ツールをロードする際に LLM を渡します
tools = load_tools(tool_names, llm=llm)

カスタムツールの作成

カスタムツールを定義するには、以下に挙げるいくつかの方法があります。

• Tool クラスを使用する方法
• BaseTool クラスからサブクラスを作成する方法
• @tool デコレータを使用する方法

この節ではこれらの方法を順に紹介しますが、その前に、ツールの構成要素を把握しておきましょう。

ツールの構成要素

ツールは以下の要素から構成されます

• func: ツールの呼び出し時に実行される関数（必須）

  • １つの文字列を入力とし、１つの文字列を出力する関数であればなんでもよいです

• name (str)： ツールの名前（必須）

• description (str)： ツールの説明（オプショナル）

  • この項目は、エージェントがこのツールを使うかどうかの判断基準として利用するので、できるだけ詳細に記述することをお勧めします
  • たとえば、"Use this more than the normal search if the question is about Music, like 'who is the singer of yesterday?' or 'what is the most popular song in 2022?'" のような値を設定すると、音楽関係の検索を実行する際に、このツールを優先的に利用するようになります

• return_direct (bool)： ツールが直接出力を返すかどうか（デフォルト値は False）

  • この要素を True に設定すると、ツールは出力をユーザーに直接返すようになります

Tool クラスを使用する方法

Tool クラスをインスタンス化することで、ツールを作成できます。 以下のサンプルコードでは、search.run と llm_math_chain.run という 2 つの関数を指定して、検索機能を提供するツール Search と、計算を行うツール Calculator を作成しています。

# OpenAI のラッパーをインポート
from langchain.llms import OpenAI

# LLM ラッパーを初期化
llm = OpenAI(temperature=0.7)

# SerpAPIWrapperのインポート
from langchain import SerpAPIWrapper, LLMMathChain

# serpapiのラッパーを初期化
search = SerpAPIWrapper()

# llm_math_chainのラッパーを初期化
llm_math_chain = LLMMathChain(llm=llm, verbose=True)

# カスタムツールを定義して、ツール一覧に追加
tools = [
    Tool(
        name = "Search",
        func=search.run,
        description="useful for when you need to answer questions about current events"
    ),
    Tool(
        name="Calculator",
        func=llm_math_chain.run,
        description="useful for when you need to answer questions about math"
    )
]

BaseTool クラスからサブクラスを作成する方法

BaseTool クラスを継承したサブクラスを作成することで、カスタムツールクラスを作成できます。 これには、ツール呼び出し時に実行される _run メソッドと、ツールが非同期に呼び出された際に実行される _arun メソッドの実装が必要です。

# OpenAI のラッパーをインポート
from langchain.llms import OpenAI
# LLM ラッパーを初期化
llm = OpenAI(temperature=0.7)


# SerpAPIWrapperのインポート
from langchain import SerpAPIWrapper, LLMMathChain
# serpapiのラッパーを初期化
search = SerpAPIWrapper()
# llm_math_chainのラッパーを初期化
llm_math_chain = LLMMathChain(llm=llm, verbose=True)

# BaseTool クラスのインポート
from langchain.agents import BaseTool

# 検索を行うツールを定義
class CustomSearchTool(BaseTool):
    name = "Search"
    description = "useful for when you need to answer questions about current events"

    def _run(self, query: str) -> str:
        """Use the tool."""
        return search.run(query)

    async def _arun(self, query: str) -> str:
        """Use the tool asynchronously."""
        raise NotImplementedError("BingSearchRun does not support async")

# 計算を行うツールを定義
class CustomCalculatorTool(BaseTool):
    name = "Calculator"
    description = "useful for when you need to answer questions about math"

    def _run(self, query: str) -> str:
        """Use the tool."""
        return llm_math_chain.run(query)

    async def _arun(self, query: str) -> str:
        """Use the tool asynchronously."""
        raise NotImplementedError("BingSearchRun does not support async")

これらのカスタムツールをツール一覧に追加するには、以下のようにします。

# ツールの一覧を定義
tools = [
    CustomSearchTool(),
    CustomCalculatorTool()
]

@tool デコレータを使用する方法

@tool デコレータを使用することで、非常に簡単にツールを作成できます。

デコレーターは、デフォルトでツール名として関数名を使用します。ただし、最初の引数として文字列を渡すことでこれをオーバーライドすることができます。さらに、デコレーターは、ツールの説明として関数のdocstring を使用します。

# OpenAI のラッパーをインポート
from langchain.llms import OpenAI
# LLM ラッパーを初期化
llm = OpenAI(temperature=0.7)


# SerpAPIWrapperのインポート
from langchain import SerpAPIWrapper, LLMMathChain
# serpapiのラッパーを初期化
search = SerpAPIWrapper()
# llm_math_chainのラッパーを初期化
llm_math_chain = LLMMathChain(llm=llm)

# tool デコレーターをインポート
from langchain.agents import tool

# tool デコレーターを使ってツールを定義
@tool
def search_api(query: str) -> str:
    """useful for when you need to answer questions about current events"""
    return search.run(query)

# ツール名や直接返すかどうかなどを指定する場合
@tool(name="Calculator", direct=False)
def calculator(query: str) -> str:
    """useful for when you need to answer questions about math"""
    return llm_math_chain.run(query)

既存のツールを調整して利用する

ツールの構成要素で紹介したように、ツールはいくつかの設定可能な要素から構成されています。 特に description は、エージェントがツールを選択する際の基準となるため非常に重要です。 しかし、既存のツールを利用する場合これらの項目が設定済みのため、そのまま使用するとツールの優先順位の調整などが難しいように思えます。

ですが、実のところ、既存のツールであっても非常に簡単に構成要素を調整することができます。 以下のサンプルコードでは、 serpapi ツールの name を Search Tool に変更する方法を示します。

from langchain.agents import load_tools

# ツールをロード
tools = load_tools(["serpapi"])

# ロードしたツールの中から一番目のものの名前を変更
tools[0].name = "Google Search"

エージェントの種類

エージェントは LLM を使用して、「どのアクションをどのような順序で行うか」を決定します。 ここで「アクション」とは、ツールを使用して出力を得たり、ユーザに応答を返したりすることを指します。

LangChain で利用できる基本的なエージェントは以下に示す６種です。 これらのエージェントの使用例は、公式ドキュメント内のリンクから参照してください。

また、この文書では、カスタムエージェントの作成方法についての解説も省きます。 カスタムエージェントの作成方法については、公式ドキュメント内のリンクからご参照ください。

zero-shot-react-description および chat-zero-shot-react-description

このエージェントは、ReAct フレームワークを使用して、ツールの説明のみに基づいて、どのツールを使用するかを決定します。このエージェントを構築する際には、ツールをいくつでも指定することができます。ただし、このエージェントに渡すツールには説明が用意されている必要があります。

react-docstore

このエージェントは、ReAct フレームワークを使用して、docstore と対話します。このエージェントを構築する際には以下の２つのツールを指定する必要があります。

• Search: 文書を見つけだすためのツール
• Lookup: 見つけた文書から用語を見つけ出すためのツール

このエージェントは、ReAct のオリジナル論文、特に Wikipedia の例と同等のものです。

self-ask-with-search

このエージェントは、Intermediate Answer と名付けられた単一のツールのみを利用します。このツールは「質問に対して事実に則した答えを見つけ出す」ことができる必要があります。

なお、このエージェントは、Google 検索 API をツールとして提供した、オリジナルの self ask with search paper と同等です。

conversational-react-description および chat-conversational-react-description

このエージェントは会話に最適化されたエージェントを構築するのに役立ちます。他のエージェントは、ツールを使って最適な応答を見つけ出すために最適化されていることが多いですが、これは、エージェントがユーザとチャットもできるようにしたいような会話型の設定では理想的ではありません。対照的に、このエージェントでは、メモリコンポーネントと共に使用することを想定して設計されているため、ユーザの発言を記憶して、より自然な会話を行うことができます

プロンプトは、エージェントが親切で会話しやすいように設計されており、どのツールを使うかを決めるのには ReAct フレームワークを使います。

エージェントの構築方法

先の節で紹介したエージェントを利用するには、initialize_agent メソッドで

• 使用するツールの一覧
• 使用する言語モデル
• 使用するエージェントの種類

を指定します。

from langchain.agents import load_tools
from langchain.agents import initialize_agent
from langchain.chat_models import ChatOpenAI
from langchain.llms import OpenAI

# LLM ラッパーを初期化
llm = OpenAI(temperature=0.7)

# ツールの一覧を作成します
# `llm-math` ツールを使うのに LLM が必要であることに注意してください
tools = load_tools(["serpapi", "llm-math"], llm=llm)

# エージェントを初期化します
# 初期化時には、使用するツールの一覧と、使用する言語モデル, エージェントの種類を指定します
# ここで指定している "zero-shot-react-description" というエージェントは、ツールの説明のみに基づいて、どのツールを使用するかを決定してくれます
agent = initialize_agent(tools, llm, agent="zero-shot-react-description")

さらに、ここで作成した agent の run メソッドを呼び出すことで、ユーザの発言に対して、エージェントが応答を生成します。

agent.run("昨日の東京の最高気温は何度でしたか？摂氏温度でお答え下さい。また、その数値を x としたとき、x^0.23 は何ですか？")

参考文献

• LangChain 公式ドキュメント | Agents | Getting Started
• LangChain 公式ドキュメント | Agents | Tools | Getting Started
• LangChain 公式ドキュメント | Agents | Agents

～AIの力をビジネスに～

生成 AI を業務で活用したり、自社のサービスに組み込みたくありませんか？Hakky では、AI を用いた企業独自のシステムを構築するご支援を行っています。 ソリューションサイト：https://www.about.st-hakky.com/chatgpt-solution

「どんなことが出来るのか」「いま考えているこのようなことは本当に実現可能か」など、ご検討段階でも構いませんので、ぜひお気軽にフォームよりお問い合わせくださいませ。