cd llm-rag-api # バックエンドプロジェクトのディレクトリ
source venv/bin/activate
pip install langchain-community # Toolの定義に必要

OPENAI_API_KEY="sk-..."
OPENWEATHERMAP_API_KEY="your_openweathermap_api_key"

base_url = "http://api.openweathermap.org/data/2.5/weather"
params = {
"q": location,
"appid": OPENWEATHERMAP_API_KEY,
"units": "metric", # 摂氏で取得
"lang": "ja" # 日本語で取得
}
try:
response = requests.get(base_url, params=params)
response.raise_for_status() # HTTPエラーがあれば例外を発生
data = response.json()
if data["cod"] == 200:
weather_description = data["weather"][0]["description"]
temperature = data["main"]["temp"]
return f"{location}の現在の天気は{weather_description}、気温は{temperature}℃です。"
else:
return f"天気情報を取得できませんでした: {data.get("message", "不明なエラー")}"
except requests.exceptions.RequestException as e:
return f"天気情報APIへのリクエスト中にエラーが発生しました: {e}"

`@tool`デコレータは、Python関数をLangChainのToolとして認識させるためのものです。関数のdocstringと引数の型ヒントが、LLMがToolの使い方を理解するための重要な情報となります。
### 3.3 Agentの構築と実行
`main.py`を修正し、Agentの機能を追加します。
```python:main.py
import os
import asyncio
from fastapi import FastAPI, Request
from fastapi.responses import StreamingResponse
from pydantic import BaseModel
from dotenv import load_dotenv
from langchain_openai import ChatOpenAI
from langchain.agents import AgentExecutor, create_openai_tools_agent
from langchain_core.prompts import ChatPromptTemplate, MessagesPlaceholder
from langchain_core.messages import AIMessage, HumanMessage, ToolMessage
from rag_chain import create_rag_chain # RAG機能も引き続き利用
from tools import get_current_weather # 新しく定義したTool
# .envファイルを読み込む
load_dotenv()
app = FastAPI()
# --- RAGチェーンの初期化（前回と同じ）---
# RAGチェーンをグローバルに保持（本番ではより良い方法を検討）
# documents/my-knowledge.pdf が存在しない場合はコメントアウトするか、適切なパスを設定してください
# rag_chain = create_rag_chain("./documents/my-knowledge.pdf")
# --- Agentの初期化 ---
llm = ChatOpenAI(model="gpt-4o", temperature=0)
# Agentが利用できるツールをリストアップ
agent_tools = [
get_current_weather,
# ここに他のツールを追加できます
]
# Agentのプロンプト定義
prompt = ChatPromptTemplate.from_messages(
[
("system", "あなたは親切なAIアシスタントです。ユーザーの質問に答え、必要に応じてツールを使用してください。"),
MessagesPlaceholder(variable_name="chat_history"), # 過去の会話履歴
("human", "{input}"), # 現在のユーザー入力
MessagesPlaceholder(variable_name="agent_scratchpad"), # Agentの思考プロセス
]
)
# Agentの作成
agent = create_openai_tools_agent(llm, agent_tools, prompt)
agent_executor = AgentExecutor(agent=agent, tools=agent_tools, verbose=True)
class ChatRequest(BaseModel):
message: str
chat_history: list = [] # 過去の会話履歴を保持
@app.post("/chat")
async def chat_with_agent(request: ChatRequest):
async def stream_generator():
# LangChainのメッセージ形式に変換
lc_chat_history = []
for msg in request.chat_history:
if msg["type"] == "human":
lc_chat_history.append(HumanMessage(content=msg["content"]))
elif msg["type"] == "ai":
lc_chat_history.append(AIMessage(content=msg["content"]))
# ToolMessageも必要に応じて追加
try:
# Agentの実行をストリーム
async for chunk in agent_executor.astream(
{"input": request.message, "chat_history": lc_chat_history}
):
if "messages" in chunk:
for message in chunk["messages"]:
if isinstance(message, AIMessage):
# Agentの思考や最終回答
if message.content:
yield f"data: {message.content}\n\n"
if message.tool_calls:
# Agentがツール呼び出しを決定した場合
for tool_call in message.tool_calls:
yield f"data: Tool Call: {tool_call.name}({tool_call.args})\n\n"
elif isinstance(message, ToolMessage):
# ツールの実行結果
yield f"data: Tool Output: {message.content}\n\n"
elif "output" in chunk:
# Agentの最終出力（通常はAIMessageに含まれるが念のため）
if chunk["output"]:
yield f"data: Final Output: {chunk['output']}\n\n"
await asyncio.sleep(0.05) # ストリーミングのリアルタイム感を出すための遅延
except Exception as e:
yield f"data: Error during agent execution: {str(e)}\n\n"
print(f"Agent streaming error: {e}")
return StreamingResponse(stream_generator(), media_type="text/event-stream")
@app.get("/")
def read_root():
return {"message": "LLM Agent API is running."}