マルチターン会話
ここでは、DynamoDB に会話履歴を保存して文脈を保つマルチターン会話を扱います。合わせて、履歴が伸び続けたときにコンテキスト長・料金が膨らむのを防ぐ長さ管理についても扱います。
1. マルチターン会話
1.1 マルチターン会話の概要
Bedrockを使ってみよう で扱ったLambdaのコードは、質問1件をモデルに投げて応答1件を受け取る「1問1答」の呼び出しでした。この方式ではモデルは前の会話を覚えていないため、「今何時?」→「その3時間後は?」のように前の応答を踏まえた質問には答えられません。
マルチターン会話は、過去のやり取りをすべてモデルに渡すことで、会話の文脈を保持できるようにする仕組みです。
Lambda 関数はステートレスなので、呼び出し間で会話履歴を保持するには外部ストレージが必要です。今回は session_id をキーに DynamoDB へ履歴を保存し、次の呼び出しで同じ session_id を指定するだけで会話を続けられる形にします。
1.2 Lambdaのコード変更
bedrock-agent 関数の「コード」タブを開き、index.py を以下の内容に置き換えます。
import os
import boto3
MODEL_ID = os.environ["MODEL_ID"]
TABLE_NAME = os.environ["TABLE_NAME"]
REGION = "ap-northeast-1"
bedrock = boto3.client("bedrock-runtime", region_name=REGION)
table = boto3.resource("dynamodb", region_name=REGION).Table(TABLE_NAME)
def lambda_handler(event, context):
session_id = event["session_id"]
question = event["question"]
result = table.get_item(Key={"session_id": session_id})
messages = result.get("Item", {}).get("messages", [])
messages.append({"role": "user", "content": [{"text": question}]})
response = bedrock.converse(
modelId=MODEL_ID,
messages=messages,
)
output_message = response["output"]["message"]
messages.append(output_message)
table.put_item(Item={"session_id": session_id, "messages": messages})
answer = "".join(
block["text"] for block in output_message["content"] if "text" in block
)
return {"answer": answer}
貼り付けたら「Deploy」を押して反映します。
1.3 コードの解説
table = boto3.resource("dynamodb", region_name=REGION).Table(TABLE_NAME)
DynamoDB を扱うため、テーブルオブジェクトを取得しています。boto3.resource を使うと、Python の辞書やリストをそのまま put_item に渡せるので、{"S": ...} などの型指定を書かなくて済みます。
session_id = event["session_id"]
question = event["question"]
呼び出し側から session_id(会話を識別するキー)と question(今回の質問)を受け取ります。会話履歴そのものを受け取る必要はなく、session_id があれば DynamoDB から取り出せる設計です。
result = table.get_item(Key={"session_id": session_id})
session_id をキーに DynamoDB からアイテムを取得します。取得結果は result に入ります。
messages = result.get("Item", {}).get("messages", [])
result の中から過去の会話履歴(messages 属性)を取り出し、Python の messages 変数にセットします。これで、このあと今回の質問を追記して Bedrock に渡すための「土台となる会話履歴」が messages に入った状態になります。初回は DynamoDB にアイテムが存在しないので、.get("Item", {}) で空辞書にフォールバックし、その中の messages も空リストで扱います。
messages.append({"role": "user", "content": [{"text": question}]})
取り出した履歴に、今回のユーザ発言を追記します。
response = bedrock.converse(
modelId=MODEL_ID,
messages=messages,
)
output_message = response["output"]["message"]
messages.append(output_message)
converse に履歴を丸ごと渡してモデルの応答を受け取り、次のターンに備えて messages にモデル応答も追記します。ここまでは基本的な Converse 呼び出しの流れです。
table.put_item(Item={"session_id": session_id, "messages": messages})
更新した履歴(ユーザ発言 + モデル応答まで含む)を DynamoDB に保存し直します。同じ session_id に対する put_item は上書きになるので、常に最新状態が保たれます。
answer = "".join(
block["text"] for block in output_message["content"] if "text" in block
)
return {"answer": answer}
モデル応答からテキスト部分を取り出し、answer として返します。履歴は DynamoDB に保存済みなので、レスポンスに含めて呼び出し側に返す必要はありません。
1.4 動作確認
「テスト」タブから、以下の内容で最初のテストイベントを作成して実行します。イベント名は任意(例: turn1)です。
{
"session_id": "test-session-1",
"question": "こんにちは。私の名前はTaroです。"
}
AI の応答は毎回まったく同じにはならないので、以下は一例です。以下のポイントが押さえられていれば成功です。
- 応答に
Taroへの挨拶や、名前を認識したことに触れる内容が含まれる
{
"answer": "こんにちは、Taroさん!お名前を教えていただきありがとうございます。今日はどのようなお手伝いができるでしょうか?"
}
続いて、session_id はそのままで質問だけを書き換えた2ターン目を試します。
{
"session_id": "test-session-1",
"question": "私の名前を覚えていますか?"
}
このターンでは、以下のポイントが押さえられていれば成功です。
- 応答に
Taroという名前が含まれており、モデルが前ターンの内容を覚えていることが分かる
{
"answer": "はい、覚えていますよ。あなたのお名前はTaroさんですね。"
}
1問1答の呼び出しでは絶対に返ってこない応答なので、DynamoDB に履歴を保存することで文脈が保たれていることが確認できます。
1.5 DynamoDBに保存された履歴を確認する
Lambda の応答だけでなく、DynamoDB 側で「実際に会話履歴が保存されているか」も直接確認してみます。
DynamoDBコンソールを開き、左メニューの項目を探索をクリックします。テーブル一覧から bedrock-agent-sessions を選び、右側の「項目のスキャンまたはクエリ」で「スキャン」を選択したまま、実行するをクリックします。返された項目の欄に session_id が test-session-1 のアイテムが1件並んでいれば、DynamoDB に会話履歴が保存されている状態です。
messages 列の値をコピーして展開すると、以下のように DynamoDB のマップ/リスト形式で保存されていることが分かります。
[
{
"M": {
"content": {
"L": [
{ "M": { "text": { "S": "こんにちは。私の名前はTaroです。" } } }
]
},
"role": { "S": "user" }
}
},
{
"M": {
"content": {
"L": [
{ "M": { "text": { "S": "こんにちは、Taroさん!はじめまして😊\n\n何かお手伝いできることはありますか?お気軽にどうぞ!" } } }
]
},
"role": { "S": "assistant" }
}
},
{
"M": {
"content": {
"L": [
{ "M": { "text": { "S": "私の名前を覚えていますか?" } } }
]
},
"role": { "S": "user" }
}
},
{
"M": {
"content": {
"L": [
{ "M": { "text": { "S": "はい、もちろんです!あなたのお名前は **Taro** さんですね😊\n\n何かご質問やお手伝いできることはありますか?" } } }
]
},
"role": { "S": "assistant" }
}
}
]
DynamoDB は保存する値ごとに型を付ける仕様で、M はマップ(辞書)、L はリスト、S は文字列を表します。Lambda 側の Python コード上では [{"role": "user", "content": [{"text": "..."}]}, ...] という素朴な形で扱っていた履歴が、DynamoDB 側ではこのように型注釈で包まれた形で保存されています(boto3.resource("dynamodb") がこの変換を自動でやってくれるので、Python コード側では意識せずに書けます)。
role: user と role: assistant のブロックが交互に4件並んでいるのは、1ターン目・2ターン目のやり取り(ユーザ発言→モデル応答×2ターン)がそのまま蓄積されているためです。次の呼び出しで Lambda が同じ session_id を使って get_item すると、この履歴が復元され、モデルが Taro という名前を覚えているように振る舞える、という一連の流れをここで実際に目で見て確認できます。
| 💡 ポイント |
|---|
Lambda に渡すパラメータの session_id を別の文字列(例: test-session-2)に変えれば、独立した新しい会話として扱えます。同じ session_id を渡し続ければ前の会話の続きになり、違う session_id を渡せば別の会話が始まる、というシンプルな仕組みです。 |
2. 会話履歴の長さ管理
2.1 会話履歴の長さ管理の概要
前セクションのマルチターン実装をそのまま運用に載せると、DynamoDB に保存する messages は会話を重ねるたびに際限なく伸びていきます。すると、次の2つの問題が起きます。
- コンテキスト長の上限: モデルが1リクエストで受け取れるトークン数には上限があり、超えるとエラーで拒否される
- 料金とレイテンシの増加: Bedrockはリクエスト・レスポンスのトークン数で課金されるため、履歴が長いほど1ターンあたりのコストと応答時間が増える
実運用では、履歴のサイズをコントロールする仕組みを入れておくのが定石です。今回はもっともシンプルな「最新N件だけを残す」アプローチで対応します。要約による圧縮やトークン数実測による打ち切りといった高度なアプローチもありますが、まずは動きを体感しやすい方式から始めます。
2.2 Lambdaのコード変更
前セクションの index.py に、MAX_MESSAGES 定数と、DynamoDB から取得した messages を直近 MAX_MESSAGES 件に切り詰める処理を追加します。index.py を以下の内容に置き換えます。
import os
import boto3
MODEL_ID = os.environ["MODEL_ID"]
TABLE_NAME = os.environ["TABLE_NAME"]
REGION = "ap-northeast-1"
MAX_MESSAGES = 6
bedrock = boto3.client("bedrock-runtime", region_name=REGION)
table = boto3.resource("dynamodb", region_name=REGION).Table(TABLE_NAME)
def lambda_handler(event, context):
session_id = event["session_id"]
question = event["question"]
result = table.get_item(Key={"session_id": session_id})
messages = result.get("Item", {}).get("messages", [])
if len(messages) > MAX_MESSAGES:
messages = messages[-MAX_MESSAGES:]
messages.append({"role": "user", "content": [{"text": question}]})
response = bedrock.converse(
modelId=MODEL_ID,
messages=messages,
)
output_message = response["output"]["message"]
messages.append(output_message)
table.put_item(Item={"session_id": session_id, "messages": messages})
answer = "".join(
block["text"] for block in output_message["content"] if "text" in block
)
return {"answer": answer}
貼り付けたら「Deploy」を押して反映します。
2.3 コードの解説
MAX_MESSAGES = 6
DynamoDB から取得した messages に残す件数の上限を定義しています。今回は挙動が観察しやすいよう 6 にしていますが、実運用ではトークン上限や1ターンあたりの平均長を踏まえて数十〜数百のオーダーで調整します。
if len(messages) > MAX_MESSAGES:
messages = messages[-MAX_MESSAGES:]
DynamoDB から取得した履歴が上限を超えていたら、直近の MAX_MESSAGES 件だけに切り詰めます。今回の質問を積む前に切っているのがポイントで、これから加える発言 + モデル応答が上限内に収まる形にしてから会話を進めます。切り詰めた履歴はモデル呼び出しの後で put_item によって DynamoDB に上書き保存されるため、次のターン以降も履歴が肥大化することはありません。
2.4 動作確認
前セクションで使ったセッションは履歴が残っているので、新しい session_id(例: test-session-length)で試します。まず1ターン目のテストイベントを実行します。
{
"session_id": "test-session-length",
"question": "私の名前はTaroです。覚えておいてください。"
}
続いて、同じ session_id のまま質問だけを書き換えて、複数ターン会話を重ねます。合計7〜8ターンほど投げてみてください。
{
"session_id": "test-session-length",
"question": "好きな食べ物は何ですか?"
}
{
"session_id": "test-session-length",
"question": "おすすめの本を教えてください"
}
{
"session_id": "test-session-length",
"question": "今日の天気について教えてください"
}
ある程度ターンを重ねたところで、最初の会話に登場した名前を覚えているかを確認します。
{
"session_id": "test-session-length",
"question": "私の名前を覚えていますか?"
}
AI の応答は毎回まったく同じにはならないので、以下は一例です。以下のポイントが押さえられていれば成功です。
- 応答に
Taroという名前が含まれていない - 「お名前をまだうかがっていません」「お名前を教えてください」など、名前を認識していない趣旨の応答が返る
{
"answer": "申し訳ありませんが、私はあなたのお名前を知りません。😊\n\nこの会話の中で、お名前を教えていただいていないためです。\n\nまた、私はAIですので、**会話をまたいで情報を記憶する機能がありません**。\n\nぜひお名前を教えていただければ、この会話の中では覚えておきます!😊"
}
MAX_MESSAGES を超えた古いメッセージが切り詰められているため、モデルが Taro を忘れる挙動が確認できます。前セクション(切り詰めなしのマルチターン会話)では覚えていた Taro を、履歴管理の切り詰めによって忘れる形になっています。
MAX_MESSAGES の値を大きくすれば Taro を覚え続けられるので、上限値と「モデルが覚えていられる範囲」のトレードオフを実感するには、値を変えながら同じシナリオを試してみるとよいです(session_id も変えて履歴をリセットしてから試すのがおすすめです)。なお MAX_MESSAGES は必ず偶数を指定してください。マルチターン会話は毎ターン user + assistant の2件を積む設計のため、奇数で切り詰めると直近履歴の先頭が assistant になり、Converse API のバリデーション(履歴は user から始まる必要がある)を通らなくなります。
| 💡 ポイント |
|---|
このセクションでは仕組みを体感するために DynamoDB に自前で会話履歴を保存する形にしていますが、実運用では AWS ネイティブな選択肢もあります。Bedrock Session Management APIs(現時点でプレビュー)は会話履歴保存を Bedrock 側に任せる仕組み、AgentCore Memory はフルマネージドなエージェントメモリ機能で、短期メモリ/長期メモリを扱え、session_id の管理・DynamoDB のスキーマ設計・履歴の切り詰めロジックなどを自前で組む必要がなくなります。AgentCore Memory の位置付けは AgentCore概要 で、Runtime エージェントに組み込む具体的な手順は AgentCore Memoryで会話履歴を保持しよう で扱います。 |