マルチターン会話

ここでは、DynamoDB に会話履歴を保存して文脈を保つマルチターン会話を扱います。合わせて、履歴が伸び続けたときにコンテキスト長・料金が膨らむのを防ぐ長さ管理についても扱います。

1. マルチターン会話

1.1 マルチターン会話の概要

Bedrockを使ってみよう で扱ったLambdaのコードは、質問1件をモデルに投げて応答1件を受け取る「1問1答」の呼び出しでした。この方式ではモデルは前の会話を覚えていないため、「今何時?」→「その3時間後は?」のように前の応答を踏まえた質問には答えられません。

マルチターン会話は、過去のやり取りをすべてモデルに渡すことで、会話の文脈を保持できるようにする仕組みです。

Lambda 関数はステートレスなので、呼び出し間で会話履歴を保持するには外部ストレージが必要です。今回は session_id をキーに DynamoDB へ履歴を保存し、次の呼び出しで同じ session_id を指定するだけで会話を続けられる形にします。

1.2 Lambdaのコード変更

bedrock-agent 関数の「コード」タブを開き、index.py を以下の内容に置き換えます。

import os
import boto3

MODEL_ID = os.environ["MODEL_ID"]
TABLE_NAME = os.environ["TABLE_NAME"]
REGION = "ap-northeast-1"

bedrock = boto3.client("bedrock-runtime", region_name=REGION)
table = boto3.resource("dynamodb", region_name=REGION).Table(TABLE_NAME)

def lambda_handler(event, context):
    session_id = event["session_id"]
    question = event["question"]

    result = table.get_item(Key={"session_id": session_id})
    messages = result.get("Item", {}).get("messages", [])

    messages.append({"role": "user", "content": [{"text": question}]})

    response = bedrock.converse(
        modelId=MODEL_ID,
        messages=messages,
    )

    output_message = response["output"]["message"]
    messages.append(output_message)

    table.put_item(Item={"session_id": session_id, "messages": messages})

    answer = "".join(
        block["text"] for block in output_message["content"] if "text" in block
    )
    return {"answer": answer}

貼り付けたら「Deploy」を押して反映します。

1.3 コードの解説

table = boto3.resource("dynamodb", region_name=REGION).Table(TABLE_NAME)

DynamoDB を扱うため、テーブルオブジェクトを取得しています。boto3.resource を使うと、Python の辞書やリストをそのまま put_item に渡せるので、{"S": ...} などの型指定を書かなくて済みます。

session_id = event["session_id"]
question = event["question"]

呼び出し側から session_id(会話を識別するキー)と question(今回の質問)を受け取ります。会話履歴そのものを受け取る必要はなく、session_id があれば DynamoDB から取り出せる設計です。

result = table.get_item(Key={"session_id": session_id})

session_id をキーに DynamoDB からアイテムを取得します。取得結果は result に入ります。

messages = result.get("Item", {}).get("messages", [])

result の中から過去の会話履歴(messages 属性)を取り出し、Python の messages 変数にセットします。これで、このあと今回の質問を追記して Bedrock に渡すための「土台となる会話履歴」が messages に入った状態になります。初回は DynamoDB にアイテムが存在しないので、.get("Item", {}) で空辞書にフォールバックし、その中の messages も空リストで扱います。

messages.append({"role": "user", "content": [{"text": question}]})

取り出した履歴に、今回のユーザ発言を追記します。

response = bedrock.converse(
    modelId=MODEL_ID,
    messages=messages,
)

output_message = response["output"]["message"]
messages.append(output_message)

converse に履歴を丸ごと渡してモデルの応答を受け取り、次のターンに備えて messages にモデル応答も追記します。ここまでは基本的な Converse 呼び出しの流れです。

table.put_item(Item={"session_id": session_id, "messages": messages})

更新した履歴(ユーザ発言 + モデル応答まで含む)を DynamoDB に保存し直します。同じ session_id に対する put_item は上書きになるので、常に最新状態が保たれます。

answer = "".join(
    block["text"] for block in output_message["content"] if "text" in block
)
return {"answer": answer}

モデル応答からテキスト部分を取り出し、answer として返します。履歴は DynamoDB に保存済みなので、レスポンスに含めて呼び出し側に返す必要はありません。

1.4 動作確認

「テスト」タブから、以下の内容で最初のテストイベントを作成して実行します。イベント名は任意(例: turn1)です。

{
  "session_id": "test-session-1",
  "question": "こんにちは。私の名前はTaroです。"
}

AI の応答は毎回まったく同じにはならないので、以下は一例です。以下のポイントが押さえられていれば成功です。

  • 応答に Taro への挨拶や、名前を認識したことに触れる内容が含まれる
{
  "answer": "こんにちは、Taroさん!お名前を教えていただきありがとうございます。今日はどのようなお手伝いができるでしょうか?"
}

続いて、session_id はそのままで質問だけを書き換えた2ターン目を試します。

{
  "session_id": "test-session-1",
  "question": "私の名前を覚えていますか?"
}

このターンでは、以下のポイントが押さえられていれば成功です。

  • 応答に Taro という名前が含まれており、モデルが前ターンの内容を覚えていることが分かる
{
  "answer": "はい、覚えていますよ。あなたのお名前はTaroさんですね。"
}

1問1答の呼び出しでは絶対に返ってこない応答なので、DynamoDB に履歴を保存することで文脈が保たれていることが確認できます。

1.5 DynamoDBに保存された履歴を確認する

Lambda の応答だけでなく、DynamoDB 側で「実際に会話履歴が保存されているか」も直接確認してみます。

DynamoDBコンソールを開き、左メニューの項目を探索をクリックします。テーブル一覧から bedrock-agent-sessions を選び、右側の「項目のスキャンまたはクエリ」で「スキャン」を選択したまま、実行するをクリックします。返された項目の欄に session_id が test-session-1 のアイテムが1件並んでいれば、DynamoDB に会話履歴が保存されている状態です。

messages 列の値をコピーして展開すると、以下のように DynamoDB のマップ/リスト形式で保存されていることが分かります。

[
  {
    "M": {
      "content": {
        "L": [
          { "M": { "text": { "S": "こんにちは。私の名前はTaroです。" } } }
        ]
      },
      "role": { "S": "user" }
    }
  },
  {
    "M": {
      "content": {
        "L": [
          { "M": { "text": { "S": "こんにちは、Taroさん!はじめまして😊\n\n何かお手伝いできることはありますか?お気軽にどうぞ!" } } }
        ]
      },
      "role": { "S": "assistant" }
    }
  },
  {
    "M": {
      "content": {
        "L": [
          { "M": { "text": { "S": "私の名前を覚えていますか?" } } }
        ]
      },
      "role": { "S": "user" }
    }
  },
  {
    "M": {
      "content": {
        "L": [
          { "M": { "text": { "S": "はい、もちろんです!あなたのお名前は **Taro** さんですね😊\n\n何かご質問やお手伝いできることはありますか?" } } }
        ]
      },
      "role": { "S": "assistant" }
    }
  }
]

DynamoDB は保存する値ごとに型を付ける仕様で、M はマップ(辞書)、L はリスト、S は文字列を表します。Lambda 側の Python コード上では [{"role": "user", "content": [{"text": "..."}]}, ...] という素朴な形で扱っていた履歴が、DynamoDB 側ではこのように型注釈で包まれた形で保存されています(boto3.resource("dynamodb") がこの変換を自動でやってくれるので、Python コード側では意識せずに書けます)。

role: user と role: assistant のブロックが交互に4件並んでいるのは、1ターン目・2ターン目のやり取り(ユーザ発言→モデル応答×2ターン)がそのまま蓄積されているためです。次の呼び出しで Lambda が同じ session_id を使って get_item すると、この履歴が復元され、モデルが Taro という名前を覚えているように振る舞える、という一連の流れをここで実際に目で見て確認できます。

💡 ポイント
Lambda に渡すパラメータの session_id を別の文字列(例: test-session-2)に変えれば、独立した新しい会話として扱えます。同じ session_id を渡し続ければ前の会話の続きになり、違う session_id を渡せば別の会話が始まる、というシンプルな仕組みです。

2. 会話履歴の長さ管理

2.1 会話履歴の長さ管理の概要

前セクションのマルチターン実装をそのまま運用に載せると、DynamoDB に保存する messages は会話を重ねるたびに際限なく伸びていきます。すると、次の2つの問題が起きます。

  • コンテキスト長の上限: モデルが1リクエストで受け取れるトークン数には上限があり、超えるとエラーで拒否される
  • 料金とレイテンシの増加: Bedrockはリクエスト・レスポンスのトークン数で課金されるため、履歴が長いほど1ターンあたりのコストと応答時間が増える

実運用では、履歴のサイズをコントロールする仕組みを入れておくのが定石です。今回はもっともシンプルな「最新N件だけを残す」アプローチで対応します。要約による圧縮やトークン数実測による打ち切りといった高度なアプローチもありますが、まずは動きを体感しやすい方式から始めます。

2.2 Lambdaのコード変更

前セクションの index.py に、MAX_MESSAGES 定数と、DynamoDB から取得した messages を直近 MAX_MESSAGES 件に切り詰める処理を追加します。index.py を以下の内容に置き換えます。

import os
import boto3

MODEL_ID = os.environ["MODEL_ID"]
TABLE_NAME = os.environ["TABLE_NAME"]
REGION = "ap-northeast-1"
MAX_MESSAGES = 6

bedrock = boto3.client("bedrock-runtime", region_name=REGION)
table = boto3.resource("dynamodb", region_name=REGION).Table(TABLE_NAME)

def lambda_handler(event, context):
    session_id = event["session_id"]
    question = event["question"]

    result = table.get_item(Key={"session_id": session_id})
    messages = result.get("Item", {}).get("messages", [])

    if len(messages) > MAX_MESSAGES:
        messages = messages[-MAX_MESSAGES:]

    messages.append({"role": "user", "content": [{"text": question}]})

    response = bedrock.converse(
        modelId=MODEL_ID,
        messages=messages,
    )

    output_message = response["output"]["message"]
    messages.append(output_message)

    table.put_item(Item={"session_id": session_id, "messages": messages})

    answer = "".join(
        block["text"] for block in output_message["content"] if "text" in block
    )
    return {"answer": answer}

貼り付けたら「Deploy」を押して反映します。

2.3 コードの解説

MAX_MESSAGES = 6

DynamoDB から取得した messages に残す件数の上限を定義しています。今回は挙動が観察しやすいよう 6 にしていますが、実運用ではトークン上限や1ターンあたりの平均長を踏まえて数十〜数百のオーダーで調整します。

if len(messages) > MAX_MESSAGES:
    messages = messages[-MAX_MESSAGES:]

DynamoDB から取得した履歴が上限を超えていたら、直近の MAX_MESSAGES 件だけに切り詰めます。今回の質問を積む前に切っているのがポイントで、これから加える発言 + モデル応答が上限内に収まる形にしてから会話を進めます。切り詰めた履歴はモデル呼び出しの後で put_item によって DynamoDB に上書き保存されるため、次のターン以降も履歴が肥大化することはありません。

2.4 動作確認

前セクションで使ったセッションは履歴が残っているので、新しい session_id(例: test-session-length)で試します。まず1ターン目のテストイベントを実行します。

{
  "session_id": "test-session-length",
  "question": "私の名前はTaroです。覚えておいてください。"
}

続いて、同じ session_id のまま質問だけを書き換えて、複数ターン会話を重ねます。合計7〜8ターンほど投げてみてください。

{
  "session_id": "test-session-length",
  "question": "好きな食べ物は何ですか?"
}
{
  "session_id": "test-session-length",
  "question": "おすすめの本を教えてください"
}
{
  "session_id": "test-session-length",
  "question": "今日の天気について教えてください"
}

ある程度ターンを重ねたところで、最初の会話に登場した名前を覚えているかを確認します。

{
  "session_id": "test-session-length",
  "question": "私の名前を覚えていますか?"
}

AI の応答は毎回まったく同じにはならないので、以下は一例です。以下のポイントが押さえられていれば成功です。

  • 応答に Taro という名前が含まれていない
  • 「お名前をまだうかがっていません」「お名前を教えてください」など、名前を認識していない趣旨の応答が返る
{
  "answer": "申し訳ありませんが、私はあなたのお名前を知りません。😊\n\nこの会話の中で、お名前を教えていただいていないためです。\n\nまた、私はAIですので、**会話をまたいで情報を記憶する機能がありません**。\n\nぜひお名前を教えていただければ、この会話の中では覚えておきます!😊"
}

MAX_MESSAGES を超えた古いメッセージが切り詰められているため、モデルが Taro を忘れる挙動が確認できます。前セクション(切り詰めなしのマルチターン会話)では覚えていた Taro を、履歴管理の切り詰めによって忘れる形になっています。

MAX_MESSAGES の値を大きくすれば Taro を覚え続けられるので、上限値と「モデルが覚えていられる範囲」のトレードオフを実感するには、値を変えながら同じシナリオを試してみるとよいです(session_id も変えて履歴をリセットしてから試すのがおすすめです)。なお MAX_MESSAGES は必ず偶数を指定してください。マルチターン会話は毎ターン user + assistant の2件を積む設計のため、奇数で切り詰めると直近履歴の先頭が assistant になり、Converse API のバリデーション(履歴は user から始まる必要がある)を通らなくなります。

💡 ポイント
このセクションでは仕組みを体感するために DynamoDB に自前で会話履歴を保存する形にしていますが、実運用では AWS ネイティブな選択肢もあります。Bedrock Session Management APIs(現時点でプレビュー)は会話履歴保存を Bedrock 側に任せる仕組み、AgentCore Memory はフルマネージドなエージェントメモリ機能で、短期メモリ/長期メモリを扱え、session_id の管理・DynamoDB のスキーマ設計・履歴の切り詰めロジックなどを自前で組む必要がなくなります。AgentCore Memory の位置付けは AgentCore概要 で、Runtime エージェントに組み込む具体的な手順は AgentCore Memoryで会話履歴を保持しよう で扱います。