パフォーマンスのためのエージェントコンテキストの圧縮¶

ADKでサポートPython v1.16.0Java v0.2.0TypeScript v0.6.0

ADKエージェントは実行されると、ユーザーの指示、取得されたデータ、ツールの応答、生成されたコンテンツを含むコンテキスト情報を収集します。このコンテキストデータのサイズが大きくなるにつれて、エージェントの処理時間も通常増加します。ますます多くのデータがエージェントが使用する生成AIモデルに送信され、処理時間が増加し、応答が遅くなります。ADKコンテキスト圧縮機能は、エージェントワークフローイベント履歴の古い部分を要約することにより、エージェントの実行中にコンテキストのサイズを削減するように設計されています。

コンテキスト圧縮機能は、セッション内でエージェントワークフローイベントデータを収集および要約するために、スライディングウィンドウアプローチを使用します。この機能をエージェントで構成すると、現在のセッションで特定の数のワークフローイベント (または呼び出し) のしきい値に達すると、古いイベントからのデータを要約します。

コンテキスト圧縮の設定¶

ワークフローの App オブジェクト（Python/Java）にイベント圧縮設定を追加するか、LlmAgent（TypeScript）で contextCompactors を構成することで、エージェントワークフローにコンテキスト圧縮を追加できます。設定の一部として、次のサンプルコードのように圧縮間隔と重複サイズ（Python/Java）またはトークンしきい値とイベント保持サイズ（TypeScript）を指定する必要があります。

PythonJavaTypeScript

from google.adk.apps.app import App
from google.adk.apps.app import EventsCompactionConfig

app = App(
    name='my-agent',
    root_agent=root_agent,
    events_compaction_config=EventsCompactionConfig(
        compaction_interval=3,  # 3つの新しい呼び出しごとに圧縮をトリガーします。
        overlap_size=1          # 前のウィンドウからの最後の呼び出しを含めます。
    ),
)

import com.google.adk.apps.App;
import com.google.adk.summarizer.EventsCompactionConfig;

App app = App.builder()
    .name("my-agent")
    .rootAgent(rootAgent)
    .eventsCompactionConfig(EventsCompactionConfig.builder()
        .compactionInterval(3)  // 3つの新しい呼び出しごとに圧縮をトリガーします。
        .overlapSize(1)         // 前のウィンドウからの最後の呼び出しを含めます。
        .build())
    .build();

import {Gemini, LlmAgent, LlmSummarizer, TokenBasedContextCompactor} from '@google/adk';

const agent = new LlmAgent({
  name: 'my-agent',
  model: 'gemini-flash-latest',
  contextCompactors: [
    new TokenBasedContextCompactor({
      tokenThreshold: 1000, // セッションが 1000 トークンを超えると圧縮をトリガーします。
      eventRetentionSize: 1, // 生イベントを少なくとも 1 件保持します（オーバーラップ）。
      summarizer: new LlmSummarizer({
        llm: new Gemini({model: 'gemini-flash-latest'}),
      }),
    }),
  ],
});

構成されると、ADK Runnerはセッションが間隔に達するたびにバックグラウンドで圧縮プロセスを処理します。

コンテキスト圧縮の例¶

compaction_intervalを3に、overlap_sizeを1に設定すると、イベントデータはイベント3、6、9などが完了すると圧縮されます。重複設定は、図1に示すように、2番目の要約圧縮とそれ以降の各要約のサイズを増加させます。

コンテキスト圧縮の例のイラスト 図1. 間隔3、重複1のイベント圧縮構成のイラスト。

この例の構成では、コンテキスト圧縮タスクは次のように行われます。

イベント3が完了: 3つのイベントすべてが要約に圧縮されます
イベント6が完了: 前の1つのイベントの重複を含め、イベント3から6までが圧縮されます
イベント9が完了: 前の1つのイベントの重複を含め、イベント6から9までが圧縮されます

設定¶

この機能の設定は、イベントデータが圧縮される頻度と、エージェントワークフローの実行中に保持されるデータの量を制御します。オプションで、コンパクターオブジェクトを構成できます。

compaction_interval: 以前のイベントデータの圧縮をトリガーする完了したイベント数を設定します。
overlap_size: 新しく圧縮されたコンテキストセットに含める以前に圧縮されたイベントの数を設定します。
summarizer: (オプション) 要約に使用する特定のAIモデルを含むサマライザーオブジェクトを定義します。詳細については、サマライザーの定義を参照してください。

サマライザーを定義する¶

サマライザーを定義することで、コンテキスト圧縮プロセスをカスタマイズできます。LlmEventSummarizer（Python/Java）または LlmSummarizer（TypeScript）クラスを使うと、要約に使うモデルを指定できます。次のコード例は、カスタムサマライザーを定義して構成する方法を示しています。

PythonJavaTypeScript

from google.adk.apps.app import App, EventsCompactionConfig
from google.adk.apps.llm_event_summarizer import LlmEventSummarizer
from google.adk.models import Gemini

# 要約に使用する AI モデルを定義します。
summarization_llm = Gemini(model="gemini-flash-latest")

# カスタムモデルでサマライザーを作成します。
my_summarizer = LlmEventSummarizer(llm=summarization_llm)

# カスタムサマライザーと圧縮設定で App を構成します。
app = App(
    name='my-agent',
    root_agent=root_agent,
    events_compaction_config=EventsCompactionConfig(
        compaction_interval=3,
        overlap_size=1,
        summarizer=my_summarizer,
    ),
)

import com.google.adk.apps.App;
import com.google.adk.models.Gemini;
import com.google.adk.summarizer.EventsCompactionConfig;
import com.google.adk.summarizer.LlmEventSummarizer;

// 要約に使用する AI モデルを定義します。
Gemini summarizationLlm = Gemini.builder()
    .model("gemini-flash-latest")
    .build();

// カスタムモデルでサマライザーを作成します。
LlmEventSummarizer mySummarizer = new LlmEventSummarizer(summarizationLlm);

// カスタムサマライザーと圧縮設定で App を構成します。
App app = App.builder()
    .name("my-agent")
    .rootAgent(rootAgent)
    .eventsCompactionConfig(EventsCompactionConfig.builder()
        .compactionInterval(3)
        .overlapSize(1)
        .summarizer(mySummarizer)
        .build())
    .build();

import {Gemini, LlmAgent, LlmSummarizer, TokenBasedContextCompactor} from '@google/adk';

// 要約に使用する AI モデルを定義します。
const summarizationLlm = new Gemini({model: 'gemini-flash-latest'});

// カスタムモデルでサマライザーを作成します。
const mySummarizer = new LlmSummarizer({llm: summarizationLlm});

// カスタムサマライザーと圧縮設定でエージェントを構成します。
const agent = new LlmAgent({
  name: 'my-agent',
  model: 'gemini-flash-latest',
  contextCompactors: [
    new TokenBasedContextCompactor({
      tokenThreshold: 1000,
      eventRetentionSize: 1,
      summarizer: mySummarizer,
    }),
  ],
});

サマライザーを調整することで、圧縮器の動作をさらに細かく制御できます。Python と Java では LlmEventSummarizer の prompt_template を、TypeScript では LlmSummarizer の prompt をカスタマイズできます。詳細については、LlmEventSummarizerコードまたは LlmSummarizer コードを参照してください。