ストリーミングツール¶
ADKでサポートPython v0.5.0実験的機能
ストリーミングツールを使用すると、ツール(関数)が中間結果をエージェントにストリーミングで送り返すことができ、エージェントはそれらの中間結果に応答できます。 例えば、ストリーミングツールを使用して株価の変動を監視し、エージェントにそれに反応させることができます。別の例として、エージェントにビデオストリームを監視させ、ビデオストリームに変化があった場合にエージェントがその変化を報告するようにすることもできます。
Info
これはストリーミング(ライブ)エージェント/APIでのみサポートされています。
ストリーミングツールを定義するには、次の要件に従う必要があります:
- 非同期関数: ツールは
asyncPython関数でなければなりません。 - AsyncGeneratorの戻り値の型: 関数は
AsyncGeneratorを返すように型付けされている必要があります。AsyncGeneratorの最初の型パラメータはyieldするデータの型です(例:テキストメッセージの場合はstr、構造化データの場合はカスタムオブジェクト)。ジェネレータがsend()を介して値を受け取らない場合、2番目の型パラメータは通常Noneです。
私たちは2種類のストリーミングツールをサポートしています: - シンプルタイプ。これは、ビデオ/オーディオストリーム以外のストリーム(ADK WebやADKランナーに供給するストリーム)のみを入力として受け取るストリーミングツールの一種です。 - ビデオストリーミングツール。これはビデオストリーミングでのみ機能し、ビデオストリーム(ADK WebやADKランナーに供給するストリーム)がこの関数に渡されます。
それでは、株価の変動を監視し、ビデオストリームの変化を監視できるエージェントを定義してみましょう。
import asyncio
from typing import AsyncGenerator
from google.adk.agents import LiveRequestQueue
from google.adk.agents.llm_agent import Agent
from google.adk.tools.function_tool import FunctionTool
from google.genai import Client
from google.genai import types as genai_types
async def monitor_stock_price(stock_symbol: str) -> AsyncGenerator[str, None]:
"""この関数は、指定されたstock_symbolの価格を継続的、ストリーミング、非同期的に監視します。"""
print(f"{stock_symbol}の株価監視を開始します!")
# 株価の変動をモックします。
await asyncio.sleep(4)
price_alert1 = f"{stock_symbol}の価格は300です"
yield price_alert1
print(price_alert1)
await asyncio.sleep(4)
price_alert1 = f"{stock_symbol}の価格は400です"
yield price_alert1
print(price_alert1)
await asyncio.sleep(20)
price_alert1 = f"{stock_symbol}の価格は900です"
yield price_alert1
print(price_alert1)
await asyncio.sleep(20)
price_alert1 = f"{stock_symbol}の価格は500です"
yield price_alert1
print(price_alert1)
# ビデオストリーミングの場合、`input_stream: LiveRequestQueue`はADKがビデオストリームを渡すために必要かつ予約されたキーパラメータです。
async def monitor_video_stream(
input_stream: LiveRequestQueue,
) -> AsyncGenerator[str, None]:
"""ビデオストリームに何人の人がいるかを監視します。"""
print("monitor_video_streamを開始します!")
client = Client(vertexai=False)
prompt_text = (
"この画像に写っている人数を数えてください。数字のみで応答してください。"
)
last_count = None
while True:
last_valid_req = None
print("監視ループを開始します")
# このループを使用して最新の画像を取得し、古いものは破棄します
while input_stream._queue.qsize() != 0:
live_req = await input_stream.get()
if live_req.blob is not None and live_req.blob.mime_type == "image/jpeg":
last_valid_req = live_req
# 有効な画像が見つかった場合は処理します
if last_valid_req is not None:
print("キューから最新のフレームを処理しています")
# blobのデータとMIMEタイプを使用して画像パートを作成します
image_part = genai_types.Part.from_bytes(
data=last_valid_req.blob.data, mime_type=last_valid_req.blob.mime_type
)
contents = genai_types.Content(
role="user",
parts=[image_part, genai_types.Part.from_text(prompt_text)],
)
# 提供された画像とプロンプトに基づいてコンテンツを生成するためにモデルを呼び出します
response = client.models.generate_content(
model="gemini-2.0-flash-exp",
contents=contents,
config=genai_types.GenerateContentConfig(
system_instruction=(
"あなたは役立つビデオ分析アシスタントです。この画像やビデオに"
"写っている人数を数えることができます。数字のみで応答してください。"
)
),
)
if not last_count:
last_count = response.candidates[0].content.parts[0].text
elif last_count != response.candidates[0].content.parts[0].text:
last_count = response.candidates[0].content.parts[0].text
yield response
print("response:", response)
# 新しい画像をチェックする前に少し待ちます
await asyncio.sleep(0.5)
# 要求されたときにストリーミングツールを停止させるために、この関数をそのまま使用してください。
# 例えば、`monitor_stock_price`を停止したい場合、エージェントは
# stop_streaming(function_name=monitor_stock_price)でこの関数を呼び出します。
def stop_streaming(function_name: str):
"""ストリーミングを停止します
Args:
function_name: 停止するストリーミング関数の名前。
"""
pass
root_agent = Agent(
model="gemini-2.0-flash-exp",
name="video_streaming_agent",
instruction="""
あなたは監視エージェントです。提供されたツール/関数を使用して、ビデオ監視と株価監視ができます。
ユーザーがビデオストリームを監視したい場合、
monitor_video_stream関数を使用してそれを行うことができます。monitor_video_streamが
アラートを返した場合、ユーザーに伝える必要があります。
ユーザーが株価を監視したい場合、monitor_stock_priceを使用できます。
あまり多くの質問をしないでください。おしゃべりにならないでください。
""",
tools=[
monitor_video_stream,
monitor_stock_price,
FunctionTool(stop_streaming),
]
)
テスト用のサンプルクエリは以下の通りです: - XYZ株の株価を監視するのを手伝ってください。 - ビデオストリームに何人の人がいるかを監視するのを手伝ってください。