ADK エージェント向けの Vertex AI ホスティングモデル¶
エンタープライズ向けの拡張性、信頼性、および Google Cloud の MLOps エコシステムとの統合のために、 Vertex AI エンドポイントにデプロイされたモデルを使用できます。これには Model Garden のモデルや 独自のファインチューニングモデルが含まれます。
統合方法: 完全な Vertex AI エンドポイントリソース文字列
(projects/PROJECT_ID/locations/LOCATION/endpoints/ENDPOINT_ID) を LlmAgent の
model パラメータへ直接渡します。
Vertex AI 設定¶
Vertex AI が利用可能な環境にしていることを確認します。
-
認証: Application Default Credentials (ADC) を使用します。
-
環境変数の設定: プロジェクトとロケーションを設定します。
-
Vertex バックエンドを有効化:
google-genaiライブラリが Vertex AI を 対象とするようにします。
Model Garden デプロイメント¶
Vertex AI Model Garden からさまざまなオープンモデルおよびプロプライエタリモデルをエンドポイントにデプロイできます。
例:
from google.adk.agents import LlmAgent
from google.genai import types # For config objects
# --- Example Agent using a Llama 3 model deployed from Model Garden ---
# Replace with your actual Vertex AI Endpoint resource name
llama3_endpoint = "projects/YOUR_PROJECT_ID/locations/us-central1/endpoints/YOUR_LLAMA3_ENDPOINT_ID"
agent_llama3_vertex = LlmAgent(
model=llama3_endpoint,
name="llama3_vertex_agent",
instruction="You are a helpful assistant based on Llama 3, hosted on Vertex AI.",
generate_content_config=types.GenerateContentConfig(max_output_tokens=2048),
# ... other agent parameters
)
import com.google.adk.agents.LlmAgent;
import com.google.adk.models.Gemini;
import com.google.genai.types.GenerateContentConfig;
// ...
// Replace with your actual Vertex AI Endpoint resource name
String llama3Endpoint = "projects/YOUR_PROJECT_ID/locations/us-central1/endpoints/YOUR_LLAMA3_ENDPOINT_ID";
LlmAgent agentLlama3Vertex = LlmAgent.builder()
.model(Gemini.builder()
.modelName(llama3Endpoint)
.build())
.name("llama3_vertex_agent")
.instruction("You are a helpful assistant based on Llama 3, hosted on Vertex AI.")
.generateContentConfig(GenerateContentConfig.builder()
.maxOutputTokens(2048)
.build())
// ... other agent parameters
.build();
ファインチューニングモデルエンドポイント¶
Gemini または Vertex AI がサポートする他のアーキテクチャのファインチューニングモデルを デプロイすると、そのエンドポイントを直接使用できるようになります。
例:
from google.adk.agents import LlmAgent
# --- Example Agent using a fine-tuned Gemini model endpoint ---
# Replace with your fine-tuned model's endpoint resource name
finetuned_gemini_endpoint = "projects/YOUR_PROJECT_ID/locations/us-central1/endpoints/YOUR_FINETUNED_ENDPOINT_ID"
agent_finetuned_gemini = LlmAgent(
model=finetuned_gemini_endpoint,
name="finetuned_gemini_agent",
instruction="You are a specialized assistant trained on specific data.",
# ... other agent parameters
)
import com.google.adk.agents.LlmAgent;
import com.google.adk.models.Gemini;
// ...
// Replace with your fine-tuned model's endpoint resource name
String finetunedGeminiEndpoint = "projects/YOUR_PROJECT_ID/locations/us-central1/endpoints/YOUR_FINETUNED_ENDPOINT_ID";
LlmAgent agentFinetunedGemini = LlmAgent.builder()
.model(Gemini.builder()
.modelName(finetunedGeminiEndpoint)
.build())
.name("finetuned_gemini_agent")
.instruction("You are a specialized assistant trained on specific data.")
// ... other agent parameters
.build();
Vertex AI 上の Anthropic Claude¶
Anthropic のような一部のプロバイダーは、モデルを Vertex AI 経由で直接提供します。
例:
統合方法: 直接モデル文字列（例: "claude-3-sonnet@20240229"）を使用しますが、ADK での
手動登録が必要です。
登録が必要な理由: ADK のレジストリは、gemini-* 文字列と標準
Vertex AI エンドポイント文字列（projects/.../endpoints/...）を自動的に認識して
google-genai ライブラリへルーティングします。Claude のような他のモデルを
Vertex AI 経由で直接使う場合は、ADK レジストリに当該モデルを扱える
ラッパークラス（この例では Claude）を明示的に登録する必要があります。
セットアップ:
-
Vertex AI 環境: 統合された Vertex AI の設定（ADC、環境変数、
GOOGLE_GENAI_USE_VERTEXAI=TRUE）が完了していることを確認します。 -
プロバイダーライブラリのインストール: Vertex AI 用に設定された 必要なクライアントライブラリをインストールします。
-
モデルクラスの登録: エージェント作成前に、アプリケーション開始時点で 次のコードを追加します。
from google.adk.agents import LlmAgent
from google.adk.models.anthropic_llm import Claude # Import needed for registration
from google.adk.models.registry import LLMRegistry # Import needed for registration
from google.genai import types
# --- Register Claude class (do this once at startup) ---
LLMRegistry.register(Claude)
# --- Example Agent using Claude 3 Sonnet on Vertex AI ---
# Standard model name for Claude 3 Sonnet on Vertex AI
claude_model_vertexai = "claude-3-sonnet@20240229"
agent_claude_vertexai = LlmAgent(
model=claude_model_vertexai, # Pass the direct string after registration
name="claude_vertexai_agent",
instruction="You are an assistant powered by Claude 3 Sonnet on Vertex AI.",
generate_content_config=types.GenerateContentConfig(max_output_tokens=4096),
# ... other agent parameters
)
統合方法: プロバイダー固有のモデルクラスを直接インスタンス化し（例: com.google.adk.models.Claude）、Vertex AI バックエンドを指定します。
直接インスタンス化が必要な理由: Java ADK の LlmRegistry は主に Gemini モデルを扱うためです。Vertex AI の Claude のようなサードパーティモデルでは、ADK のラッパークラス（例: Claude）インスタンスを LlmAgent に直接渡します。 このラッパークラスは、特定クライアントライブラリ経由でモデルとやり取りし、そのライブラリは Vertex AI 用に設定されます。
セットアップ:
-
Vertex AI 環境:
- Google Cloud プロジェクトとリージョンが正しく設定されていることを確認します。
- Application Default Credentials (ADC): 環境で ADC が正しく設定されていることを確認します。
通常は
gcloud auth application-default login実行で設定します。 Java クライアントライブラリは Vertex AI 認証のためこのクレデンシャルを使用します。 詳細は Google Cloud Java の ADC ドキュメント を参照してください。
-
プロバイダライブラリ依存関係:
- サードパーティクライアントライブラリ（多くはトランジティブ）: ADK コアライブラリには
Vertex AI でよく使われるサードパーティモデル（Anthropic 必須クラスなど）の
必要なクライアントライブラリが トランジティブ依存関係として含まれることが多く、
その場合
pom.xmlやbuild.gradleに Anthropic Vertex SDK を明示追加する必要がないことがあります。
- サードパーティクライアントライブラリ（多くはトランジティブ）: ADK コアライブラリには
Vertex AI でよく使われるサードパーティモデル（Anthropic 必須クラスなど）の
必要なクライアントライブラリが トランジティブ依存関係として含まれることが多く、
その場合
-
モデルのインスタンス化と構成:
LlmAgent作成時にClaudeクラス（または同等のプロバイダー用クラス）をインスタンス化し、VertexBackendを構成します。
import com.anthropic.client.AnthropicClient;
import com.anthropic.client.okhttp.AnthropicOkHttpClient;
import com.anthropic.vertex.backends.VertexBackend;
import com.google.adk.agents.LlmAgent;
import com.google.adk.models.Claude; // ADK's wrapper for Claude
import com.google.auth.oauth2.GoogleCredentials;
import java.io.IOException;
// ... other imports
public class ClaudeVertexAiAgent {
public static LlmAgent createAgent() throws IOException {
// Model name for Claude 3 Sonnet on Vertex AI (or any other Claude model)
String claudeModelVertexAi = "claude-3-7-sonnet"; // Or any other Claude model
// Configure the AnthropicOkHttpClient with the VertexBackend
AnthropicClient anthropicClient = AnthropicOkHttpClient.builder()
.backend(
VertexBackend.builder()
.region("us-east5") // Specify your Vertex AI region
.project("your-gcp-project-id") // Specify your GCP Project ID
.googleCredentials(GoogleCredentials.getApplicationDefault())
.build())
.build();
// Instantiate LlmAgent with the ADK Claude wrapper
LlmAgent agentClaudeVertexAi = LlmAgent.builder()
.model(new Claude(claudeModelVertexAi, anthropicClient)) // Pass the Claude instance
.name("claude_vertexai_agent")
.instruction("You are an assistant powered by Claude 3 Sonnet on Vertex AI.")
// .generateContentConfig(...) // Optional: Add generation config if needed
// ... other agent parameters
.build();
return agentClaudeVertexAi;
}
public static void main(String[] args) {
try {
LlmAgent agent = createAgent();
System.out.println("Successfully created agent: " + agent.name());
// Here you would typically set up a Runner and Session to interact with the agent
} catch (IOException e) {
System.err.println("Failed to create agent: " + e.getMessage());
e.printStackTrace();
}
}
}
Vertex AI のオープンモデル¶
Vertex AI は、Meta Llama などのオープンソースモデルを Model-as-a-Service（MaaS） として厳選して提供します。これらのモデルは管理型 API 経由でアクセスできるため、 基盤インフラを管理せずにデプロイとスケールが可能です。利用可能なモデルの一覧は Vertex AI open models for MaaS を参照してください。
LiteLLM ライブラリを使って、Vertex AI MaaS の Meta Llama などのオープンモデルを利用できます。
統合方法: LiteLlm ラッパークラスを使用し、LlmAgent の model パラメータに設定します。
ADK で LiteLLM を使用する方法は ADK エージェント向け LiteLLM モデルコネクタ を参照してください。
セットアップ:
-
Vertex AI 環境: 統合された Vertex AI の設定（ADC、環境変数、
GOOGLE_GENAI_USE_VERTEXAI=TRUE）が完了していることを確認します。 -
LiteLLM インストール:
例:
from google.adk.agents import LlmAgent
from google.adk.models.lite_llm import LiteLlm
# --- Example Agent using Meta's Llama 4 Scout ---
agent_llama_vertexai = LlmAgent(
model=LiteLlm(model="vertex_ai/meta/llama-4-scout-17b-16e-instruct-maas"), # LiteLLM model string format
name="llama4_agent",
instruction="You are a helpful assistant powered by Llama 4 Scout.",
# ... other agent parameters
)