Cloud Run에 배포하기¶

Cloud Run은 코드를 Google의 확장 가능한 인프라 위에서 직접 실행할 수 있게 해주는 완전 관리형 플랫폼입니다.

에이전트를 배포하려면 adk deploy cloud_run 명령어(Python에 권장)를 사용하거나, Cloud Run을 통해 gcloud run deploy 명령어를 사용할 수 있습니다.

에이전트 샘플¶

각 명령어에 대해 LLM 에이전트 페이지에 정의된 Capital Agent 샘플을 참조합니다. 이 샘플이 디렉토리(예: capital_agent)에 있다고 가정합니다.

계속 진행하려면 에이전트 코드가 다음과 같이 구성되어 있는지 확인하세요:

PythonJava

에이전트 코드는 에이전트 디렉토리 내의 agent.py라는 파일에 있습니다.
에이전트 변수 이름은 root_agent입니다.
__init__.py는 에이전트 디렉토리 내에 있으며 from . import agent를 포함합니다.

에이전트 코드는 에이전트 디렉토리 내의 CapitalAgent.java라는 파일에 있습니다.
에이전트 변수는 전역 변수이며 public static BaseAgent ROOT_AGENT 형식을 따릅니다.
에이전트 정의는 정적 클래스 메서드에 있습니다.

자세한 내용은 다음 섹션을 참조하세요. Github 리포지토리에서 샘플 앱을 찾을 수도 있습니다.

환경 변수¶

설정 및 설치 가이드에 설명된 대로 환경 변수를 설정하세요.

export GOOGLE_CLOUD_PROJECT=your-project-id
export GOOGLE_CLOUD_LOCATION=us-central1 # 또는 선호하는 위치
export GOOGLE_GENAI_USE_VERTEXAI=True

(your-project-id를 실제 GCP 프로젝트 ID로 바꾸세요)

배포 명령어¶

Python - adk CLIPython - gcloud CLIJava - gcloud CLI

adk CLI¶

adk deploy cloud_run 명령어는 에이전트 코드를 Google Cloud Run에 배포합니다.

Google Cloud에 인증되었는지 확인하세요(gcloud auth login 및 gcloud config set project <your-project-id>).

환경 변수 설정¶

선택 사항이지만 권장됩니다: 환경 변수를 설정하면 배포 명령어가 더 깔끔해질 수 있습니다.

# Google Cloud 프로젝트 ID 설정
export GOOGLE_CLOUD_PROJECT="your-gcp-project-id"

# 원하는 Google Cloud 위치 설정
export GOOGLE_CLOUD_LOCATION="us-central1" # 예제 위치

# 에이전트 코드 디렉토리 경로 설정
export AGENT_PATH="./capital_agent" # capital_agent가 현재 디렉토리에 있다고 가정

# Cloud Run 서비스 이름 설정 (선택 사항)
export SERVICE_NAME="capital-agent-service"

# 애플리케이션 이름 설정 (선택 사항)
export APP_NAME="capital-agent-app"

명령어 사용법¶

최소 명령어¶

adk deploy cloud_run \
--project=$GOOGLE_CLOUD_PROJECT \
--region=$GOOGLE_CLOUD_LOCATION \
$AGENT_PATH

선택적 플래그가 포함된 전체 명령어¶

adk deploy cloud_run \
--project=$GOOGLE_CLOUD_PROJECT \
--region=$GOOGLE_CLOUD_LOCATION \
--service_name=$SERVICE_NAME \
--app_name=$APP_NAME \
--with_ui \
$AGENT_PATH

인수¶

AGENT_PATH: (필수) 에이전트 소스 코드가 포함된 디렉토리 경로를 지정하는 위치 인수입니다(예: 예제의 $AGENT_PATH 또는 capital_agent/). 이 디렉토리에는 최소한 __init__.py와 메인 에이전트 파일(예: agent.py)이 포함되어야 합니다.

옵션¶

--project TEXT: (필수) Google Cloud 프로젝트 ID입니다(예: $GOOGLE_CLOUD_PROJECT).
--region TEXT: (필수) 배포할 Google Cloud 위치입니다(예: $GOOGLE_CLOUD_LOCATION, us-central1).
--service_name TEXT: (선택 사항) Cloud Run 서비스의 이름입니다(예: $SERVICE_NAME). 기본값은 adk-default-service-name입니다.
--app_name TEXT: (선택 사항) ADK API 서버의 애플리케이션 이름입니다(예: $APP_NAME). 기본값은 AGENT_PATH로 지정된 디렉토리의 이름입니다(예: AGENT_PATH가 ./capital_agent인 경우 capital_agent).
--agent_engine_id TEXT: (선택 사항) Vertex AI Agent Engine을 통해 관리되는 세션 서비스를 사용하는 경우 여기에 리소스 ID를 제공하세요.
--port INTEGER: (선택 사항) ADK API 서버가 컨테이너 내에서 수신 대기할 포트 번호입니다. 기본값은 8000입니다.
--with_ui: (선택 사항) 포함하면 에이전트 API 서버와 함께 ADK 개발 UI를 배포합니다. 기본적으로 API 서버만 배포됩니다.
--temp_folder TEXT: (선택 사항) 배포 과정에서 생성된 중간 파일을 저장할 디렉토리를 지정합니다. 기본값은 시스템의 임시 디렉토리에 타임스탬프가 찍힌 폴더입니다. (참고: 이 옵션은 문제를 해결하지 않는 한 일반적으로 필요하지 않습니다.)
--help: 도움말 메시지를 표시하고 종료합니다.

인증된 접근¶

배포 과정에서 [your-service-name]에 대한 인증되지 않은 호출을 허용하시겠습니까? (y/N)?라는 메시지가 표시될 수 있습니다.

인증 없이 에이전트의 API 엔드포인트에 대한 공개 접근을 허용하려면 y를 입력하세요.
인증이 필요한 경우 N을 입력하거나 기본값으로 Enter 키를 누르세요("에이전트 테스트" 섹션에 표시된 대로 ID 토큰 사용 등).

성공적으로 실행되면 명령어가 에이전트를 Cloud Run에 배포하고 배포된 서비스의 URL을 제공합니다.

gcloud CLI¶

또는 Dockerfile과 함께 표준 gcloud run deploy 명령어를 사용하여 배포할 수 있습니다. 이 방법은 adk 명령어에 비해 수동 설정이 더 필요하지만, 특히 에이전트를 사용자 정의 FastAPI 애플리케이션에 포함시키려는 경우 유연성을 제공합니다.

Google Cloud에 인증되었는지 확인하세요(gcloud auth login 및 gcloud config set project <your-project-id>).

프로젝트 구조¶

프로젝트 파일을 다음과 같이 구성하세요:

your-project-directory/
├── capital_agent/
│   ├── __init__.py
│   └── agent.py       # 에이전트 코드 ("에이전트 샘플" 탭 참조)
├── main.py            # FastAPI 애플리케이션 진입점
├── requirements.txt   # Python 종속성
└── Dockerfile         # 컨테이너 빌드 지침

your-project-directory/의 루트에 다음 파일(main.py, requirements.txt, Dockerfile)을 만드세요.

코드 파일¶

이 파일은 ADK의 get_fast_api_app()을 사용하여 FastAPI 애플리케이션을 설정합니다:

main.py

import os

import uvicorn
from google.adk.cli.fast_api import get_fast_api_app

# main.py가 있는 디렉토리 가져오기
AGENT_DIR = os.path.dirname(os.path.abspath(__file__))
# 예제 세션 DB URL (예: SQLite)
SESSION_DB_URL = "sqlite:///./sessions.db"
# CORS를 위한 예제 허용 출처
ALLOWED_ORIGINS = ["http://localhost", "http://localhost:8080", "*"]
# 웹 인터페이스를 제공하려는 경우 web=True, 그렇지 않으면 False로 설정
SERVE_WEB_INTERFACE = True

# FastAPI 앱 인스턴스를 가져오는 함수 호출
# 에이전트 디렉토리 이름('capital_agent')이 에이전트 폴더와 일치하는지 확인
app = get_fast_api_app(
    agents_dir=AGENT_DIR,
    session_db_url=SESSION_DB_URL,
    allow_origins=ALLOWED_ORIGINS,
    web=SERVE_WEB_INTERFACE,
)

# 필요한 경우 아래에 더 많은 FastAPI 경로 또는 구성을 추가할 수 있음
# 예제:
# @app.get("/hello")
# async def read_root():
#     return {"Hello": "World"}

if __name__ == "__main__":
    # Cloud Run에서 제공하는 PORT 환경 변수 사용, 기본값 8080
    uvicorn.run(app, host="0.0.0.0", port=int(os.environ.get("PORT", 8080)))

참고: agent_dir을 main.py가 있는 디렉토리로 지정하고 Cloud Run 호환성을 위해 os.environ.get("PORT", 8080)을 사용합니다.

필요한 Python 패키지를 나열합니다:

requirements.txt

google_adk
# 에이전트에 필요한 다른 종속성 추가

컨테이너 이미지를 정의합니다:

Dockerfile

FROM python:3.13-slim
WORKDIR /app

COPY requirements.txt .
RUN pip install --no-cache-dir -r requirements.txt

RUN adduser --disabled-password --gecos "" myuser && \
    chown -R myuser:myuser /app

COPY . .

USER myuser

ENV PATH="/home/myuser/.local/bin:$PATH"

CMD ["sh", "-c", "uvicorn main:app --host 0.0.0.0 --port $PORT"]

여러 에이전트 정의¶

your-project-directory/의 루트에 별도의 폴더를 만들어 동일한 Cloud Run 인스턴스 내에서 여러 에이전트를 정의하고 배포할 수 있습니다. 각 폴더는 하나의 에이전트를 나타내며 해당 구성에서 root_agent를 정의해야 합니다.

예제 구조:

your-project-directory/
├── capital_agent/
│   ├── __init__.py
│   └── agent.py       # `root_agent` 정의 포함
├── population_agent/
│   ├── __init__.py
│   └── agent.py       # `root_agent` 정의 포함
└── ...

`gcloud`를 사용하여 배포¶

터미널에서 your-project-directory로 이동합니다.

gcloud run deploy capital-agent-service \
--source . \
--region $GOOGLE_CLOUD_LOCATION \
--project $GOOGLE_CLOUD_PROJECT \
--allow-unauthenticated \
--set-env-vars="GOOGLE_CLOUD_PROJECT=$GOOGLE_CLOUD_PROJECT,GOOGLE_CLOUD_LOCATION=$GOOGLE_CLOUD_LOCATION,GOOGLE_GENAI_USE_VERTEXAI=$GOOGLE_GENAI_USE_VERTEXAI"
# 에이전트에 필요한 다른 환경 변수 추가

capital-agent-service: Cloud Run 서비스에 부여할 이름입니다.
--source .: gcloud에 현재 디렉토리의 Dockerfile에서 컨테이너 이미지를 빌드하도록 지시합니다.
--region: 배포 지역을 지정합니다.
--project: GCP 프로젝트를 지정합니다.
--allow-unauthenticated: 서비스에 대한 공개 접근을 허용합니다. 비공개 서비스의 경우 이 플래그를 제거하세요.
--set-env-vars: 실행 중인 컨테이너에 필요한 환경 변수를 전달합니다. ADK 및 에이전트에서 필요한 모든 변수(애플리케이션 기본 자격 증명을 사용하지 않는 경우 API 키 등)를 포함해야 합니다.

gcloud는 Docker 이미지를 빌드하고 Google Artifact Registry에 푸시한 다음 Cloud Run에 배포합니다. 완료되면 배포된 서비스의 URL을 출력합니다.

배포 옵션의 전체 목록은 gcloud run deploy 참조 문서를 참조하세요.

gcloud CLI¶

표준 gcloud run deploy 명령어와 Dockerfile을 사용하여 Java 에이전트를 배포할 수 있습니다. 이는 현재 Java 에이전트를 Google Cloud Run에 배포하는 권장 방법입니다.

Google Cloud에 인증되었는지 확인하세요. 구체적으로, 터미널에서 gcloud auth login 및 gcloud config set project <your-project-id> 명령어를 실행하세요.

프로젝트 구조¶

프로젝트 파일을 다음과 같이 구성하세요:

your-project-directory/
├── src/
│   └── main/
│       └── java/
│             └── agents/
│                 ├── capitalagent/
│                     └── CapitalAgent.java    # 에이전트 코드
├── pom.xml                                    # Java adk 및 adk-dev 종속성
└── Dockerfile                                 # 컨테이너 빌드 지침

프로젝트 디렉토리의 루트에 pom.xml과 Dockerfile을 만드세요. 에이전트 코드 파일(CapitalAgent.java)은 위와 같이 디렉토리 내에 있어야 합니다.

코드 파일¶

이것은 우리의 에이전트 정의입니다. LLM 에이전트에 있는 것과 동일한 코드이며 두 가지 주의 사항이 있습니다:
- 에이전트는 이제 전역 public static 변수로 초기화됩니다.
- 에이전트의 정의는 정적 메서드에 노출되거나 선언 중에 인라인될 수 있습니다.
CapitalAgent.java

pom.xml 파일에 다음 종속성과 플러그인을 추가하세요.

pom.xml

<dependencies>
  <dependency>
     <groupId>com.google.adk</groupId>
     <artifactId>google-adk</artifactId>
     <version>0.1.0</version>
  </dependency>
  <dependency>
     <groupId>com.google.adk</groupId>
     <artifactId>google-adk-dev</artifactId>
     <version>0.1.0</version>
  </dependency>
</dependencies>

<plugin>
  <groupId>org.codehaus.mojo</groupId>
  <artifactId>exec-maven-plugin</artifactId>
  <version>3.2.0</version>
  <configuration>
    <mainClass>com.google.adk.web.AdkWebServer</mainClass>
    <classpathScope>compile</classpathScope>
  </configuration>
</plugin>

컨테이너 이미지를 정의합니다:

Dockerfile

# Use an official Maven image with a JDK. Choose a version appropriate for your project.
FROM maven:3.8-openjdk-17 AS builder

WORKDIR /app

COPY pom.xml .
RUN mvn dependency:go-offline -B

COPY src ./src

# Expose the port your application will listen on.
# Cloud Run will set the PORT environment variable, which your app should use.
EXPOSE 8080

# The command to run your application.
# TODO(Developer): Update the "adk.agents.source-dir" to the directory that contains your agents.
# You can have multiple agents in this directory and all of them will be available in the Dev UI.
ENTRYPOINT ["mvn", "exec:java", \
    "-Dexec.mainClass=com.google.adk.web.AdkWebServer", \
    "-Dexec.classpathScope=compile", \
    "-Dexec.args=--server.port=${PORT} --adk.agents.source-dir=src/main/java" \
]

`gcloud`를 사용하여 배포¶

터미널에서 your-project-directory로 이동합니다.

gcloud run deploy capital-agent-service \
--source . \
--region $GOOGLE_CLOUD_LOCATION \
--project $GOOGLE_CLOUD_PROJECT \
--allow-unauthenticated \
--set-env-vars="GOOGLE_CLOUD_PROJECT=$GOOGLE_CLOUD_PROJECT,GOOGLE_CLOUD_LOCATION=$GOOGLE_CLOUD_LOCATION,GOOGLE_GENAI_USE_VERTEXAI=$GOOGLE_GENAI_USE_VERTEXAI"
# 에이전트에 필요한 다른 환경 변수 추가

capital-agent-service: Cloud Run 서비스에 부여할 이름입니다.
--source .: gcloud에 현재 디렉토리의 Dockerfile에서 컨테이너 이미지를 빌드하도록 지시합니다.
--region: 배포 지역을 지정합니다.
--project: GCP 프로젝트를 지정합니다.
--allow-unauthenticated: 서비스에 대한 공개 접근을 허용합니다. 비공개 서비스의 경우 이 플래그를 제거하세요.
--set-env-vars: 실행 중인 컨테이너에 필요한 환경 변수를 전달합니다. ADK 및 에이전트에서 필요한 모든 변수(애플리케이션 기본 자격 증명을 사용하지 않는 경우 API 키 등)를 포함해야 합니다.

gcloud는 Docker 이미지를 빌드하고 Google Artifact Registry에 푸시한 다음 Cloud Run에 배포합니다. 완료되면 배포된 서비스의 URL을 출력합니다.

배포 옵션의 전체 목록은 gcloud run deploy 참조 문서를 참조하세요.

에이전트 테스트¶

에이전트가 Cloud Run에 배포되면 배포된 UI(활성화된 경우)를 통해 또는 curl과 같은 도구를 사용하여 API 엔드포인트와 직접 상호 작용할 수 있습니다. 배포 후 제공된 서비스 URL이 필요합니다.

UI 테스트API 테스트 (curl)

UI 테스트¶

UI가 활성화된 상태로 에이전트를 배포한 경우:

adk CLI: 배포 중에 --with_ui 플래그를 포함했습니다.
gcloud CLI: main.py에서 SERVE_WEB_INTERFACE = True로 설정했습니다.

웹 브라우저에서 배포 후 제공된 Cloud Run 서비스 URL로 이동하여 에이전트를 테스트할 수 있습니다.

# 예제 URL 형식
# https://your-service-name-abc123xyz.a.run.app

ADK 개발 UI를 사용하면 에이전트와 상호 작용하고, 세션을 관리하며, 브라우저에서 직접 실행 세부 정보를 볼 수 있습니다.

에이전트가 의도한 대로 작동하는지 확인하려면 다음을 수행할 수 있습니다:

드롭다운 메뉴에서 에이전트를 선택합니다.
메시지를 입력하고 에이전트로부터 예상되는 응답을 받는지 확인합니다.

예상치 못한 동작이 발생하는 경우 Cloud Run 콘솔 로그를 확인하세요.

API 테스트 (curl)¶

curl과 같은 도구를 사용하여 에이전트의 API 엔드포인트와 상호 작용할 수 있습니다. 이는 프로그래밍 방식의 상호 작용이나 UI 없이 배포한 경우에 유용합니다.

배포 후 제공된 서비스 URL과 서비스가 인증되지 않은 접근을 허용하도록 설정되지 않은 경우 잠재적으로 ID 토큰이 필요합니다.

애플리케이션 URL 설정¶

예제 URL을 배포된 Cloud Run 서비스의 실제 URL로 바꾸세요.

export APP_URL="YOUR_CLOUD_RUN_SERVICE_URL"
# 예제: export APP_URL="https://adk-default-service-name-abc123xyz.a.run.app"

ID 토큰 가져오기 (필요한 경우)¶

서비스에 인증이 필요한 경우(즉, gcloud와 함께 --allow-unauthenticated를 사용하지 않았거나 adk 프롬프트에 'N'으로 답한 경우) ID 토큰을 얻으세요.

export TOKEN=$(gcloud auth print-identity-token)

서비스가 인증되지 않은 접근을 허용하는 경우 아래 curl 명령어에서 -H "Authorization: Bearer $TOKEN" 헤더를 생략할 수 있습니다.

사용 가능한 앱 목록 보기¶

배포된 애플리케이션 이름을 확인합니다.

curl -X GET -H "Authorization: Bearer $TOKEN" $APP_URL/list-apps

(필요한 경우 이 출력을 기반으로 다음 명령어에서 app_name을 조정하세요. 기본값은 종종 에이전트 디렉토리 이름입니다, 예: capital_agent).

세션 생성 또는 업데이트¶

특정 사용자와 세션에 대한 상태를 초기화하거나 업데이트합니다. 다른 경우 capital_agent를 실제 앱 이름으로 바꾸세요. user_123 및 session_abc 값은 예제 식별자이며, 원하는 사용자 및 세션 ID로 바꿀 수 있습니다.

curl -X POST -H "Authorization: Bearer $TOKEN" \
    $APP_URL/apps/capital_agent/users/user_123/sessions/session_abc \
    -H "Content-Type: application/json" \
    -d '{"state": {"preferred_language": "English", "visit_count": 5}}'

에이전트 실행¶

에이전트에 프롬프트를 보냅니다. capital_agent를 앱 이름으로 바꾸고 필요에 따라 사용자/세션 ID와 프롬프트를 조정하세요.

curl -X POST -H "Authorization: Bearer $TOKEN" \
    $APP_URL/run_sse \
    -H "Content-Type: application/json" \
    -d '{
    "app_name": "capital_agent",
    "user_id": "user_123",
    "session_id": "session_abc",
    "new_message": {
        "role": "user",
        "parts": [{
        "text": "캐나다의 수도는 어디인가요?"
        }]
    },
    "streaming": false
    }'

서버 전송 이벤트(SSE)를 받으려면 "streaming": true로 설정하세요.
응답에는 최종 답변을 포함한 에이전트의 실행 이벤트가 포함됩니다.

Cloud Run에 배포하기¶

에이전트 샘플¶

환경 변수¶

배포 명령어¶

adk CLI¶

환경 변수 설정¶

명령어 사용법¶

최소 명령어¶

선택적 플래그가 포함된 전체 명령어¶

인수¶

옵션¶

인증된 접근¶

gcloud CLI¶

프로젝트 구조¶

코드 파일¶

여러 에이전트 정의¶

gcloud를 사용하여 배포¶

gcloud CLI¶

프로젝트 구조¶

코드 파일¶

gcloud를 사용하여 배포¶

에이전트 테스트¶

UI 테스트¶

API 테스트 (curl)¶

애플리케이션 URL 설정¶

ID 토큰 가져오기 (필요한 경우)¶

사용 가능한 앱 목록 보기¶

세션 생성 또는 업데이트¶

에이전트 실행¶

`gcloud`를 사용하여 배포¶

`gcloud`를 사용하여 배포¶