Snowpark Container Services: 서비스 사용하기¶

기본 서비스 운영¶

Snowpark Container Services는 서비스를 생성하고 관리하는 데 사용할 수 있는 SQL 명령 세트를 제공합니다. CREATE SERVICE, ALTER SERVICE, DROP SERVICE, SHOW SERVICES, DESC[RIBE] SERVICE 등의 명령이 포함됩니다.

서비스를 만드는 데 필요한 최소 정보는 다음과 같습니다.

• 서비스 사양: 이 사양 은 Snowflake에 서비스 실행에 필요한 정보를 제공합니다. 사양은 YAML 파일입니다. CREATE SERVICE 문 내에서 직접 사양을 정의하거나 Snowflake 스테이지에 사양을 업로드하고 CREATE SERVICE 문에서 스테이지 정보를 참조할 수 있습니다.

  대부분의 경우 개발 중에 인라인 사양을 선택할 수 있습니다. 그러나 프로덕션 환경에 서비스를 배포할 때는 관심사 분리 설계 원칙을 적용하고 사양을 스테이지에 업로드하는 것이 좋습니다.

• 컴퓨팅 풀: Snowflake는 지정된 컴퓨팅 풀 에서 서비스를 실행합니다.

예

• 인라인 사양을 사용하여 서비스를 만듭니다.

  CREATE SERVICE echo_service
     IN COMPUTE POOL tutorial_compute_pool
     FROM SPECIFICATION $$
     spec:
       containers:
       - name: echo
         image: /tutorial_db/data_schema/tutorial_repository/my_echo_service_image:tutorial
         readinessProbe:
           port: 8000
           path: /healthcheck
       endpoints:
       - name: echoendpoint
         port: 8000
         public: true
     $$;
  

  Copy

• 스테이지 정보를 사용하여 서비스를 만듭니다.

  CREATE SERVICE echo_service
    IN COMPUTE POOL tutorial_compute_pool
    FROM @tutorial_stage
    SPECIFICATION_FILE='echo_spec.yaml';
  

  Copy

서비스를 만들면 ALTER SERVICE 명령을 사용하여 서비스를 일시 중단하거나 재개할 수 있습니다.

CREATE SERVICE echo_service
   IN COMPUTE POOL tutorial_compute_pool
   FROM @tutorial_stage
   SPECIFICATION_FILE='echo_spec.yaml'
   MIN_INSTANCES=2
   MAX_INSTANCES=4;

서비스 나열하기¶

다양한 SHOW SERVICES 명령을 사용하여 현재 서비스를 나열할 수 있습니다.

• SHOW SERVICES: 권한이 있는 현재 데이터베이스와 스키마의 서비스를 나열합니다.

• SHOW SERVICES IN ACCOUNT: 서비스가 속한 데이터베이스 또는 스키마에 관계없이 Snowflake 계정의 서비스를 나열합니다. 이는 계정의 여러 데이터베이스와 스키마에서 생성된 Snowflake 서비스가 있는 경우 유용합니다. 다른 모든 명령과 마찬가지로 SHOW SERVICES IN ACCOUNTS는 권한으로 제어되며, 사용 중인 역할에 보기 권한이 있는 서비스만 반환합니다.

• SHOW SERVICES IN SCHEMA: 지정된 스키마의 서비스를 나열합니다.

특정 컴퓨팅 풀의 서비스 나열은 다음 2단계 프로세스로 이루어집니다.

1. SHOW SERVICES를 실행하여 서비스 목록을 가져옵니다.

2. 특정 컴퓨팅 풀의 서비스에 대해 (RESULT_SCAN 을 사용하여) 이전 쿼리에서 목록을 스캔합니다.

예

다음 예제 스크립트에서 SHOW SERVICES 명령은 먼저 서비스 이름에 특정 문자열이 있는 현재 데이터베이스와 스키마의 서비스를 나열합니다.

다음으로, SELECT 쿼리는 지정된 컴퓨팅 풀의 서비스만 반환하도록 결과 세트를 필터링합니다. 쿼리는 RESULT_SCAN 함수를 사용하여 이전 SHOW SERVICES 명령의 결과 세트를 가져옵니다.

SHOW SERVICES like '%tutorial%' in account;
SELECT *
    FROM TABLE(RESULT_SCAN(last_query_id()))
    WHERE "compute_pool" = 'TUTORIAL_COMPUTE_POOL';

서비스 모니터링하기¶

서비스의 자세한 런타임 상태를 가져오려면 SYSTEM$GET_SERVICE_STATUS를 사용하십시오. 예를 들어 이 함수를 호출하여 서비스가 아직 실행 중인지 또는 서비스 시작에 실패했는지 확인할 수 있습니다. 서비스가 시작하지 못한 경우 이 함수는 실패에 대한 세부 정보를 제공합니다.

이 함수를 호출할 때 서비스 이름을 전달합니다.

예

CALL SYSTEM$GET_SERVICE_STATUS('echo_service');

다음은 예시 출력입니다.

• 하나의 인스턴스를 실행 중이고 하나의 컨테이너가 있는 서비스의 샘플 출력:

  [
     {
        "status":"READY",
        "message":"Running",
        "containerName":"echo",
        "instanceId":"0",
        "serviceName":"ECHO_SERVICE",
        "image":"<account>.registry.snowflakecomputing.com/tutorial_db/data_schema/tutorial_repository/my_echo_service_image:tutorial",
        "restartCount":0,
        "startTime":"2023-01-01T00:00:00Z"
     }
  ]
  

  Copy

  instanceId 는 컨테이너가 속한 서비스 인스턴스 ID입니다. 이 서비스의 두 인스턴스를 실행하는 경우 출력에는 해당 오브젝트 두 개가 포함되고 각 서비스 인스턴스에 대한 컨테이너 상태가 제공됩니다. 이 경우 인스턴스 ID는 0과 1입니다.

• 하나의 인스턴스를 실행 중이고 세 개의 컨테이너가 있는 서비스의 샘플 출력:

  [
     {
        "status":"READY",
        "message":"Running",
        "containerName":"some-proxy",
        "instanceId":"0",
        "serviceName":"example_service",
        "image":"<account>.registry.snowflakecomputing.com/tutorial_db/data_schema/tutorial_repository/my_service_image_proxy:tutorial",
        "restartCount":0,
        "startTime":"2023-01-01T00:00:00Z"
     },
     {
        "status":"READY",
        "message":"Running",
        "containerName":"some-server",
        "instanceId":"0",
        "serviceName":"example_service",
        "image":"<account>.registry.snowflakecomputing.com/tutorial_db/data_schema/tutorial_repository/my_server:tutorial",
        "restartCount":0,
        "startTime":"2023-01-01T00:00:00Z"
     },
     {
        "status":"READY",
        "message":"Running",
        "containerName":"movies",
        "instanceId":"0",
        "serviceName":"example_service",
        "image":"<account>.registry.snowflakecomputing.com/tutorial_db/data_schema/tutorial_repository/my_movies:tutorial",
        "restartCount":0,
        "startTime":"2023-01-01T00:00:00Z"
     }
  ]
  

  Copy

  출력에는 각 컨테이너에 대한 상태 정보가 포함됩니다. 이러한 모든 컨테이너는 인스턴스 ID가 0인 단일 서비스 인스턴스에 속합니다.

SYSTEM$GET_SERVICE_STATUS는 선택적 timeout_secs 인자를 사용합니다. timeout_secs 가 지정되지 않거나 0의 값으로 지정된 경우 함수는 즉시 현재 상태를 반환합니다. timeout_secs 가 지정된 경우 Snowflake는 서비스 상태를 반환하기 전에 지정된 시간 내에 서비스가 종료 상태(READY 또는 FAILED)에 도달할 때까지 기다립니다. 서비스가 지정된 시간 내에 종료 상태에 도달하지 않으면 Snowflake는 지정된 시간 간격이 끝날 때 현재 상태를 반환합니다.

지정하는 제한 시간은 서비스가 준비될 것으로 예상하는 시간을 기준으로 한 대략적인 값이며, 이는 Snowflake가 다른 서비스 및 작업을 중지하고 다른 서비스를 시작하기 전에 지정된 컴퓨팅 풀에서 리소스를 확보하기를 기다리는 경우와 같은 상황을 식별하는 데 도움이 될 수 있습니다. 다음 SYSTEM$GET_SERVICE_STATUS 함수는 10초의 시간 제한을 지정합니다.

call SYSTEM$GET_SERVICE_STATUS('echo_service', 10);

로컬 컨테이너 로그에 액세스하기¶

Snowflake는 애플리케이션 컨테이너의 코드가 표준 출력 또는 표준 오류로 출력하는 모든 것을 수집합니다. 코드가 서비스를 디버깅하는 데 유용한 정보를 출력하도록 해야 합니다.

Snowflake는 이러한 컨테이너 로그에 액세스하는 두 가지 방법을 제공합니다.

• SYSTEM$GET_SERVICE_LOGS 시스템 함수 사용: 특정 컨테이너의 로그에 대한 액세스 권한을 부여합니다. 컨테이너가 종료된 후에도 잠시 동안 시스템 함수를 사용하여 로그에 계속 액세스할 수 있습니다. 시스템 함수는 서비스나 작업을 처음 작성할 때 개발 및 테스트 중에 가장 유용합니다. 자세한 내용은 SYSTEM$GET_SERVICE_LOGS 를 참조하십시오.

• 이벤트 테이블 사용: 이벤트 테이블을 사용하면 모든 서비스에 걸쳐 여러 컨테이너의 로그에 액세스할 수 있습니다. Snowflake는 나중에 액세스할 수 있도록 이벤트 테이블에 로그를 유지합니다. 이벤트 테이블은 서비스와 작업의 회고적 분석에 가장 적합합니다. 자세한 내용은 이벤트 테이블 사용하기 섹션을 참조하십시오.

CALL SYSTEM$GET_SERVICE_LOGS('echo_service', '0', 'echo', 10);

+--------------------------------------------------------------------------+
| SYSTEM$GET_SERVICE_LOGS                                                  |
|--------------------------------------------------------------------------|
| 10.16.6.163 - - [11/Apr/2023 21:44:03] "GET /healthcheck HTTP/1.1" 200 - |
| 10.16.6.163 - - [11/Apr/2023 21:44:08] "GET /healthcheck HTTP/1.1" 200 - |
| 10.16.6.163 - - [11/Apr/2023 21:44:13] "GET /healthcheck HTTP/1.1" 200 - |
| 10.16.6.163 - - [11/Apr/2023 21:44:18] "GET /healthcheck HTTP/1.1" 200 - |
+--------------------------------------------------------------------------+
1 Row(s) produced. Time Elapsed: 0.878s

SELECT TIMESTAMP, RESOURCE_ATTRIBUTES, RECORD_ATTRIBUTES, VALUE
FROM <current-event-table-for-your-account>
WHERE timestamp > dateadd(hour, -1, current_timestamp())
AND RESOURCE_ATTRIBUTES:"snow.executable.type" = 'SnowparkContainers'
ORDER BY timestamp DESC
LIMIT 10;

서비스 사용하기¶

향후 서비스(아직 생성되지 않은 서비스)에 대한 사용 권한을 역할에 부여할 수 있습니다. 예:

GRANT USAGE ON FUTURE SERVICES IN [DATABASE <name> | SCHEMA <name>]TO ROLE <name>

서비스를 생성하면 지원되는 다음 세 가지 방법 중 하나를 사용하여 서비스와 통신할 수 있습니다.

• 서비스 함수: 서비스와 연결된 서비스 함수(UDF)를 생성합니다. 그런 다음 서비스 함수를 사용하여 SQL 쿼리에서 서비스와 통신합니다. 예를 보려면 자습서 1 을 참조하십시오.

• 수신: 서비스에서 노출하는 공용 엔드포인트를 사용하여 Snowflake 외부에서 서비스에 액세스합니다. 이 경우 Snowflake가 액세스 제어를 관리합니다. 예를 보려면 자습서 1 을 참조하십시오.

• 서비스 간 통신: 서비스 간 통신에는 Snowflake에서 할당한 서비스 DNS 이름을 사용합니다. 예를 보려면 자습서 3 을 참조하십시오.

다음 섹션에서는 세부 정보를 제공합니다.

spec:
…
  endpoints:
  - name: echoendpoint
    port: 8080

CREATE FUNCTION my_echo_udf (text varchar)
   RETURNS varchar
   SERVICE=echo_service
   ENDPOINT=echoendpoint
   AS '/echo';

@app.post("/echo")
def echo():
...

ALTER FUNCTION my_echo_udf(VARCHAR)
   SET SERVICE=other_service
   ENDPOINT=otherendpoint
   MAX_BATCH_ROWS=100

"Alex", "2014-01-01 16:00:00"
"Steve", "2015-01-01 16:00:00"
…

SELECT service_func(col1, col2) FROM input_table;

{
   "data":[
      [
         0,
         "Alex",
         "2014-01-01 16:00:00"
      ],
      [
         1,
         "Steve",
         "2015-01-01 16:00:00"
      ],
      …
      [
         <row_index>,
         "<column1>",
         "<column2>"
      ],
   ]
}

{
   "data":[
      [0, "a"],
      [1, "b"],
      …
      [ row_index,  output_column1]
   ]
}

USE ROLE service_owner;
GRANT USAGE ON service service_db.my_schema.my_service TO ROLE func_owner;

USE ROLE func_owner;
CREATE OR REPLACE test_udf(v VARCHAR)
  RETURNS VARCHAR
  SERVICE=service_db.my_schema.my_service
  ENDPOINT=endpointname1
  AS '/run';

SELECT test_udf(col1) FROM some_table;

ALTER FUNCTION test_udf(VARCHAR) SET
  SERVICE = service_db.other_schema.other_service
  ENDPOINT=anotherendpoint;

GRANT USAGE ON FUNCTION test_udf(varchar) TO ROLE func_user;
USE ROLE func_user;
SELECT my_test_udf('abcd');

CREATE SECURITY INTEGRATION SNOWSERVICES_INGRESS_OAUTH
TYPE=oauth
OAUTH_CLIENT=snowservices_ingress
ENABLED=true;

spec
  ...
  endpoints
  - name: <endpoint name>
    port: <port number>
    public: true

<service-name>.<schema-name>.<db-name>.snowflakecomputing.internal

서비스 코드 업데이트하기¶

서비스를 생성한 후 ALTER SERVICE 를 사용하여 서비스 코드를 업데이트하십시오. 먼저 수정된 애플리케이션 코드를 이미지 리포지토리에 업로드한 다음 서비스 사양을 인라인으로 제공하거나 Snowflake 스테이지에서 사양 파일 경로를 지정하여 ALTER SERVICE를 호출합니다. 예:

• 사양을 인라인으로 제공합니다(부분 사양이 표시됨).

  ALTER SERVICE echo_service
  FROM SPECIFICATION $$
  spec:
    …
    …
  $$;
  

  Copy

• Snowflake 스테이지 파일 경로를 제공합니다.

  ALTER SERVICE echo_service
  FROM @tutorial_stage
  SPECIFICATION_FILE='echo_spec.yaml';
  

  Copy

요청을 받으면 Snowflake는 새 코드를 사용하여 서비스를 다시 배포합니다.

ALTER SERVICE는 항상 리포지토리에서 가장 최신 버전의 이미지를 사용합니다. 예를 들어 “echo_service:latest” 또는 “echo_service:sometag” 라는 이미지의 여러 버전을 업로드하는 경우 Snowflake는 최신 업로드 이미지 버전을 사용합니다.

DESCRIBE SERVICE 명령을 사용하여 서비스가 실행 중인 이미지 버전을 찾을 수 있습니다. 서비스 소유자인 경우 DESCRIBE SERVICE 출력에는 이미지 다이제스트(이미지의 SHA256)를 가져오는 서비스 사양이 포함됩니다. 예:

spec:
containers:
- name: "echo"
   image: "orgname-acctname.registry-dev.snowflakecomputing.com/tutorial_db/data_schema/tutorial_repository/my_echo_service_image:latest"
   sha256: "@sha256:8d912284f935ecf6c4753f42016777e09e3893eed61218b2960f782ef2b367af"
   env:
      SERVER_PORT: "8000"
      CHARACTER_NAME: "Bob"
   readinessProbe:
      port: 8000
      path: "/healthcheck"
endpoints:
- name: "echoendpoint"
   port: 8000
   public: true

권한¶