Snowpark Container Services: Verwenden von Diensten¶

Mehrerer Dienstinstanzen erstellen und automatische Skalierung konfigurieren¶

Standardmäßig führt Snowflake eine Instanz des Dienstes in dem angegebenen Computepool aus. Um umfangreiche Workloads zu bewältigen, können Sie mehrere Dienstinstanzen ausführen, indem Sie die Eigenschaften MIN_INSTANCES und MAX_INSTANCES spezifizieren, die die Mindestanzahl der zu startenden Instanzen des Dienstes und die maximale Anzahl der Instanzen angeben, auf die Snowflake bei Bedarf skalieren kann.

Beispiel

CREATE SERVICE echo_service
   IN COMPUTE POOL tutorial_compute_pool
   FROM @tutorial_stage
   SPECIFICATION_FILE='echo_spec.yaml'
   MIN_INSTANCES=2
   MAX_INSTANCES=4;

Wenn mehrere Dienstinstanzen ausgeführt werden, stellt Snowflake automatisch einen Load Balancer zum Verteilen der eingehenden Anforderungen bereit.

Führen Sie die folgenden Schritte aus, um Snowflake für die automatische Skalierung der Anzahl der ausgeführten Dienstinstanzen zu konfigurieren:

1. Geben Sie in der Dienstspezifikationsdatei die Anforderungen an Arbeitsspeicher und CPU für Ihre Dienstinstanz an. Weitere Informationen dazu finden Sie unter Feld „container.resources“.

   Beispiel

   resources:
     requests:
      memory: <memory-reserved>
      cpu: <cpu-units>
   

   Copy

2. Wenn Sie den Befehl CREATE SERVICE ausführen, legen Sie die Parameter MIN_INSTANCES und MAX_INSTANCES fest. Sie können auch ALTER SERVICE verwenden, um diese Werte zu ändern.

Snowflake erstellt zunächst die Mindestanzahl von Dienstinstanzen auf dem angegebenen Computepool und skaliert dann automatisch die Anzahl der Instanzen nach Bedarf. Snowflake verwendet einen Schwellenwert von 80 % (sowohl für CPU als auch für den Arbeitsspeicher), um die Anzahl der Dienstinstanzen zu erhöhen oder zu verringern.

Zu einem bestimmten Zeitpunkt können eine oder mehrere Dienstinstanzen auf dem angegebenen Computepool ausgeführt werden. Snowflake überwacht kontinuierlich die Ressourcennutzung (Arbeitsspeicher oder CPU) innerhalb des Computepools und aggregiert die Nutzungsdaten aller aktuell ausgeführten Dienstinstanzen.

Wenn die aggregierte Ressourcennutzung (für alle Dienstinstanzen) 80 % übersteigt, stellt Snowflake eine zusätzliche Dienstinstanz im Computepool bereit. Wenn die aggregierte Ressourcennutzung unter 80 % fällt, skaliert Snowflake herunter, indem eine der aktiven Dienstinstanzen entfernt wird. Snowflake verwendet ein fünfminütiges Stabilisierungsfenster, um häufiges Skalieren zu verhindern.

Beachten Sie das folgende Skalierungsverhalten:

• Die Skalierung der Dienstinstanzen wird durch die für den Dienst konfigurierten Parameter MIN_INSTANCES und MAX_INSTANCES eingeschränkt.

• Wenn ein Hochskalieren erforderlich ist und die Knoten des Computepools nicht über die erforderliche Ressourcenkapazität verfügen, um eine weitere Dienstinstanz zu starten, kann die automatische Skalierung des Computepools ausgelöst werden. Weitere Informationen dazu finden Sie unter Automatisches Skalieren von Computepool-Knoten.

• Wenn Sie beim Erstellen eines Dienstes die Parameter MAX_INSTANCES und MIN_INSTANCES angeben, aber in der Dienstspezifikationsdatei Ihrer Dienstinstanz keine Arbeitsspeicher- und CPU-Anforderungen spezifiziert sind, erfolgt keine automatische Skalierung. Snowflake beginnt dann mit der durch die Eigenschaft MIN_INSTANCES angegebenen Anzahl von Instanzen und führt keine automatische Skalierung durch.

Verwenden von SYSTEM$GET_SERVICE_LOGS¶

Sie geben den Dienstnamen, die Instanz-ID, den Containernamen und optional die Anzahl der letzten Protokollzeilen an, die abgerufen werden sollen. Wenn nur eine Dienstinstanz ausgeführt wird, ist die Dienstinstanz-ID 0. Der folgende GET_SERVICE_LOGS-Befehl ruft beispielsweise die letzten 10 Zeilen aus dem Protokoll eines Containers namens echo ab, der zur Instanz 0 eines Dienstes namens echo_service gehört:

CALL SYSTEM$GET_SERVICE_LOGS('echo_service', '0', 'echo', 10);

Wenn Sie die Dienstinformationen nicht kennen (z. B. die Instanz-ID oder den Containernamen), können Sie zunächst GET_SERVICE_STATUS ausführen, um Informationen zu den in jeder Instanz ausgeführten Dienstinstanzen und Containern zu erhalten.

Beispielausgabe:

+--------------------------------------------------------------------------+
| SYSTEM$GET_SERVICE_LOGS                                                  |
|--------------------------------------------------------------------------|
| 10.16.6.163 - - [11/Apr/2023 21:44:03] "GET /healthcheck HTTP/1.1" 200 - |
| 10.16.6.163 - - [11/Apr/2023 21:44:08] "GET /healthcheck HTTP/1.1" 200 - |
| 10.16.6.163 - - [11/Apr/2023 21:44:13] "GET /healthcheck HTTP/1.1" 200 - |
| 10.16.6.163 - - [11/Apr/2023 21:44:18] "GET /healthcheck HTTP/1.1" 200 - |
+--------------------------------------------------------------------------+
1 Row(s) produced. Time Elapsed: 0.878s

Die Ausgabe von SYSTEM$GET_SERVICE_LOGS hat die folgenden Einschränkungen:

• Sie führt einfach die Standardausgabe- und Standardfehlerstreams zusammen, wodurch es unmöglich ist, zwischen regulären Ausgaben und Fehlermeldungen zu unterscheiden.

• Sie berichtet die erfassten Daten für einen bestimmten Container in einer einzigen Dienstinstanz.

• Sie werden nur Protokolle für einen in Ausführung befindlichen Container berichtet. Die Funktion kann keine Protokolle von einem früheren Container abrufen, der neu gestartet wurde, oder von einem Container eines Dienstes, der angehalten oder gelöscht wurde.

• Die Funktion gibt bis zu 100 KB an Daten zurück.

Verwenden einer Ereignistabelle¶

Snowflake kann Standardausgaben und Standardfehler von Ihren Containern erfassen und in der für Ihr Konto konfigurierten Ereignistabelle erfassen. Weitere Informationen dazu finden Sie unter Übersicht zu Protokollierung und Ablaufverfolgung.

Die folgende SELECT-Abfrage ruft beispielsweise Dienst- und Job-Ereignisse in Snowflake ab, die in der letzten Stunde erfasst wurden:

SELECT TIMESTAMP, RESOURCE_ATTRIBUTES, RECORD_ATTRIBUTES, VALUE
FROM <current-event-table-for-your-account>
WHERE timestamp > dateadd(hour, -1, current_timestamp())
AND RESOURCE_ATTRIBUTES:"snow.executable.type" = 'SnowparkContainers'
ORDER BY timestamp DESC
LIMIT 10;

Snowflake empfiehlt, einen Zeitstempel in die WHERE-Klausel von Ereignistabellenabfragen aufzunehmen, wie in diesem Beispiel gezeigt. Dies ist besonders wichtig wegen der potenziellen Datenmenge, die von verschiedenen Snowflake-Komponenten generiert wird. Durch die Anwendung von Filtern können Sie eine kleinere Teilmenge von Daten abrufen, was die Abfrageleistung verbessert.

Sie steuern die Ebene der Protokolleinträge (alle oder nur Fehler oder keine), die in einer Ereignistabelle gespeichert werden sollen, indem Sie das Feld spec.logExporters in der Dienstspezifikationsdatei verwenden.

Die Ereignistabelle enthält die folgenden Spalten, die nützliche Informationen zu den von Snowflake erfassten Protokolleinträgen zu Ihrem Container bereitstellen:

• TIMESTAMP: Zeigt an, wann Snowflake das Protokoll erfasst hat.

• RESOURCE_ATTRIBUTES: Jedes Objekt in dieser Spalte gibt an, welcher Snowflake-Dienst und -Container des Dienstes den Protokolleintrag generiert hat. Er gibt beispielsweise Details wie den Dienstnamen, den Containernamen und den Namen des Computepools an, die bei Ausführung des Dienstes angegeben wurden.

  {
  "snow.containers.compute_pool.id": 549816068,
  "snow.containers.compute_pool.name": "TUTORIAL_COMPUTE_POOL",
  "snow.containers.container.name": "echo",
  "snow.containers.instance.name": "0",
  "snow.containers.restart.id": "cd0cf2",
  "snow.database.id": 549816076,
  "snow.database.name": "TUTORIAL_DB",
  "snow.executable.id": 980991015,
  "snow.executable.name": "ECHO_SERVICE",
  "snow.executable.type": "SnowparkContainers",
  "snow.schema.id": 549816076,
  "snow.schema.name": "DATA_SCHEMA"
  }
  

  Copy

• RECORD_ATTRIBUTES: Gibt für einen Snowflake-Dienst die Fehlerquelle an (Standardausgabe oder Standardfehler).

  { "log.iostream": "stdout" }
  

  Copy

• VALUE: Standardausgabe und Standardfehler sind in Zeilen unterteilt, und jede Zeile generiert einen Datensatz in der Ereignistabelle.

  "echo-service [2023-10-23 17:52:27,429] [DEBUG] Sending response: {'data': [[0, 'Joe said hello!']]}"
  

Dienstfunktionen: Verwenden eines Dienstes aus einer SQL-Abfrage¶

Eine Dienstfunktion ist eine benutzerdefinierte Funktion (UDF), die Sie mit CREATE FUNCTION erstellen. Anstatt jedoch den UDF-Code direkt zu schreiben, verknüpfen Sie die UDF mit Ihrem Dienst. In Tutorial 1 erstellen Sie beispielsweise einen Dienst namens echo_service, der einen Endpunkt (echoendoint) gemäß der Definition in der Dienstspezifikation bereitstellt:

spec:
…
  endpoints:
  - name: echoendpoint
    port: 8080

echoendpoint ist ein benutzerfreundlicher Endpunktname, der den entsprechenden Port (8080) darstellt. Um mit diesem Dienstendpunkt zu kommunizieren, erstellen Sie eine Dienstfunktion, indem Sie die Parameter SERVICE und ENDPOINT wie gezeigt angeben:

CREATE FUNCTION my_echo_udf (text varchar)
   RETURNS varchar
   SERVICE=echo_service
   ENDPOINT=echoendpoint
   AS '/echo';

Der Parameter AS stellt den HTTP-Pfad zum Dienstcode bereit. Sie erhalten diesen Pfadwert aus dem Dienstcode (siehe z. B. „service.py“ in Tutorial 1).

@app.post("/echo")
def echo():
...

Wenn Sie die Dienstfunktion aufrufen, leitet Snowflake die Anforderung an den zugehörigen Dienstendpunkt und -pfad weiter.

Wenn Sie mehrere Instanzen Ihres Dienstes ausführen, können Sie eine Dienstfunktion erstellen, indem Sie den optionalen Parameter MAX_BATCH_ROWS angeben, um die Batchgröße zu begrenzen, d. h. die maximale Anzahl von Zeilen, die Snowflake in einem Batch an den Dienst sendet. Angenommen, MAX_BATCH_ROWS ist 10 und Sie rufen die Dienstfunktion my_echo_udf mit 100 Eingabezeilen auf. Snowflake unterteilt die Eingabezeilen in Batches, wobei jeder Stapel höchstens 10 Zeilen enthält, und sendet eine Serie von Anforderungen an den Dienst mit dem Batch von Zeilen im Anforderungstext. Die Konfiguration der Batchgröße kann hilfreich sein, wenn die Verarbeitung eine nicht unerhebliche Zeit in Anspruch nimmt, und das Verteilen der Zeilen auf alle verfügbaren Server kann ebenfalls hilfreich sein.

Sie können ALTER FUNCTION verwenden, um eine Dienstfunktion zu ändern. Der folgende ALTER FUNCTION-Befehl ändert den Dienstendpunkt, mit dem er verknüpft ist, und die Batchgröße:

ALTER FUNCTION my_echo_udf(VARCHAR)
   SET SERVICE=other_service
   ENDPOINT=otherendpoint
   MAX_BATCH_ROWS=100

"Alex", "2014-01-01 16:00:00"
"Steve", "2015-01-01 16:00:00"
…

SELECT service_func(col1, col2) FROM input_table;

{
   "data":[
      [
         0,
         "Alex",
         "2014-01-01 16:00:00"
      ],
      [
         1,
         "Steve",
         "2015-01-01 16:00:00"
      ],
      …
      [
         <row_index>,
         "<column1>",
         "<column2>"
      ],
   ]
}

{
   "data":[
      [0, "a"],
      [1, "b"],
      …
      [ row_index,  output_column1]
   ]
}

USE ROLE service_owner;
GRANT USAGE ON service service_db.my_schema.my_service TO ROLE func_owner;

USE ROLE func_owner;
CREATE OR REPLACE test_udf(v VARCHAR)
  RETURNS VARCHAR
  SERVICE=service_db.my_schema.my_service
  ENDPOINT=endpointname1
  AS '/run';

SELECT test_udf(col1) FROM some_table;

ALTER FUNCTION test_udf(VARCHAR) SET
  SERVICE = service_db.other_schema.other_service
  ENDPOINT=anotherendpoint;

GRANT USAGE ON FUNCTION test_udf(varchar) TO ROLE func_user;
USE ROLE func_user;
SELECT my_test_udf('abcd');

Dateneingang: Verwenden eines Dienstes von außerhalb von Snowflake¶

Ein Dienst kann einen oder mehrere Endpunkte als öffentlich bereitstellen, damit Benutzer den Dienst über das öffentliche Web nutzen können.

CREATE SECURITY INTEGRATION SNOWSERVICES_INGRESS_OAUTH
TYPE=oauth
OAUTH_CLIENT=snowservices_ingress
ENABLED=true;

Markieren Sie den Endpunkt in Ihrer Dienstspezifikationsdatei als öffentlich:

spec
  ...
  endpoints
  - name: <endpoint name>
    port: <port number>
    public: true

Weitere Informationen zu Dienstspezifikationen finden Sie unter Referenz der Dienstspezifikation.

Dienst-zu-Dienst-Kommunikation¶

Dienste können über den DNS-Namen, den Snowflake jedem Dienst automatisch zuweist, miteinander kommunizieren. Ein Beispiel dazu finden Sie unter Tutorial 3.

Das DNS-Namensformat ist:

<service-name>.<schema-name>.<db-name>.snowflakecomputing.internal

Verwenden Sie SHOW SERVICES (oder DESCRIBE SERVICE), um den DNS-Namen eines Dienstes zu erhalten. Der obige DNS-Name ist ein vollständiger Name. Dienste, die im selben Schema erstellt wurden, können nur über den <service-name> kommunizieren. Dienste, die sich in derselben Datenbank, aber in unterschiedlichen Schemas befinden, müssen den Schemanamen angeben, z. B. <service-name>.<schema-name>.

Snowflake erlaubt die Netzwerkkommunikation zwischen Diensten, die von der gleichen Rolle erstellt wurden, und blockiert die Netzwerkkommunikation zwischen Diensten, die von verschiedenen Rollen erstellt wurden. Wenn Sie verhindern möchten, dass Ihre Dienste miteinander kommunizieren (z. B. aus Sicherheitsgründen), verwenden Sie verschiedene Snowflake-Rollen, um diese Dienste zu erstellen.

DNS-Namen haben die folgenden Einschränkungen:

• Ihre Datenbank-, Schema- oder Dienstnamen müssen gültige DNS-Bezeichnungen sein. (Siehe auch https://www.ietf.org/rfc/rfc1035.html#section-2.3.1). Andernfalls wird das Erstellen eines Dienstes fehlschlagen.

• Snowflake ersetzt einen Unterstrich (_) in den Namen (Datenbank-, Schema- und Dienstname) im DNS-Namen durch einen Bindestrich (-).

• Ändern Sie nach dem Erstellen eines Dienstes nicht die Datenbank oder den Schemanamen, da Snowflake den DNS-Namen des Dienstes nicht aktualisiert.

• Ein DNS-Name dient nur der internen Kommunikation innerhalb von Snowflake zwischen Diensten, die in demselben Konto ausgeführt werden. Er ist nicht über das Internet zugänglich.