Fine-Tuning von arctic-extract-Modellen¶

Syntax¶

Für spezifische Syntax, Nutzungshinweise und Beispiele siehe:

• FINETUNE ('CREATE') (SNOWFLAKE.CORTEX)

• FINETUNE ('DESCRIBE') (SNOWFLAKE.CORTEX)

• FINETUNE ('SHOW') (SNOWFLAKE.CORTEX)

• FINETUNE ('CANCEL') (SNOWFLAKE.CORTEX)

SNOWFLAKE.CORTEX.FINETUNE(
  'CREATE',
  '@<database>.<schema>.<model_name>',
  'arctic-extract',
  '<training_dataset>'
  [
    , '<validation_dataset>'
  ]
)

  SELECT SNOWFLAKE.CORTEX.FINETUNE(
  'CREATE',
  '@database.schema.model_name',
  'arctic-extract`,
  'snow://dataset/training_ds/versions/2',
  'snow://dataset/validation_ds/versions/4'
);

{
  "base_model":"arctic-extract",
  "created_on":1717004388348,
  "finished_on":1717004691577,
  "id":"ft_6556e15c-8f12-4d94-8cb0-87e6f2fd2299",
  "model":"mydb.myschema.my_tuned_model",
  "progress":1.0,
  "status":"SUCCESS",
  "training_data":"snow://dataset/training_ds/versions/2",
  "trained_tokens":2670734,
  "training_result":{"validation_loss":1.0138969421386719,"training_loss":0.6477728401547047},
  "validation_data":"snow://dataset/validation_ds/versions/4",
}

Anforderungen an das Datenset¶

Das für Training und Validierung verwendete Datenset muss die folgenden Spalten enthalten:

Datei:

Eine Zeichenfolge, die den Dateipfad zu dem zu extrahierenden Dokument enthält. Beispiel: @db.schema.stage/file.pdf

Prompt:

Schlüssel- und Fragepaare für die Extraktion in einem der Formate, die vom responseFormat-Argument der AI_EXTRACT-Funktion unterstützt werden.

Weitere Informationen dazu finden Sie unter AI_EXTRACT.

Antwort:

Ein JSON-Objekt, das Schlüssel- und Antwortpaare enthält.

Beachten Sie bei der Vorbereitung des Datensets Folgendes:

• Das Schema des Fine-Tuning-Modells ist das eindeutige Set aller Fragen im Datenset.

• Die Antworten in der Response-Spalte müssen mit den Fragen in der Prompt-Spalte durch übereinstimmende Schlüssel in den Spalten``Prompt`` und Response abgeglichen werden.

• Sie müssen nicht für jedes Dokument dasselbe Set von Fragen angeben.

• Um die Modellgenauigkeit zu verbessern, fügen Sie für jede Frage eine Zeile mit einer Eingabeaufforderung und einer Antwort hinzu, auch wenn die Standardantwort des Modells korrekt ist. Diese Aktion bestätigt, dass die Standardantwort korrekt ist.

Weitere Informationen zu Datensets finden Sie unter Snowflake Datasets.

{
  "schema":
  {
    "type": "object",
    "properties": {
      "deductions": {
        "description": "Deductions",
        "type": "object",
        "properties": {
          "deductions_name": {
            "type": "array"
          },
          "current": {
            "type": "array"
          }
        }
      }
    }
  }
}

{
  "deductions": {
    "deductions_name": [
      "Federal Tax",
      "Wyoming State Tax",
      "SDI",
      "Soc Sec / OASDI",
      "Health Insurance Tax",
      "None"
    ],
    "current": [
      "82.50",
      "64.08",
      "None",
      "13.32",
      "91.74",
      "21.46"
    ]
  }
}

Nutzungshinweise¶

• Snowflake empfiehlt die Verwendung von mindestens 20 Dokumenten für das Fine-Tuning.

• Unterstützte Dateiformate für Dokumente sind:

  • PDF

  • PNG

  • JPG, JPEG

  • TIFF, TIF

• Die maximale Anzahl von Seiten pro Dokument ist:

  • 64 Seiten für AWS US West 2 (Oregon) und AWS Europe Central 1 (Frankfurt)

  • 125 Seiten für AWS US East 1 (N. Virginia) und Azure East US 2 (Virginia)

• Die maximale Anzahl eindeutiger Dokumentdateien im Datenset ist 1.000. Sie können mehrfach auf dieselbe Dokumentdatei verweisen.

• Es gibt eine Beschränkung für die Anzahl der Fragen und Dokumente, die in einem Fine-Tuning-Job enthalten sein können. Die Anzahl der Fragen multipliziert mit der Gesamtzahl der Seiten in allen Dokumentdateien des Datensets muss gleich oder kleiner als 50.000 sein.

  Gültige Kombinationen sind beispielsweise:

  Anzahl der Fragen	Anzahl der Seiten	Anzahl der Dokumentdateiverweise [1]
  10	1	5.000
  100	1	500
  10	10	500
  25	10	200

Erstellen eines Fine-Tuning-Jobs¶

Um einen Fine-Tuning-Job zu erstellen, müssen Sie ein Datenset-Objekt erstellen, das die Trainingsdaten enthält. Das folgende Beispiel zeigt, wie Sie ein Datenset-Objekt erstellen und das Datenset verwenden, um einen Fine-Tuning-Job für ein``arctic-extract``-Modell zu erstellen.

1. Erstellen Sie die Tabelle, die die Trainingsdaten enthält:

   CREATE OR REPLACE TABLE my_data_table (f FILE, p VARCHAR, r VARCHAR);
   

   Copy

2. Füllen Sie die Tabelle mit den Trainingsdaten:

   INSERT INTO my_data_table (f, p, r)
   SELECT TO_FILE('@db.schema.stage', '1.pdf'), '{"net": "What is the net value?"}', '{"net": "3,762.56"}';
   

   Copy

3. Erstellen Sie das Datenset-Objekt:

   CREATE OR REPLACE DATASET my_dataset;
   

   Copy

4. Erstellen Sie eine neue Version des Datensets, welche die Trainingsdaten hinzufügt, unter Verwendung der Funktionen FL_GET_STAGE und FL_GET_RELATIVE_PATH zum Abrufen der Dateipfade:

   ALTER DATASET my_dataset
   ADD VERSION 'v1' FROM (
     SELECT FL_GET_STAGE(f) || '/' || FL_GET_RELATIVE_PATH(f) AS "file",
          p AS "prompt",
          r AS "response"
     FROM my_data_table
   );
   

   Copy

5. Erstellen eines Fine-Tuning-Jobs:

   SELECT SNOWFLAKE.CORTEX.FINETUNE(
     'CREATE',
     'my_tuned_model',
     'arctic-extract',
     'snow://dataset/db.schema.my_dataset/versions/v1'
   );
   

   Copy

Fine-Tuning arctic-extract-Modell für die Ableitung verwenden¶

Wenn Sie ein Fine-Tuning arctic-extract-Modell für die Ableitung verwenden möchten, müssen Sie über die folgenden Berechtigungen für das Modellobjekt verfügen:

• OWNERSHIP

• USAGE

• READ

Zur Verwendung des Fine-Tuning arctic-extract-Modells für die Ableitung mit der Funktion AI_EXTRACT geben Sie das Modell mit dem model-Parameter wie im folgenden Beispiel gezeigt an:

SELECT AI_EXTRACT(
  model => 'db.schema.my_tuned_model',
  file => TO_FILE('@db.schema.files','document.pdf')
);

Sie können Fragen, die für das Fine-Tuning verwendet werden, mit dem responseFormat-Parameter überschreiben, wie im folgenden Beispiel gezeigt:

SELECT AI_EXTRACT(
  model => 'db.schema.my_tuned_model',
  file => TO_FILE('@db.schema.files','document.pdf'),
  responseFormat => [['name', 'What is the first name of the employee?'], ['city', 'Where does the employee live?']]
);

Weitere Informationen dazu finden Sie unter AI_EXTRACT.