Ajuste fino de modelos arctic-extract¶

Sintaxe¶

Para sintaxes, notas de uso e exemplos específicos, consulte:

• FINETUNE ('CREATE') (SNOWFLAKE.CORTEX)

• FINETUNE ('DESCRIBE') (SNOWFLAKE.CORTEX)

• FINETUNE ('SHOW') (SNOWFLAKE.CORTEX)

• FINETUNE ('CANCEL') (SNOWFLAKE.CORTEX)

SNOWFLAKE.CORTEX.FINETUNE(
  'CREATE',
  '@<database>.<schema>.<model_name>',
  'arctic-extract',
  '<training_dataset>'
  [
    , '<validation_dataset>'
    [, '<options>' ]
  ]
)

  SELECT SNOWFLAKE.CORTEX.FINETUNE(
  'CREATE',
  '@database.schema.model_name',
  'arctic-extract',
  'snow://dataset/training_ds/versions/2',
  'snow://dataset/validation_ds/versions/4'
);

  SELECT SNOWFLAKE.CORTEX.FINETUNE(
  'CREATE',
  '@database.schema.model_name',
  'arctic-extract',
  'snow://dataset/training_ds/versions/2',
  'snow://dataset/validation_ds/versions/4',
  '{"max_epochs": 3}'
);

{
  "base_model":"arctic-extract",
  "created_on":1717004388348,
  "finished_on":1717004691577,
  "id":"ft_6556e15c-8f12-4d94-8cb0-87e6f2fd2299",
  "model":"mydb.myschema.my_tuned_model",
  "progress":1.0,
  "status":"SUCCESS",
  "training_data":"snow://dataset/training_ds/versions/2",
  "trained_tokens":2670734,
  "training_result":{"validation_loss":1.0138969421386719,"training_loss":0.6477728401547047},
  "validation_data":"snow://dataset/validation_ds/versions/4",
}

Requisitos do conjunto de dados¶

O conjunto de dados usado para treinamento e validação deve conter as seguintes colunas:

Arquivo:

Uma cadeia de caracteres contendo o caminho do arquivo para o documento para extração. O caminho pode fazer referência a um arquivo em uma área de preparação interna ou em uma área de preparação externa nomeada (por exemplo, Amazon S3, Google Cloud Storage ou Microsoft Azure). Por exemplo: @db.schema.stage/file.pdf

Prompt:

Um valor JSON que especifica pares de chave e pergunta para extração em um dos formatos suportados pelo argumento responseFormat da função AI_EXTRACT.

Para obter mais informações, consulte AI_EXTRACT.

Resposta:

Um objeto JSON contendo pares de chave e resposta.

Ao preparar o conjunto de dados, observe o seguinte:

• O esquema do modelo com ajuste fino é o conjunto exclusivo de todas as perguntas no conjunto de dados.

• As respostas na coluna Response devem corresponder às perguntas na coluna Prompt pela correspondência das chaves nas colunas Prompt e Response.

• Você não precisa especificar o mesmo conjunto de perguntas para cada documento.

• Para melhorar a precisão do modelo, adicione um prompt e uma linha de resposta para cada pergunta, mesmo que a resposta padrão do modelo esteja correta. Essa ação confirma que a resposta padrão é precisa.

Para obter mais informações sobre conjuntos de dados, consulte Conjuntos de dados do Snowflake.

{
  "schema":
  {
    "type": "object",
    "properties": {
      "deductions": {
        "description": "Deductions",
        "type": "object",
        "properties": {
          "deductions_name": {
            "type": "array"
          },
          "current": {
            "type": "array"
          }
        }
      }
    }
  }
}

{
  "deductions": {
    "deductions_name": [
      "Federal Tax",
      "Wyoming State Tax",
      "SDI",
      "Soc Sec / OASDI",
      "Health Insurance Tax",
      "None"
    ],
    "current": [
      "82.50",
      "64.08",
      "None",
      "13.32",
      "91.74",
      "21.46"
    ]
  }
}

Notas de uso¶

• A Snowflake recomenda usar pelo menos 20 documentos para ajuste fino.

• No conjunto de dados de treinamento, no máximo 100 perguntas exclusivas são permitidas para extração de entidade, e no máximo 10 perguntas exclusivas são permitidas para extração de tabela.

• Os documentos de treinamento e de validação podem residir em uma área de preparação interna ou em uma área de preparação externa nomeada. Para saber requisitos de acesso e a configuração quando usar o armazenamento em nuvem, consulte Funções de AI do Snowflake Cortex (incluindo funções LLM).

• As áreas de preparação criptografadas do lado do cliente são incompatíveis. Para obter mais informações, consulte AI_EXTRACT.

• O ajuste fino de modelos arctic-extract é atualmente incompatível com as políticas de redes personalizadas.

• Os formatos de arquivo compatíveis com documentos são:

  • PDF

  • PNG

  • JPG, JPEG

  • TIFF, TIF

• O número máximo de páginas por documento é:

  • 64 páginas para AWS US West 2 (Oregon) e AWS Europe Central 1 (Frankfurt)

  • 125 páginas para AWS US East 1 (N. Virginia) e Azure East US 2 (Virginia)

• O número máximo de arquivos de documentos exclusivos no conjunto de dados é 1.000. Você pode referenciar o mesmo arquivo de documento várias vezes.

• Existe um limite de quantas perguntas e documentos podem estar em um trabalho de ajuste fino. O número de perguntas multiplicado pelo número total de páginas em todos os arquivos de documento no conjunto de dados deve ser igual ou inferior a 50.000.

  Por exemplo, algumas combinações válidas são:

  Número de perguntas	Número de páginas	Número de referências de arquivos de documento [1]
  10	1	5.000
  100	1	500
  10	10	500
  25	10	200

  See moreShow less

  Expand

Criar um trabalho de ajuste fino¶

Para criar um trabalho de ajuste fino, você deve criar um objeto de conjunto de dados que contenha os dados de treinamento. O exemplo a seguir mostra como criar um objeto de conjunto de dados e usá-lo para criar um trabalho de ajuste fino para um modelo arctic-extract.

1. Crie a tabela que conterá os dados de treinamento:

   CopyExpand

   CREATE OR REPLACE TABLE my_data_table (f FILE, p VARCHAR, r VARCHAR);
   

   Show lessSee more

   Scroll to top

2. Preencha a tabela com os dados de treinamento:

   CopyExpand

   INSERT INTO my_data_table (f, p, r)
   SELECT TO_FILE('@db.schema.stage', '1.pdf'), '{"net": "What is the net value?"}', '{"net": "3,762.56"}';
   

   Show lessSee more

   Scroll to top

3. Crie o objeto de conjunto de dados:

   CopyExpand

   CREATE OR REPLACE DATASET my_dataset;
   

   Show lessSee more

   Scroll to top

4. Crie uma nova versão do conjunto de dados que adiciona os dados de treinamento, usando as funções FL_GET_STAGE e FL_GET_RELATIVE_PATH, para obter os caminhos dos arquivos:

   CopyExpand

   ALTER DATASET my_dataset
   ADD VERSION 'v1' FROM (
     SELECT FL_GET_STAGE(f) || '/' || FL_GET_RELATIVE_PATH(f) AS "file",
          p AS "prompt",
          r AS "response"
     FROM my_data_table
   );
   

   Show lessSee more

   Scroll to top

5. Crie um trabalho de ajuste fino:

   CopyExpand

   SELECT SNOWFLAKE.CORTEX.FINETUNE(
     'CREATE',
     'my_tuned_model',
     'arctic-extract',
     'snow://dataset/db.schema.my_dataset/versions/v1'
   );
   

   Show lessSee more

   Scroll to top

Usar seu modelo arctic-extract com ajuste fino para inferência¶

Para usar o modelo arctic-extract com ajuste fino para inferência, certifique-se de ter os seguintes privilégios no objeto de modelo:

• OWNERSHIP

• USAGE

• READ

Para usar o modelo arctic-extract com ajuste fino para inferência com a função AI_EXTRACT, especifique o modelo usando o parâmetro model, como mostrado no exemplo a seguir:

SELECT AI_EXTRACT(
  model => 'db.schema.my_tuned_model',
  file => TO_FILE('@db.schema.files','document.pdf')
);

Você pode substituir perguntas usadas para ajuste fino usando o parâmetro responseFormat, como mostrado no exemplo a seguir:

SELECT AI_EXTRACT(
  model => 'db.schema.my_tuned_model',
  file => TO_FILE('@db.schema.files','document.pdf'),
  responseFormat => [['name', 'What is the first name of the employee?'], ['city', 'Where does the employee live?']]
);

Para obter mais informações, consulte AI_EXTRACT.