Ajuste fino (Snowflake Cortex)¶

Visão geral¶

O Cortex Fine-tuning permite que os usuários aproveitem o ajuste fino com eficiência de parâmetros (PEFT) para criar adaptadores personalizados para uso com modelos pré-treinados em tarefas mais especializadas. Se você não quiser pagar o alto custo de treinar um modelo grande do zero, mas precisa de melhor latência e resultados do que os que você obtém com engenharia de prompts ou mesmo geração aumentada de recuperação (RAG), o ajuste fino de um modelo grande existente é uma opção. O ajuste fino permite que você use exemplos para ajustar o comportamento do modelo e melhorar o conhecimento do modelo sobre tarefas específicas do domínio.

Cortex Fine-tuning é um serviço totalmente gerenciado que permite que você ajuste os populares LLMs usando seus dados, tudo dentro do Snowflake.

Os recursos do Cortex Fine-tuning são fornecidos como uma função do Snowflake Cortex, FINETUNE, com os seguintes argumentos:

• CREATE: Cria um trabalho de ajuste fino com os dados de treinamento fornecidos.

• SHOW: Lista todos os trabalhos de ajuste fino aos quais a função atual tem acesso.

• DESCRIBE: Descreve o progresso e o status de um trabalho de ajuste fino específico.

• CANCEL: Cancela um determinado trabalho de ajuste fino.

Considerações sobre custo¶

A função Snowflake Cortex Fine-tuning incorre em custo de computação com base no número de tokens usados no treinamento. Além disso, executar a função COMPLETE em um modelo com ajuste fino incorre em custos de computação com base no número de tokens processados. Consulte a Tabela de consumo do serviço Snowflake para cada custo em créditos por milhão de tokens.

Um token é a menor unidade de texto processada pela função Snowflake Cortex Fine-tuning, aproximadamente igual a quatro caracteres de texto. A equivalência do texto bruto de entrada ou saída com tokens pode variar de acordo com o modelo.

• Para a função COMPLETE, que gera um novo texto na resposta, tanto os tokens de entrada quanto os de saída são contados.

• Os tokens treinados de ajuste fino são calculados da seguinte forma:

  Fine-tuning trained tokens = number of input tokens * number of epochs trained
  

  Copy

  Use FINETUNE ('DESCRIBE') (SNOWFLAKE.CORTEX) para ver o número de tokens treinados para seu trabalho de ajuste fino.

Outras considerações¶

• Além dos custos incorridos com ajuste e inferência, existem custos normais de armazenamento e warehouse para armazenar os adaptadores personalizados de saída, bem como para executar quaisquer comandos SQL.

• Os trabalhos de ajuste fino geralmente são demorados e não estão vinculados a uma sessão de planilha.

• Os seguintes limites se aplicam ao tamanho do conjunto de dados de treinamento/validação para cada modelo:

  Modelo	Limite de dados de treinamento
  llama3-8b	1 GB
  llama3-70b	250 MB
  llama3.1-8b	1 GB
  llama3.1-70b	250 MB
  mistral-7b	1 GB
  mixtral-8x7b	250 MB

Requisitos de controle de acesso¶

Para executar um trabalho de ajuste fino, a função que cria o trabalho de ajuste fino precisa dos seguintes privilégios:

O SQL a seguir é um exemplo da concessão do privilégio CREATE MODEL para uma função, my_role, em my_schema.

GRANT CREATE MODEL ON SCHEMA my_schema TO ROLE my_role;

Além disso, para usar a função FINETUNE, a função ACCOUNTADMIN deve conceder a função de banco de dados SNOWFLAKE.CORTEX_USER ao usuário que chamará a função. Consulte o tópico Privilégios obrigatórios funções LLM para obter mais detalhes.

Para dar a outras funções acesso para usar o modelo ajustado, você deve conceder uso no modelo. Para obter mais detalhes, consulte Privilégios do modelo.

Modelos disponíveis para ajuste fino¶

Você tem os seguintes modelos básicos que pode ajustar. Modelos disponíveis para ajuste fino podem ser adicionados ou removidos no futuro:

Como fazer o ajuste fino de um modelo¶

O fluxo de trabalho geral para ajustar um modelo é o seguinte:

1. Preparar os dados de treinamento.

2. Iniciar o trabalho de ajuste fino com os parâmetros necessários.

3. Monitorar o trabalho de treinamento.

Após a conclusão do treinamento, você pode usar o nome do modelo fornecido por Cortex Fine-tuning para executar inferências em seu modelo.

SELECT SNOWFLAKE.CORTEX.FINETUNE(
  'CREATE',
  'my_tuned_model',
  'mistral-7b',
  'SELECT a AS prompt, d AS completion FROM train',
  'SELECT a AS prompt, d AS completion FROM validation'
);

USE DATABASE mydb;
USE SCHEMA myschema;

SELECT SNOWFLAKE.CORTEX.FINETUNE(
  'CREATE',
  'my_tuned_model',
  'mistral-7b',
  'SELECT prompt, completion FROM my_training_data',
  'SELECT prompt, completion FROM my_validation_data'
);

SELECT SNOWFLAKE.CORTEX.FINETUNE(
  'CREATE',
  'mydb.myschema.my_tuned_model',
  'mistral-7b',
  'SELECT prompt, completion FROM mydb2.myschema2.my_training_data',
  'SELECT prompt, completion FROM mydb2.myschema2.my_validation_data'
);

Como usar seu modelo com ajuste fino para inferência¶

Use a função COMPLETE LLM com o nome de seu modelo com ajuste fino para fazer inferências.

Este exemplo mostra uma chamada para a função COMPLETE com o nome de seu modelo com ajuste fino.

SELECT SNOWFLAKE.CORTEX.COMPLETE(
  'my_tuned_model',
  'How to fine-tune mistral models'
);

A seguir está um trecho de código da saída da chamada de exemplo:

Mistral models are a type of deep learning model used for image recognition and classification. Fine-tuning a Mistral model involves adjusting the model's parameters to ...

Limitações e problemas conhecidos¶

• Os trabalhos de ajuste fino podem ser listados somente ao nível da conta.

• Os trabalhos de ajuste fino retornados de FINETUNE ('SHOW') (SNOWFLAKE.CORTEX) não são permanentes e podem ser coletados periodicamente.

• Se um modelo base for removido das funções de LLM Cortex, seu modelo com ajuste fino não funcionará mais.

Compartilhamento de modelos¶

Modelos ajustados podem ser compartilhados com outras contas com o privilégio USAGE via Data Sharing.

Replicação de modelos¶

Inferência entre regiões não oferece suporte a modelos com ajuste fino. A inferência deve ocorrer na mesma região onde o objeto modelo está localizado. Você pode usar a replicação de banco de dados para replicar o objeto de modelo ajustado para uma região da qual deseja fazer inferência, caso ela seja diferente da região em que o modelo foi treinado.

Por exemplo, se você criar um modelo ajustado com base em mistral-7b em sua conta na região AWS US West 2, poderá usar o compartilhamento de dados para compartilhá-lo com outra conta nessa região, ou poderá usar a replicação de banco de dados para replicar o modelo para outra conta em sua organização em uma região diferente que ofereça suporte ao modelo mistral-7b, como AWS Europe West. Para obter detalhes sobre como replicar objetos, consulte Replicação de bancos de dados e objetos de conta em diversas contas.

Avisos legais¶

A classificação dos dados de entradas e saídas é definido na tabela a seguir.

Para obter informações adicionais, consulte AI e ML Snowflake.