Fine-tuning(Snowflake Cortex)¶

개요¶

Cortex Fine-tuning 를 사용하면 매개 변수의 효율적인 미세 조정(PEFT)을 활용하여 보다 전문적인 작업에서 사전 훈련된 모델과 함께 사용할 수 있는 사용자 지정 어댑터를 생성할 수 있습니다. 대규모 모델을 처음부터 훈련하는 데 드는 높은 비용을 원하지 않지만 신속한 엔지니어링이나 검색 증강 생성(RAG) 메서드에서 얻는 것보다 더 나은 대기 시간과 결과가 필요한 경우, 기존 대규모 모델을 미세 조정하는 것도 한 가지 옵션입니다. Fine-tuning을 사용하면 예제를 사용하여 모델의 동작을 조정하고 도메인별 작업에 대한 모델의 지식을 향상할 수 있습니다.

Cortex Fine-tuning 는 데이터를 사용하여 널리 사용되는 LLMs을 Snowflake 내에서 미세 조정할 수 있는 완전 관리형 서비스입니다.

Cortex Fine-tuning 기능은 다음과 같은 인자와 함께 Snowflake Cortex 함수인 FINETUNE 으로 제공됩니다.

• CREATE: 주어진 훈련 데이터로 미세 조정 작업을 생성합니다.

• SHOW: 현재 역할이 액세스할 수 있는 모든 미세 조정 작업을 나열합니다.

• DESCRIBE: 특정 미세 조정 작업의 진행 상황과 상태를 설명합니다.

• CANCEL: 지정된 미세 조정 작업을 취소합니다.

비용 고려 사항¶

Snowflake Cortex Fine-tuning 함수는 훈련에 사용된 토큰 수에 따라 컴퓨팅 비용이 발생합니다. 또한 미세 조정된 모델에서 COMPLETE 함수를 실행하면 처리된 토큰 수에 따라 컴퓨팅 비용이 발생합니다. 백만 토큰당 크레딧으로 표시되는 각 비용은 Snowflake 서비스 사용 테이블 을 참조하십시오.

토큰은 Snowflake Cortex Fine-tuning 함수가 처리하는 가장 작은 텍스트 단위로, 대략 텍스트 4자와 같습니다. 원시 입력 또는 출력 텍스트와 토큰의 동등성은 모델에 따라 다를 수 있습니다.

• 응답에 새 텍스트를 생성하는 COMPLETE 함수의 경우 입력 토큰과 출력 토큰이 모두 카운트됩니다.

• 미세 조정된 훈련된 토큰은 다음과 같이 계산됩니다.

  Fine-tuning trained tokens = number of input tokens * number of epochs trained
  

  Copy

  FINETUNE ('DESCRIBE') (SNOWFLAKE.CORTEX) 를 사용하여 미세 조정 작업을 위해 훈련된 토큰의 수를 확인합니다.

기타 고려 사항¶

• 미세 조정 및 추론에 발생하는 비용 외에도, 출력 사용자 지정 어댑터를 보관하고 SQL 명령을 실행하기 위한 일반적인 저장소 및 웨어하우스 비용도 발생합니다.

• 미세 조정 작업은 오래 실행되는 경우가 많으며, 워크시트 세션에 첨부되지 않습니다.

• 각 모델의 훈련/검증 데이터 세트 크기에는 다음 제한이 적용됩니다.

  모델	훈련 데이터 제한
  llama3-8b	1 GB
  llama3-70b	250 MB
  llama3.1-8b	1 GB
  llama3.1-70b	250 MB
  mistral-7b	1 GB
  mixtral-8x7b	250 MB

액세스 제어 요구 사항¶

미세 조정 작업을 실행하려면 미세 조정 작업을 생성하는 역할에 다음 권한이 필요합니다.

다음 SQL은 my_schema 에서 역할인 my_role 에 CREATE MODEL 권한을 부여하는 예제입니다.

GRANT CREATE MODEL ON SCHEMA my_schema TO ROLE my_role;

또한 FINETUNE 함수를 사용하려면 함수를 호출할 사용자에게 ACCOUNTADMIN 역할이 SNOWFLAKE.CORTEX_USER 데이터베이스 역할을 부여해야 합니다. 자세한 내용은 LLM 함수 필수 권한 항목을 참조하십시오.

다른 역할에 미세 조정된 모델을 사용할 수 있는 액세스 권한을 부여하려면 해당 모델에 대한 사용 권한을 부여해야 합니다. 자세한 내용은 모델 권한 섹션을 참조하십시오.

미세 조정이 가능한 모델¶

미세 조정이 가능한 기본 모델은 다음과 같습니다. 미세 조정이 가능한 모델은 나중에 추가되거나 제거될 수 있습니다.

모델 미세 조정 방법¶

모델 미세 조정을 위한 전체 워크플로는 다음과 같습니다.

1. 훈련 데이터를 준비합니다.

2. 필요한 매개 변수로 미세 조정 작업을 시작합니다.

3. 훈련 작업을 모니터링합니다.

훈련이 완료되면 Cortex Fine-tuning 에서 제공한 모델 이름을 사용하여 모델에서 추론을 실행할 수 있습니다.

SELECT SNOWFLAKE.CORTEX.FINETUNE(
  'CREATE',
  'my_tuned_model',
  'mistral-7b',
  'SELECT a AS prompt, d AS completion FROM train',
  'SELECT a AS prompt, d AS completion FROM validation'
);

USE DATABASE mydb;
USE SCHEMA myschema;

SELECT SNOWFLAKE.CORTEX.FINETUNE(
  'CREATE',
  'my_tuned_model',
  'mistral-7b',
  'SELECT prompt, completion FROM my_training_data',
  'SELECT prompt, completion FROM my_validation_data'
);

SELECT SNOWFLAKE.CORTEX.FINETUNE(
  'CREATE',
  'mydb.myschema.my_tuned_model',
  'mistral-7b',
  'SELECT prompt, completion FROM mydb2.myschema2.my_training_data',
  'SELECT prompt, completion FROM mydb2.myschema2.my_validation_data'
);

추론을 위해 미세 조정된 모델 사용¶

미세 조정한 모델의 이름과 함께 COMPLETE LLM 함수 를 사용하여 추론합니다.

이 예제에서는 미세 조정한 모델의 이름으로 COMPLETE 함수를 호출합니다.

SELECT SNOWFLAKE.CORTEX.COMPLETE(
  'my_tuned_model',
  'How to fine-tune mistral models'
);

다음은 예제 호출의 출력 중 일부입니다.

Mistral models are a type of deep learning model used for image recognition and classification. Fine-tuning a Mistral model involves adjusting the model's parameters to ...

제한 사항 및 알려진 문제¶

• 미세 조정 작업은 계정 수준에서만 나열될 수 있습니다.

• FINETUNE ('SHOW') (SNOWFLAKE.CORTEX) 에서 반환된 미세 조정 작업은 영구적이지 않으며 주기적으로 가비지 컬렉션될 수 있습니다.

• 기본 모델이 Cortex LLM 함수에서 제거되면 미세 조정한 모델이 더 이상 작동하지 않습니다.

모델 공유하기¶

미세 조정된 모델은 데이터 공유 를 통해 USAGE 권한이 있는 다른 계정과 공유할 수 있습니다.

모델 복제하기¶

리전 간 추론 은 미세 조정된 모델을 지원하지 않습니다. 추론은 모델 오브젝트가 위치한 동일한 리전에서 수행되어야 합니다. 데이터베이스 복제를 사용하여 미세 조정된 모델 오브젝트를 모델이 훈련된 리전과 다른 경우 추론을 수행할 리전으로 복제할 수 있습니다.

예를 들어, AWS US 서부 2 리전 계정에 mistral-7b 를 기반으로 미세 조정된 모델을 생성한 경우 데이터 공유를 사용하여 이 리전의 다른 계정과 공유하거나 데이터베이스 복제를 사용하여 AWS 유럽 서부 리전과 같이 mistral-7b 모델을 지원하는 다른 리전의 조직 내 다른 계정으로 모델을 복제할 수 있습니다. 오브젝트 복제에 대한 자세한 내용은 여러 계정에 걸쳐 데이터베이스 및 계정 오브젝트 복제하기 섹션을 참조하십시오.

법적 고지¶

입력 및 출력의 데이터 분류는 다음 테이블과 같습니다.

자세한 내용은 Snowflake AI 및 ML 섹션을 참조하십시오.