Cortex Search¶

개요¶

Cortex Search를 사용하면 Snowflake 데이터에서 지연 시간이 짧은 고품질의 “퍼지” 검색을 수행할 수 있습니다. Cortex Search는 대규모 언어 모델(LLMs)을 활용하는 Retrieval Augmented Generation (RAG) 애플리케이션을 비롯하여 Snowflake 사용자를 위한 다양한 검색 환경을 지원합니다.

Cortex Search를 사용하면 임베딩, 인프라 유지 관리, 검색 품질 매개 변수 조정 또는 연속 인덱스 새로 고침에 대해 걱정할 필요 없이 몇 분 만에 텍스트 데이터에 대한 하이브리드(벡터 및 키워드) 검색 엔진을 구축하고 실행할 수 있습니다. 즉, 인프라와 검색 품질 조정에 소요되는 시간을 단축하고, 데이터를 활용해 고품질 채팅 및 검색 환경을 개발하는 데 더 많은 시간을 할애할 수 있습니다. AI 채팅 및 검색 애플리케이션을 강화하기 위해 Cortex Search를 사용하는 방법에 대한 단계별 지침은 Cortex Search 자습서 를 참조하십시오.

Cortex Search를 사용하는 시점¶

Cortex Search의 두 가지 주요 사용 사례는 RAG(retrieval augmented generation) 및 엔터프라이즈 검색입니다

• LLM 챗봇용 RAG 엔진: 의미 체계 검색을 활용하여 사용자 지정, 상황에 맞는 응답을 제공함으로써 텍스트 데이터로 채팅 애플리케이션을 위한 RAG 엔진으로 Cortex Search를 사용할 수 있습니다.

• 엔터프라이즈 검색: Cortex Search를 애플리케이션에 내장된 고품질 검색창의 백엔드로 사용할 수 있습니다.

RAG용 Cortex Search¶

RAG(Retrieval augmented generation)는 기술 자료에서 데이터를 검색하여 대규모 언어 모델의 생성된 응답을 향상시키는 기술입니다. 다음 아키텍처 다이어그램은 Cortex Search와 Cortex LLM 함수 를 결합하여 Snowflake 데이터를 기술 자료로 사용하여 RAG가 적용된 엔터프라이즈 챗봇을 구축하는 방법을 보여줍니다.

Cortex Search는 대규모 언어 모델에 최신 독점 데이터에 기반한 답변을 반환하는 데 필요한 컨텍스트를 제공하는 검색 엔진입니다.

예¶

이 예제에서는 Cortex Search Service를 구축하고 REST API를 사용하여 쿼리하는 단계를 안내합니다. 서비스 쿼리에 대한 자세한 내용은 Cortex Search Service 쿼리하기 항목을 참조하십시오.

이 예제에서는 고객 지원 기록 데이터 세트 샘플을 사용합니다.

다음 명령을 실행하여 예제 데이터베이스와 스키마를 설정합니다.

CREATE DATABASE IF NOT EXISTS cortex_search_db;

CREATE OR REPLACE WAREHOUSE cortex_search_wh WITH
   WAREHOUSE_SIZE='X-SMALL';

CREATE OR REPLACE SCHEMA cortex_search_db.services;

다음 SQL 명령을 실행하여 데이터 세트를 생성합니다.

CREATE OR REPLACE TABLE support_transcripts (
    transcript_text VARCHAR,
    region VARCHAR,
    agent_id VARCHAR
);

INSERT INTO support_transcripts VALUES
    ('My internet has been down since yesterday, can you help?', 'North America', 'AG1001'),
    ('I was overcharged for my last bill, need an explanation.', 'Europe', 'AG1002'),
    ('How do I reset my password? The email link is not working.', 'Asia', 'AG1003'),
    ('I received a faulty router, can I get it replaced?', 'North America', 'AG1004');

Cortex Search Service를 구축하려면 변경 사항을 추적해야 합니다. 이 테이블의 소유권이 없는 역할을 사용하여 검색 서비스를 구축하려면 다음 문을 실행하여 테이블에서 변경 내용 추적을 활성화합니다.

ALTER TABLE support_transcripts SET
  CHANGE_TRACKING = TRUE;

변경 추적을 활성화하는 방법에 대한 자세한 내용은 변경 내용 추적 활성화 섹션을 참조하십시오.

CREATE OR REPLACE CORTEX SEARCH SERVICE transcript_search_service
  ON transcript_text
  ATTRIBUTES region
  WAREHOUSE = cortex_search_wh
  TARGET_LAG = '1 day'
  AS (
    SELECT
        transcript_text,
        region,
        agent_id
    FROM support_transcripts
);

GRANT USAGE ON DATABASE cortex_search_db TO ROLE customer_support;
GRANT USAGE ON SCHEMA services TO ROLE customer_support;

GRANT USAGE ON CORTEX SEARCH SERVICE transcript_search_service TO ROLE customer_support;

SELECT PARSE_JSON(
  SNOWFLAKE.CORTEX.SEARCH_PREVIEW(
      'cortex_search_db.services.transcript_search_service',
      '{
        "query": "internet issues",
        "columns":[
            "transcript_text",
            "region"
        ],
        "filter": {"@eq": {"region": "North America"} },
        "limit":1
      }'
  )
)['results'] as results;

[
  {
  "transcript_text" : "My internet has been down since yesterday, can you help?",
  "region" : "North America"
  }
]

from snowflake.core import Root
from snowflake.snowpark import Session

CONNECTION_PARAMETERS = {"..."}

session = Session.builder.configs(CONNECTION_PARAMETERS).create()
root = Root(session)

transcript_search_service = (root
  .databases["cortex_search_db"]
  .schemas["services"]
  .cortex_search_services["transcript_search_service"]
)

resp = transcript_search_service.search(
  query="internet issues",
  columns=["transcript_text", "region"],
  filter={"@eq": {"region": "North America"} },
  limit=1
)
print(resp.to_json())

{
  "results": [
    {
      "transcript_text": "My internet has been down since yesterday, can you help?",
      "region": "North America"
    }
  ],
  "request_id": "5d8eaa5a-800c-493c-a561-134c712945ba"
}

필수 권한¶

• Cortex Search Service를 생성하려면 역할에 Cortex LLM 함수에 필요한 CORTEX_USER 데이터베이스 역할이 있어야 합니다. 이 역할 부여 및 취소에 대한 자세한 내용은 Cortex LLM 함수 필수 권한 섹션을 참조하십시오.

• Cortex Search Service를 쿼리하려면 쿼리하는 사용자의 역할이 서비스 자체와 서비스가 위치하는 데이터베이스 및 스키마에 대한 USAGE 권한을 가지고 있어야 합니다. Cortex Search 액세스 제어 요구 사항 섹션을 참조하십시오.

• ALTER 명령을 사용하여 Cortex Search Service를 일시 중단하거나 다시 시작하려면 쿼리하는 사용자의 역할에 서비스에 대한 OPERATE 권한이 있어야 합니다. ALTER CORTEX SEARCH SERVICE 섹션을 참조하십시오.

Cortex Search 품질 이해하기¶

Cortex Search는 검색 및 순위 모델의 조합을 활용하여 조정이 거의 또는 전혀 필요 없는 높은 수준의 검색 품질을 제공합니다. Cortex Search는 기본적으로 문서를 검색하고 순위를 매기는 “하이브리드” 방식을 사용합니다. 각 검색어에는 다음이 활용됩니다.

• 의미 체계가 유사한 문서를 검색하는 벡터 검색.

• 어휘적으로 유사한 문서를 검색하는 키워드 검색.

• 결과 세트에서 가장 관련성이 높은 문서의 순위를 재조정하기 위한 의미 체계 순위 재지정.

이 하이브리드 검색 방법은 의미 체계 순위 재지정 단계와 결합되어 광범위한 데이터 세트와 쿼리에서 높은 검색 품질을 달성합니다.

토큰 제한 및 텍스트 분할¶

최적의 검색 결과를 얻으려면 Cortex Search에서 검색 열의 텍스트를 512개 이하의 토큰(영어 단어 약 385개) 청크로 분할하는 것이 좋습니다. 검색 열의 항목에 512개가 넘는 토큰이 포함된 경우 Cortex Search는 텍스트 본문 전체에 대해 키워드 기반 검색을 수행하지만 의미 체계(즉, 벡터 기반) 검색에는 처음 512개 토큰만 사용합니다.

토큰은 일련의 문자이며 대규모 언어 모델이 처리할 수 있는 가장 작은 단위입니다. 대략적으로 토큰 하나는 영어 단어의 약 3/4, 즉 약 4개 문자에 해당합니다. 문자열에 포함된 토큰의 정확한 개수를 계산하려면 다음과 같이 TOKEN_COUNT Cortex 함수 를 snowflake-arctic-embed-m 모델 매개 변수와 함께 사용하면 됩니다.

SELECT SNOWFLAKE.CORTEX.COUNT_TOKENS('snowflake-arctic-embed-m', '<input_text>') as token_count

새로 고침¶

Cortex Search Service에서 제공되는 콘텐츠는 특정 쿼리의 결과를 기반으로 합니다. Cortex Search Service의 기반 데이터가 변경되면 해당 서비스가 업데이트되어 변경 사항을 반영합니다. 이러한 업데이트를 새로 고침 이라고 합니다. 이 프로세스는 자동화되어 있으며 테이블의 기반이 되는 쿼리를 분석하는 작업을 포함합니다.

Cortex Search Services는 동적 테이블과 동일한 새로 고침 속성을 갖습니다. Cortex Search Service의 새로 고침 특성을 이해하려면 동적 테이블 새로 고침 이해하기 항목을 참조하십시오.

Cortex Search Service의 소스 쿼리는 동적 테이블 증분 새로 고침의 후보여야 합니다. 해당 요구 사항에 대한 자세한 내용은 증분 새로 고침 지원 섹션을 참조하십시오. 이러한 제한은 벡터 임베딩 계산과 관련된 원치 않는 비용 급증을 방지하기 위해 고안되었습니다. 동적 테이블 증분 새로 고침에 지원되지 않는 구성에 대한 자세한 내용은 지원되지 않는 구문, 연산자 및 함수 섹션을 참조하십시오.

인덱싱 및 서비스 중단¶

Cortex Search Services는 동적 테이블과 마찬가지로 소스 쿼리와 관련된 새로 고침 실패가 5번 연속 발생하면 인덱싱 상태를 자동으로 일시 중단합니다. 서비스에서 이 오류가 발생하면 DESCRIBE CORTEX SEARCH SERVICE 또는 CORTEX_SEARCH_SERVICES 뷰 를 사용하여 특정 SQL 오류를 확인할 수 있습니다. 두 명령의 출력에는 다음 열이 포함됩니다.

• INDEXING_STATE 열의 값은 SUSPENDED가 됩니다.

• INDEXING_ERROR 열에는 소스 쿼리에서 발생한 특정 SQL 오류가 포함됩니다.

루트 문제가 해결되면 ALTER CORTEX SEARCH SERVICE <이름> RESUME INDEXING 로 서비스를 재개할 수 있습니다. 자세한 구문은 ALTER CORTEX SEARCH SERVICE 섹션을 참조하십시오.

비용 고려 사항¶

Cortex Search Service는 다음과 같이 비용이 발생합니다.

알려진 제한 사항¶

Cortex Search의 사용에는 다음과 같은 제한이 적용됩니다.

• 지원 언어: 이 기능은 영어로 된 문서 및 쿼리에 최적화되어 있습니다.

• 기본 테이블 크기: 최적의 서비스 성능을 유지하려면 검색 서비스의 구체화된 쿼리 결과의 행 크기가 5,000만 개 미만이어야 합니다. 쿼리의 구체화된 결과에 5,000만 개를 초과하는 행이 있는 경우 생성 쿼리에서 오류가 발생합니다.

  참고

  Cortex Search Service의 행 크기 조정 한도를 5,000만 개 이상으로 늘리려면 Snowflake 계정 팀에 문의하십시오.

• 쿼리 구성: Cortex Search Service 소스 쿼리는 동적 테이블과 동일한 쿼리 제한을 준수해야 합니다. 자세한 내용은 동적 테이블의 알려진 제한 사항 섹션을 참조하십시오.

• 데이터베이스 복제 및 스키마 복제: Cortex Search Services는 데이터베이스 복제 또는 스키마 복제 를 지원하지 않습니다. 이러한 기능에 대한 지원은 향후 릴리스에서 제공될 예정입니다.

리전 가용성¶

이 기능에 대한 지원은 다음 Snowflake 리전의 계정에서 사용할 수 있습니다.

법적 고지¶

입력 및 출력의 데이터 분류는 다음 테이블과 같습니다.

자세한 내용은 Snowflake AI 및 ML 섹션을 참조하십시오.