Cortex Knowledge Extensions¶

Como a CKE funciona¶

Veja como funciona:

1. Um provedor carrega seus dados de texto em uma tabela em sua conta e cria um Cortex Search Service na tabela. Esse Cortex Search Service é então compartilhado no Snowflake Marketplace. Um Cortex Search Service que é compartilhado no Snowflake Marketplace é conhecido como Cortex Knowledge Extension (CKE).

2. Um consumidor cria um aplicativo aproveitando o Cortex AI, como um chatbot, usando o Cortex AISQL ou a Cortex Agent API com CKE.

3. Quando um prompt é fornecido ao aplicativo Cortex AI integrado a uma CKE, o prompt é transmitido à CKE para obter conhecimento relevante por meio de uma pesquisa semântica. O conhecimento relevante é devolvido à LLM dos aplicativos Cortex AI e analisado antes de retornar uma resposta ao usuário com citações e atribuições.

Recursos da CKE¶

Alguns dos principais recursos das Cortex Knowledge Extensions incluem:

• Proteção de conteúdo

• Gerenciamento

• Suporte a avaliações

• Monetization

Cada um desses recursos é descrito em mais detalhes a seguir.

-- Use CREATE to create a new CKE listing with content protection.
-- Use ALTER to update an existing listing with content protection.

-- This example creates a CKE listing targeting to two accounts.
create external listing CKE_LISTING
share CKE_SHARE as
$$
title: "CKE Listing Title"
description: "Cortex Knowledge Extension Listing Description"
listing_terms:
  type: "STANDARD"
auto_fulfillment:
  refresh_type: "SUB_DATABASE"
  refresh_schedule: "1440 MINUTE"
targets:
  accounts:
    - "ORG1.ACCOUNT1"
    - "ORG2.ACCOUNT2"
cke_content_protection:
  enable: true,
  threshold: 0.2
$$

-- describe listing CKE_LISTING
-- See the manifest_yaml column for the cke_content_protection setting

You have reached the content protection threshold. Please try again later.

Disponibilidade de região¶

As Cortex Knowledge Extensions estão disponíveis em qualquer região em que o Cortex Search esteja disponível.

Principais considerações¶

Quando tiver clientes usando a Cortex Knowledge Extension, lembre-se de ter cuidado ao desativar o serviço do Cortex Search Service, pois isso interromperá os aplicativos dos clientes.

Para obter informações sobre o ajuste avançado de uma Cortex Knowledge Extension, consulte a documentação do Cortex Search.

Citações¶

Para garantir que a CKE esteja fornecendo citações, ao configurar o Cortex Search Services, certifique-se de incluir uma coluna SOURCE_URL que aponte para a fonte do documento nas colunas indexadas. Isso pode ser usado pelos LLMs ou pelo Snowflake Intelligence para fornecer atribuição clara e hyperlinks ao material de origem.

Publicação da CKE no Snowflake Marketplace¶

Após criar um Cortex Search Service que deseja publicar no Marketplace, crie uma listagem. Certifique-se de apontar para o objeto do Cortex Search Service que você criou como um objeto que deseja publicar.

Conversando com a CKE¶

Você pode usar os seguintes métodos para fazer perguntas à CKE.

• Use o Playground do Cortex Search:

  1. No Snowsight, navegue até AI & ML » Cortex Search.

  2. Selecione a CKE no menu suspenso Database/Schema.

  3. Clique em Playground no canto superior direito.

  4. Digite uma consulta de pesquisa e veja os resultados

• Use o Snowflake Intelligence:

  • Siga as etapas descritas em Tutorial 3: como adicionar uma CKE ao Snowflake Intelligence.

• Use a Cortex Agent API:

  • Use a Cortex Agent API e especifique a CKE compartilhada no parâmetro CREATE CORTEX SEARCH. Consulte a documentação da Cortex Agent API para obter mais informações.

Atualizando sua CKE¶

Manter a CKE atualizada é um caso de uso comum para provedores que introduzem regularmente conteúdo novo ou atualizado. Para garantir que sua Cortex Knowledge Extension esteja atualizada, faça o seguinte

1. Certifique-se de que a tabela subjacente com conteúdo tenha sido atualizada por meio de algum processo separado de inserção de documentos novos/atualizados em sua conta Snowflake.

2. Avalie o atraso de destino do Cortex Search Service. O Cortex Search Service está configurado para atualizar e manter os dados atualizados até um determinado target_lag. Consulte o tópico Uso de SQL do Cortex Search para obter mais informações sobre o target_lag.

3. Execute os seguintes comandos para garantir que o Cortex Search Service esteja indexando.

   -- Get the status of the search service
   DESCRIBE CORTEX SEARCH SERVICE cke_simple_cortex_search_service;
   
   -- If the indexing status is suspended, you can resume it with the following command
   ALTER CORTEX SEARCH SERVICE cke_simple_cortex_search_service RESUME INDEXING;
   

   Copy

CKE e preenchimento automático¶

Os consumidores só podem acessar uma Cortex Knowledge Extension disponibilizada em sua região. Os provedores podem replicar automaticamente seu Cortex Search Service para regiões remotas de consumidores ao ativar o preenchimento automático em sua listagem da Cortex Knowledge Extension no Provider Studio.

Limitações¶

• O faturamento baseado em uso com CKEs não é compatível.