Cortex Wissens-Erweiterungen¶
Cortex Knowledge Extensions (CKEs) sind Cortex Search Services, die im Snowflake Marketplace oder über Private Freigabeangebote oder Organisations-Freigabeangebote veröffentlicht werden können. Sie können in einer RAG-Architektur (Retrieval-Augmented Generation) zur Integration von lizenzierten und proprietären Inhalten in Cortex-AI-Anwendungen verwendet werden. Beispiel: CKEs können verwendet werden, um Wissen aus unstrukturierten Inhalten (z. B. Artikeln, Marktforschungen, Büchern oder Forumsbeiträgen) in Cortex-AI-Anwendungen wie Chatbots und agentenbasierte Systeme zu integrieren.
Wie funktioniert CKE?¶
Das funktioniert so:
Ein Anbieter lädt seine Textdaten in eine Tabelle in seinem Konto hoch und erstellt einen Cortex Search Service auf dieser Tabelle. Dieser Cortex Search Service wird dann auf dem Snowflake Marketplace freigegeben. Ein Cortex Search Service, der auf dem Snowflake Marketplace gemeinsam genutzt wird, wird als Cortex Wissens-Erweiterung (CKE) bezeichnet.
Ein Verbraucher erstellt eine Anwendung, die Cortex AI nutzt, wie z. B. einen Chatbot, indem er Cortex AISQL oder den Cortex Agent API mit der CKE verwendet.
Wenn eine Eingabeaufforderung an die Anwendung Cortex AI gegeben wird, die in eine CKE integriert ist, wird die Eingabeaufforderung an die CKE weitergeleitet, um relevantes Wissen durch eine semantische Suche zu erhalten. Das relevante Wissen wird an die LLM der Cortex AI-Anwendungen zurückgegeben und durchdacht, bevor dem Benutzer eine Antwort mit Zitaten und Quellenangabe zurückgegeben wird.
CKE-Features¶
Einige der wichtigsten Features von Cortex Wissens-Erweiterungen sind:
Jedes dieser Features wird im Folgenden ausführlicher beschrieben.
Schutz des Inhalts¶
Anbieter können den Prozentsatz der indizierten Inhalte in ihrer CKE begrenzen, der innerhalb eines rollierenden 24-Stunden-Zeitraums an ihre Kunden zurückgegeben werden kann. Dazu legen Sie mit den folgenden Befehlen einen Schwellenwert fest. Der Schwellenwert wird nicht auf der Ebene des einzelnen Dokuments angewendet, sondern auf den gesamten Korpus der indizierten Inhalte. Die Verbraucher können nur auf den Schwellenprozentsatz der indizierten Inhalte in der CKE zugreifen.
Weitere Informationen über das Feld cke_content_protection finden Sie im Freigabeangebot für Manifestreferenz.
-- Use CREATE to create a new CKE listing with content protection.
-- Use ALTER to update an existing listing with content protection.
-- This example creates a CKE listing targeting to two accounts.
create external listing CKE_LISTING
share CKE_SHARE as
$$
title: "CKE Listing Title"
description: "Cortex Knowledge Extension Listing Description"
listing_terms:
type: "STANDARD"
auto_fulfillment:
refresh_type: "SUB_DATABASE"
refresh_schedule: "1440 MINUTE"
targets:
accounts:
- "ORG1.ACCOUNT1"
- "ORG2.ACCOUNT2"
cke_content_protection:
enable: true,
threshold: 0.2
$$
-- describe listing CKE_LISTING
-- See the manifest_yaml column for the cke_content_protection setting
Wenn ein Verbraucher den Schwellenwert erreicht hat, werden Abfragen an die CKE blockiert, und der Verbraucher erhält folgende Fehlermeldung:
You have reached the content protection threshold. Please try again later.
Der Verbraucher kann die Daten erneut abfragen, wenn der Schwellenwert aktualisiert wird.
Verwaltung¶
Wenn Sie die Anzahl der Abfragen anzeigen möchten, die von der CKE ausgeführt wurden, melden Sie sich bei Snowsight an. Wählen Sie im Navigationsmenü Data sharing » Provider Studio » Home. Im Abschnitt Analytics wird die Anzahl der ausgeführten Abfragen angezeigt.
Support von Testversionen¶
Als Anbieter können Sie Kunden eine Begrenzte Testversion Ihrer CKE anbieten, sodass sie Ihr Produkt ausprobieren können, bevor sie sich verpflichten, dafür zu bezahlen.
Monetarisierung¶
Cortex Knowledge Extensions können über die Plattformfunktion Snowflake Marketplace-Monetarisierung mittels Abonnements oder über eine Monetarisierung außerhalb der Plattform monetarisiert werden.
Regionsverfügbarkeit¶
Cortex Wissens-Erweiterungen sind in jeder Region verfügbar, in der Cortex Search verfügbar ist.
Wichtige Überlegungen¶
Denken Sie daran, dass Sie bei Kunden, die Ihre Cortex Wissens-Erweiterung verwenden, vorsichtig sein müssen, wenn Sie die Bereitstellung des Cortex Search Service deaktivieren, da dies die Anwendungen Ihrer Kunden beeinträchtigen kann.
Informationen zur erweiterten Einstellung einer Cortex Wissens-Erweiterung finden Sie in der Dokumentation zu Cortex Search.
Zitate¶
Um sicherzustellen, dass die CKE Zitate liefert, stellen Sie bei der Konfiguration der Cortex Search Services sicher, dass Sie eine SOURCE_URL-Spalte aufnehmen, die auf die Quelle des Dokuments in den indizierten Spalten verweist. Dies kann von LLMs oder Snowflake Intelligence verwendet werden, um eine eindeutige Zuordnung und Hyperlinks zurück zum Quellmaterial zu liefern.
Veröffentlichen der CKE auf dem Snowflake Marketplace¶
Nachdem Sie einen Cortex Search Service erstellt haben, den Sie auf dem Marketplace veröffentlichen möchten, erstellen Sie ein Freigabeangebot. Stellen Sie sicher, dass Sie auf das Cortex Search Service-Objekt verweisen, das Sie als ein zu veröffentlichendes Objekt erstellt haben.
Gespräch mit der CKE¶
Sie können die folgenden Methoden verwenden, um der CKE Fragen zu stellen.
Verwenden Sie den Cortex Search Playground:
Wählen Sie in Snowsight im Navigationsmenü AI & ML » Cortex Search aus.
Wählen Sie die CKE aus dem Dropdown-Menü Database/Schema.
Klicken Sie auf Playground in der oberen rechten Ecke.
Geben Sie eine Abfrage ein und sehen Sie sich die Ergebnisse an
Verwenden Sie Snowflake Intelligence:
Befolgen Sie die unter Tutorial 3: Hinzufügen einer CKE zu Snowflake Intelligence beschriebenen Schritte.
Verwenden Sie Cortex Agent API:
Verwenden Sie den Cortex Agent API, und geben Sie die gemeinsame CKE im Parameter CREATE CORTEX SEARCH an. Weitere Informationen finden Sie in der Dokumentation Cortex Agent API.
Aktualisieren Sie Ihre CKE¶
Eine CKE auf dem neuesten Stand zu halten, ist ein häufiger Anwendungsfall für Anbieter, die regelmäßig neue oder aktualisierte Inhalte einführen. Gehen Sie wie folgt vor, um sicherzustellen, dass Ihre Cortex Wissens-Erweiterung auf dem neuesten Stand ist:
Vergewissern Sie sich, dass die zugrunde liegende Tabelle mit den Inhalten über einen separaten Prozess des Einfügens neuer/aktualisierter Dokumente in Ihr Snowflake-Konto aktualisiert wurde.
Überprüfen Sie die Zielverzögerung des Cortex Search Service. Der Cortex Search Service ist so konfiguriert, dass er die Daten bis zu einem bestimmten
target_lagaktualisiert und frisch hält. Weitere Informationen zutarget_lagfinden Sie im Thema Cortex Search SQL-Verwendung.Führen Sie die folgenden Befehle aus, um sicherzustellen, dass der Cortex Search Service indiziert.
-- Get the status of the search service DESCRIBE CORTEX SEARCH SERVICE cke_simple_cortex_search_service; -- If the indexing status is suspended, you can resume it with the following command ALTER CORTEX SEARCH SERVICE cke_simple_cortex_search_service RESUME INDEXING;
CKE und automatischer Ausführung¶
Verbraucher können nur auf eine Cortex Knowledge Extension zugreifen, die in ihrer Region verfügbar ist. Anbieter können ihren Cortex Search Service automatisch in entfernte Verbraucherregionen durch Aktivieren der automatischen Ausführung in ihrem Cortex Knowledge Extension-Freigabeangebot in Provider Studio replizieren.
Einschränkungen¶
Die verbrauchsabhängige Abrechnung mit CKEs wird nicht unterstützt.