Cortex Analyst¶

Wichtige Features¶

• Selbstbedienungsanalysen über Abfragen in natürlicher Sprache Begeistern Sie Ihre Geschäftsteams und technisch nicht versierten Benutzer mit sofortigen Antworten und Einblicken aus ihren strukturierten Daten in Snowflake. Mit Cortex Analyst können Sie nachgelagerte Chat-Anwendungen erstellen, die es Ihren Benutzern ermöglichen, Fragen in natürlicher Sprache zu stellen und sofort präzise Antworten zu erhalten.

• Praktische REST-API für die Integration in bestehende Geschäftsabläufe. Cortex Analyst verfolgt einen API-First-Ansatz, der Ihnen die volle Kontrolle über das Endnutzererlebnis gibt. Integrieren Sie Cortex Analyst ganz einfach in bestehende Tools und Plattformen und bringen Sie die Leistungsfähigkeit von Erkenntnissen aus Dateien dorthin, wo Benutzer bereits arbeiten, z. B. in Streamlit-Apps, Slack, Teams, benutzerdefinierte Weboberflächen und mehr.

• Unterstützt von hochmodernen großen Sprachmodellen (Large Language Models): Standardmäßig wird Cortex Analyst von den neuesten Meta Llama- und Mistral-Modellen unterstützt, die sicher innerhalb von Snowflake Cortex ausgeführt werden, dem intelligenten, vollständig verwalteten AI-Dienst von Snowflake. Optional können Sie Cortex Analyst auch Zugriff auf die neuesten in Azure gehosteten OpenAI GPT-Modelle geben. Zur Laufzeit wählt Cortex Analyst die beste Kombination von Modellen aus, um für jede Abfrage die höchste Genauigkeit und Leistung zu gewährleisten. Weitere Details dazu finden Sie unter Ermöglichung der Nutzung von Azure OpenAI-Modellen. Im Zuge der Weiterentwicklung von LLMs wird Snowflake weitere Modelle hinzufügen, um Leistung und Genauigkeit weiter zu verbessern.

• Semantisches Modell für hohe Präzision und Genauigkeit: Generische AI-Lösungen haben oft Probleme mit der Konvertierung von Text in SQL, wenn nur ein Datenbankschema vorliegt, da den Schemas kritisches Wissen wie Geschäftsprozessdefinitionen und die Handhabung von Metriken fehlt. Cortex Analyst überwindet diese Beschränkung durch die Verwendung eines semantischen Modells, das die Lücke zwischen Benutzern und Datenbanken schließt. Die Gesamtstruktur und die Konzepte des semantischen Modells, das in einer einfachen YAML-Datei gespeichert ist, ähneln denen von Datenbankschemas, ermöglichen jedoch eine umfassendere Beschreibung der semantischen Informationen rund um die Daten.

• Sicherheit und Governance. Das datenschutzfreundliches Fundament von Snowflake und unternehmensweite Sicherheit sorgen dafür, stellen sicher, dass Sie AI-gesteuerte Anwendungsfälle mit der Gewissheit erkunden kann, dass Ihre Daten durch die höchsten Standards in Bezug auf Datenschutz und Governance geschützt sind.

  • Cortex Analyst trainiert nicht mit Kundendaten. Wir verwenden Ihre Kundendaten nicht, um ein Modell zu trainieren oder zu optimieren, das für die Nutzung durch unseren gesamten Kundenstamm zur Verfügung gestellt werden soll. Darüber hinaus verwendet Cortex Analyst die in der Datei des semantischen Modells YAML enthaltenen Metadaten (z. B. Tabellennamen, Spaltennamen, Wertetyp, Beschreibungen usw.) nur für die Generierung von SQL-Abfragen. Diese SQL-Abfrage wird dann in Ihrem virtuellen Snowflake-Warehouse ausgeführt, um die endgültige Ausgabe zu generieren.

  • Die Daten bleiben innerhalb der Snowflake Governance-Grenzen. Standardmäßig wird Cortex Analyst durch die in Snowflake gehosteten LLMs von Mistral und Meta betrieben, wodurch sichergestellt wird, dass keine Daten, einschließlich Metadaten oder Eingabeaufforderungen, die Governance-Grenze von Snowflake verlassen. Wenn Sie sich für die Verwendung von Azure OpenAI-Modellen entscheiden, werden nur Metadaten und Eingabeaufforderungen außerhalb der Governance-Grenze von Snowflake übertragen.

  • Nahtlose Integration mit den Datenschutz- und Governance-Features von Snowflake. Cortex Analyst ist vollständig mit den Snowflake-Richtlinien zur rollenbasierten Zugriffssteuerung (RBAC) integriert und stellt sicher, dass die generierten und ausgeführten SQL-Abfragen alle festgelegten Zugriffssteuerungen einhalten. Dies garantiert eine robuste Sicherheit und Governance für Ihre Daten.

Beschränkung des Zugriffs auf bestimmte Rollen¶

Die Rolle CORTEX_USER ist standardmäßig der Rolle PUBLIC zugewiesen. Die Rolle PUBLIC wird automatisch allen Benutzern und Rollen zugewiesen. Wenn Sie nicht möchten, dass alle Benutzer diese Berechtigung haben, können Sie der Rolle PUBLIC die Berechtigung entziehen und den Zugriff nur bestimmten Rollen gewähren. Weitere Informationen dazu finden Sie unter Erforderliche Berechtigungen.

Um den Zugriff auf bestimmte semantische Modelle zu kontrollieren, können Sie die Datei YAML in einem Stagingbereich speichern und den Zugriff auf diesen Stagingbereich kontrollieren.

Hinweise¶

Semantische Modelldateien werden als Metadaten klassifiziert. Wenn Sie sich für die Verwendung von Azure OpenAI-Modellen in Cortex Analyst entscheiden, wird Ihr semantisches Modell von Microsoft Azure, einem Drittanbieter, verarbeitet. Kundendaten werden jedoch nicht an Azure weitergegeben oder von Azure verarbeitet.

ENABLE_CORTEX_ANALYST_MODEL_AZURE_OPENAI¶

Die ENABLE_CORTEX_ANALYST_MODEL_AZURE_OPENAI Kontoparameter ermöglichen, wenn TRUE, Cortex Analyst die Verwendung von Azure OpenAI-Modellen.

Bekannte Einschränkungen bei Multi-Turn-Konversationen¶

Einige der folgenden Einschränkungen könnten in zukünftigen Versionen von Cortex Analyst behoben werden.

Zugriff auf die Ergebnisse früherer SQL-Abfragen

Cortex Analyst hat keinen Zugriff auf die Ergebnisse früherer SQL-Abfragen. Wenn Sie z. B. zuerst fragen: „Was sind meine Produkte?“ und dann fragen: „Wie hoch ist der Umsatz des zweiten Produkts?“, kann Cortex Analyst nicht auf die Liste der Produkte aus der ersten Abfrage zurückgreifen, um das zweite Produkt zu erhalten.

Allgemeine Geschäftseinblicke

Cortex Analyst beschränkt sich auf die Beantwortung von Fragen, die mit SQL geklärt werden können. Es liefert keine Erkenntnisse für allgemeinere geschäftsbezogene Abfragen, wie z. B. „Welche Trends beobachten Sie?“

Lange Konversationen

Wenn ein Konversation zu viele Wendungen enthält oder der Benutzer seine Absicht häufig ändert, hat Cortex Analyst möglicherweise Schwierigkeiten, die Folgefragen zu interpretieren. Setzen Sie in solchen Fällen die Konversation zurück, und beginnen Sie von vorne.

Ein semantisches Modell erstellen¶

Das semantische Modell ist ein einfacher Mechanismus, der Probleme im Zusammenhang mit dem Sprachunterschied zwischen Geschäftsanwendern und Datenbankdefinitionen löst, indem er die Angabe zusätzlicher semantischer Details zu einem Datenset ermöglicht. Diese zusätzlichen semantischen Details, wie aussagekräftigere Namen oder Synonyme, ermöglichen es Cortex Analyst, Datenfragen viel zuverlässiger zu beantworten.

1. Beginnen Sie mit einer Liste von Fragen, die Sie von Cortex Analyst beantwortet haben möchten. Entscheiden Sie sich auf dieser Grundlage für das Datenset für Ihr semantisches Modell.

2. Erstellen Sie Ihr semantisches Modell YAML auf der Grundlage der Spezifikation. Probieren Sie den Erstellen Sie ein semantisches Modell mit dem Modellgenerator aus. Beachten Sie auch die Tipps für Erstellung eines semantischen Modells.

Semantisches Modell hochladen¶

Sie können eine YAML-Datei mit semantischem Modell in einen Stagingbereich hochladen oder das semantische Modell YAML als Zeichenfolge im Body der Anfrage übergeben. Wenn Sie ein semantisches Modell im YAML Format in einen Stagingbereich hochladen, wird der Zugriff auf dieses semantische Modell durch den Zugriff auf den Stagingbereich kontrolliert, in den es hochgeladen wurde. Das bedeutet, dass jede Rolle mit Zugriff auf den Stagingbereich auf die semantischen Modelle in diesem Stagingbereich zugreifen kann, auch wenn die Rolle keinen Zugriff auf die Tabellen hat, auf denen die Modelle basieren. Stellen Sie sicher, dass Rollen, denen Zugriff auf einen Stagingbereich gewährt wurde, SELECT-Zugriff auf alle Tabellen haben, auf die in allen semantischen Modellen in diesem Stagingbereich verwiesen wird.

Im Folgenden sehen Sie ein Beispiel für das Setup der Stagingbereiche, die die semantischen Modelle enthalten. Ein Stagingbereich (public) ist für alle Mitglieder der Organisation zugänglich, während ein anderer Stagingbereich (sales) nur für die Rolle sales_analyst zugänglich ist.

Erstellen Sie die Datenbank und das Schema für den Stagingbereich. Das folgende Beispiel erstellt eine Datenbank mit dem Namen semantic_model und einem Schema mit dem Namen definition. Sie können jedoch jede gültige Zeichenfolge für diese Namen verwenden.

CREATE DATABASE semantic_model;
CREATE SCHEMA semantic_model.definitions;
GRANT USAGE ON DATABASE semantic_model TO ROLE PUBLIC;
GRANT USAGE ON SCHEMA semantic_model.definitions TO ROLE PUBLIC;

USE SCHEMA semantic_model.definitions;

Erstellen Sie dann die Stagingbereiche für die Speicherung Ihrer semantischen Modelle:

CREATE STAGE public DIRECTORY = (ENABLE = TRUE);
GRANT READ ON STAGE public TO ROLE PUBLIC;

CREATE STAGE sales DIRECTORY = (ENABLE = TRUE);
GRANT READ ON STAGE sales TO ROLE sales_analyst;

Datenbank Wenn Sie Snowsight verwenden, können Sie die Seite aktualisieren und die neu erstellten Stagingbereiche im Datenbank-Objekt-Explorer finden. Sie können die Seite „Stagingbereich“ in einer neuen Registerkarte öffnen und Ihre YAML-Dateien in Snowsight hochladen.

Alternativ können Sie auch den Snowflake-CLI-Client verwenden, um von Ihrem lokalen Dateisystem hochzuladen.

snow stage copy file:///path/to/local/file.yaml @sales

Erstellen einer Streamlit-in-Snowflake-App¶

In diesem Beispiel wird gezeigt, wie Sie in Snowflake eine Streamlit-App erstellen, die eine Frage in natürlicher Sprache als Eingabe nimmt und Cortex Analyst aufruft, um eine Antwort auf der Grundlage des von Ihnen bereitgestellten semantischen Modells zu generieren.

Weitere Informationen zum Erstellen und Ausführen von Streamlit-Anwendungen in Snowflake finden Sie unter Allgemeine Informationen zu Streamlit in Snowflake.

1. Folgen Sie den Anweisungen in Erstellen einer Streamlit-App mithilfe von Snowsight, um eine neue Streamlit-App in Snowsight zu erstellen.

2. Kopieren Sie den Streamlit-Code aus unserem GitHub Repo in den Code-Editor.

3. Ersetzen Sie die Platzhalterwerte durch Ihre Kontodaten.

4. Um eine Vorschau der App anzuzeigen, wählen Sie Run aus, um den Inhalt im Streamlit-Vorschaufenster zu aktualisieren.

Interaktion mit der Streamlit App¶

1. Navigieren Sie zur Streamlit-App in Ihrem Browser oder zum Vorschaubereich von Streamlit in Snowflake.

2. Stellen Sie Fragen zu Ihren Daten in natürlicher Sprache (z. B. „Welche Fragen kann ich stellen?“).

Eigenständige Streamlit-App erstellen¶

Sie können den Beispielcode auch verwenden, um eine eigenständige App zu erstellen.

1. Installieren Sie Streamlit.

2. Erstellen Sie lokal eine Python-Datei mit dem Namen analyst_api.py.

3. Kopieren Sie den Streamlit-Code aus unserem GitHub Repo in die Datei.

4. Ersetzen Sie die Platzhalterwerte durch Ihre Kontodaten.

5. Führen Sie die Streamlit-App mit streamlit run analyst_api.py aus.

Die im Code angegebene Datenbank und das Schema sind der Stagingbereich-Speicherort für die semantische Modelldatei YAML. Die im Snowflake Connector verwendete Rolle sollte Zugriff auf die zugrunde liegenden Daten haben, die im semantischen Modell definiert sind.

Eine umfassendere Implementierung finden Sie in der Cortex Analyst Advanced SiS Demo im Snowflake Samples GitHub Repository. Dieses Repository ist mit verschiedenen vorgefertigten Features konfiguriert, die eine nahtlose und stabile Bereitstellung von Cortex Analyst ermöglichen.

Überwachung der Kosten für Cortex Analyst¶

Um den Credit-Verbrauch für Cortex Analyst einzusehen, verwenden Sie Ansicht CORTEX_ANALYST_USAGE_HISTORY. Beispiel:

SELECT * FROM SNOWFLAKE.ACCOUNT_USAGE.CORTEX_ANALYST_USAGE_HISTORY;

Die Verwendung von Cortex Analyst erscheint auch in Ansicht METERING_HISTORY im Schema ACCOUNT_USAGE mit einem Servicetyp von AI_SERVICES.