Cortex AI Guardrails¶

Übersicht¶

Cortex AI Guardrails, Bestandteil des Snowflake Horizon Catalog, bieten Laufzeitschutz vor der Einschleusung von Eingabeaufforderungen und Jailbreak-Angriffen in Cortex Code.

Wenn Unternehmen AI-Anwendungen von der Pilotphase in die Produktion überführen, sind sie einem erhöhten Risiko durch gegnerische Eingaben ausgesetzt, die die Integrität und Sicherheit ihrer Daten gefährden können. Cortex AI Guardrails erweitern die Standardschutzmaßnahmen von Snowflake gegen bekannte Techniken zur Einschleusung von Eingabeaufforderungen durch Hinzufügen von Strukturen, um sensible Bedrohungen zu erkennen und abzumildern.

Cortex AI Guardrails sind zentral in den Snowflake Horizon Catalog integriert und nutzen kontextbezogenes Denken, um böswillige Absichten zu erkennen und zu neutralisieren. Dadurch wird verhindert, dass gegnerische Bedrohungen etablierte Sicherheitsgrenzen und gehärtete Berechtigungen umgehen.

Wichtige Funktionen¶

Cortex AI Guardrails bieten die folgenden Schutzfunktionen:

Erkennung der Einschleusung von Eingabeaufforderungen: Identifiziert und blockiert Versuche, Systemanweisungen durch böswillige Eingabeaufforderungen zu überschreiben, einschließlich indirekter Einschleusungen von Eingabeaufforderungen, die in Toolaufrufe eingebettet sind.
Verhinderung von Jailbreak: Erkennt Versuche, die Sicherheitsprotokolle und Sicherheitsgrenzen des Modells zu umgehen.
Schutz im Null-Tage-Stil: Verwendet fortgeschrittene Techniken, um anspruchsvolle, bisher unbekannte Angriffsmuster in Echtzeit zu erkennen.

Konfigurieren von Cortex AI Guardrails¶

Sie können Cortex AI Guardrails auf Kontoebene unter Verwendung des``AI_SETTINGS``-Parameters konfigurieren. Dies bietet eine zentrale Kontrolle über das Verhalten von Cortex Code in Ihrem Konto. Benutzer mit der ACCOUNTADMIN-Rolle können Cortex AI Guardrails konfigurieren.

Guardrails aktivieren¶

Um Cortex AI Guardrails für Ihr Kontos zu aktivieren, verwenden Sie den ALTER ACCOUNT-Befehl mit dem AI_SETTINGS-Parameter:

ALTER ACCOUNT SET AI_SETTINGS = $$
  guardrails:
    advanced_prompt_injection:
      - enabled: true
$$;

Guardrails-Einstellungen ansehen¶

So zeigen Sie die aktuelle Guardrails-Konfiguration an:

SHOW PARAMETERS LIKE 'AI_SETTINGS' IN ACCOUNT;

Guardrails deaktivieren¶

So deaktivieren Sie Cortex AI Guardrails

ALTER ACCOUNT UNSET AI_SETTINGS;

Guardrails-Aktivität überwachen¶

Entdeckt Cortex AI Guardrails eine potenzielle Bedrohung, wird das Ereignis zu Auditing- und Überwachungszwecken protokolliert. Für Cortex Code können Sie erkannte Bedrohungen in den Konversationsprotokollen überprüfen. Weitere Informationen zum Verwalten des Konversationsverlaufs finden Sie unter Konversationsverlauf.

Verwenden Sie diese Protokolle für Folgendes:

Überwachen Ihrer AI-Workloads auf versuchte Angriffe
Identifizieren von Mustern in blockierten oder markierten Anforderungen
Effizienz der Guardrails überwachen

Hinweise¶

Während Cortex AI Guardrails für eine hohe Präzision optimiert sind, kann es vorkommen, dass berechtigte Eingabeaufforderungen markiert werden. Überprüfen Sie Ihre Guardrails-Protokolle regelmäßig, um etwaige Muster zu erkennen.
Cortex AI Guardrails sind derzeit mit Cortex -Code verfügbar.

Kosten¶

Ihnen werden Credits für die Nutzung von Cortex AI Guardrails gemäß der Snowflake Service Consumption Table berechnet. Die Nutzung wird anhand der Anzahl der gescannten Token gemessen.