← Zur Übersicht aller Beiträge
Anthropic baut Governance direkt vor den Modellaufruf
Anthropic führt Inference Hooks für Enterprise ein. Prompts, bestimmte Tool-Ergebnisse und Dateitexte können vor der Verarbeitung durch Claude geprüft und erlaubt oder blockiert werden. Für spätere Aktionen eines Agenten braucht es weiterhin eigene Rechte- und Freigaberegeln.
Anthropic baut Governance direkt vor den Modellaufruf
Anthropic führt Inference Hooks für Enterprise ein. Prompts, bestimmte Tool-Ergebnisse und Dateitexte können vor der Verarbeitung durch Claude geprüft und erlaubt oder blockiert werden. Für spätere Aktionen eines Agenten braucht es weiterhin eigene Rechte- und Freigaberegeln.
Anthropic hat Anfang August Inference Hooks für Claude Enterprise in die Beta gebracht. Unternehmen können einen eigenen Sicherheitsdienst in den Inferenzpfad schalten. Regulierte Prompts werden vor der Modellverarbeitung geprüft; der Sicherheitsdienst antwortet mit Allow oder Deny. Laut Anthropic können dabei auch Texte aus hochgeladenen Dateien und Ergebnisse von Tool-Aufrufen geprüft werden, bevor sie wieder an Claude gelangen.
Das ist interessant, weil Regeln wie „bestimmte Daten dürfen nicht an das Modell“ oder „dieser Kontext ist für dieses Projekt nicht erlaubt“ damit technisch durchgesetzt werden können, statt nur in einer Richtlinie zu stehen.
Was Inference Hooks können – und was nicht
Geeignete Anwendungen sind zum Beispiel:
sensible Daten vor der Modellverarbeitung erkennen und blockieren,
organisationsinterne Richtlinien auf Prompts und zurückgelieferte Tool-Ergebnisse anwenden,
bestimmte Modell- oder Projektregeln technisch erzwingen,
Ablehnungen nachvollziehbar protokollieren.
Wichtig ist die Grenze: Inference Hooks sind keine allgemeine Freigabeschicht für jede Aktion eines Agenten. Wenn ein Agent etwa Geld überweist, Stammdaten ändert oder eine Nachricht versendet, muss die Berechtigung oder menschliche Freigabe für diese Aktion separat geregelt werden. Der Hook kann Inhalte im Inferenzpfad prüfen; er ersetzt keine Werkzeugrechte und keine Transaktionskontrolle.
Für Unternehmen ergibt sich daraus eine saubere Architekturfrage: Welche Regeln betreffen Daten und Modellzugriffe – und welche Regeln müssen direkt am Werkzeug oder vor einer realen Aktion durchgesetzt werden?
Anthropic Inference Hooks prüfen regulierte Prompts und bestimmte Inhalte im Inferenzpfad, bevor Claude weiterarbeitet. Das eignet sich etwa für Datenschutz- oder Projektrichtlinien. Wichtig: Der Hook ist keine allgemeine Freigabe für spätere Aktionen eines Agenten. Zahlungen, Schreibzugriffe oder externe Nachrichten brauchen eigene Rechte und gegebenenfalls separate Freigaben. Datenkontrolle und Aktionskontrolle sind zwei verschiedene Schichten.
Anthropic hat Anfang August Inference Hooks für Claude Enterprise in die Beta gebracht. Unternehmen können einen eigenen Sicherheitsdienst in den Inferenzpfad schalten. Regulierte Prompts werden vor der Modellverarbeitung geprüft; der Sicherheitsdienst antwortet mit Allow oder Deny. Laut Anthropic können dabei auch Texte aus hochgeladenen Dateien und Ergebnisse von Tool-Aufrufen geprüft werden, bevor sie wieder an Claude gelangen.
Das ist interessant, weil Regeln wie „bestimmte Daten dürfen nicht an das Modell“ oder „dieser Kontext ist für dieses Projekt nicht erlaubt“ damit technisch durchgesetzt werden können, statt nur in einer Richtlinie zu stehen.
Was Inference Hooks können – und was nicht
Geeignete Anwendungen sind zum Beispiel:
sensible Daten vor der Modellverarbeitung erkennen und blockieren,
organisationsinterne Richtlinien auf Prompts und zurückgelieferte Tool-Ergebnisse anwenden,
bestimmte Modell- oder Projektregeln technisch erzwingen,
Ablehnungen nachvollziehbar protokollieren.
Wichtig ist die Grenze: Inference Hooks sind keine allgemeine Freigabeschicht für jede Aktion eines Agenten. Wenn ein Agent etwa Geld überweist, Stammdaten ändert oder eine Nachricht versendet, muss die Berechtigung oder menschliche Freigabe für diese Aktion separat geregelt werden. Der Hook kann Inhalte im Inferenzpfad prüfen; er ersetzt keine Werkzeugrechte und keine Transaktionskontrolle.
Für Unternehmen ergibt sich daraus eine saubere Architekturfrage: Welche Regeln betreffen Daten und Modellzugriffe – und welche Regeln müssen direkt am Werkzeug oder vor einer realen Aktion durchgesetzt werden?
Quellen
Transparenz: Konzept, Auswahlkriterien und inhaltliche Vorgaben stammen von Christian Hohlfeld. Recherche und Formulierung wurden nach diesen Vorgaben mit KI-Werkzeugen unterstützt. Redaktionell geprüft und verantwortlich: Christian Hohlfeld.