← Zur Übersicht aller Beiträge
Anthropic präzisiert Nutzungsregeln: Aufsicht und Stopp bei riskanten KI-Aktionen
Anthropics aktualisierte Nutzungsrichtlinie gilt ab 12. November. Sie präzisiert bestehende Anforderungen für sensible Empfehlungen und ergänzt Regeln für autonome Aktionen an physischer Hardware.
Anthropic präzisiert Nutzungsregeln: Aufsicht und Stopp bei riskanten KI-Aktionen
Anthropics aktualisierte Nutzungsrichtlinie gilt ab 12. November. Sie präzisiert bestehende Anforderungen für sensible Empfehlungen und ergänzt Regeln für autonome Aktionen an physischer Hardware.
Anthropic hat am 8. Oktober 2026 eine aktualisierte Nutzungsrichtlinie veröffentlicht, die am 12. November in Kraft tritt. Nach Angaben des Unternehmens sollen die meisten Änderungen bestehende Regeln genauer erklären. Hinzu kommen Anforderungen für bestimmte autonome Aktionen an physischer Hardware.
Es handelt sich um Anbieterregeln, nicht um ein neues deutsches oder europäisches Gesetz. MacRumors bestätigt Termin und Änderungen.
Menschliche Prüfung sensibler Empfehlungen
Anthropic erläutert genauer, wann eine qualifizierte Person Empfehlungen des Modells prüfen und erforderlichenfalls ändern können muss. Gemeint sind bestimmte Anwendungen mit möglichen Folgen für Gesundheit, rechtliche Ansprüche, Finanzen, Lebensgrundlagen oder den Zugang zu wesentlichen Dienstleistungen. Betroffene sollen dabei auch erfahren, dass KI eingesetzt wurde.
Diese Anforderungen bestehen laut Anthropic bereits. Neu ist die genauere Beschreibung der erfassten Empfehlungen in der Richtlinie.
Physische Aktionen brauchen Kontrolle
Eine Ergänzung betrifft Modelle, die mit Hardware verbunden sind und selbstständig physische Aktionen auslösen können, bei denen Verletzungsgefahr besteht. Hier fordert Anthropic, dass eine qualifizierte Bedienperson das Gerät beobachten und bei Bedarf stoppen kann.
Täuschungsregeln werden zusammengeführt
Die Richtlinie bündelt vorhandene Verbote für täuschende politische und kommerzielle Aktivitäten in einem eigenen Abschnitt. Dazu zählen nach der Erläuterung des Anbieters gefälschte Konten und Inhalte, die die tatsächlichen Urheber verschleiern oder Zustimmung künstlich verstärken sollen.
Weitere Änderungen präzisieren unter anderem Vorgaben zu Überwachung und Waffen. Nicht jede neu formulierte Passage bedeutet dabei, dass zuvor erlaubte Handlungen erst jetzt verboten werden: Anthropic betont, dass vieles die bisherige Durchsetzung klarer beschreibt.
Außerdem muss die Ausrüstung bei einer unterbrochenen Verbindung zu Claude einen sicheren Zustand halten können.
Anthropic hat am 8. Oktober 2026 eine aktualisierte Nutzungsrichtlinie veröffentlicht, die am 12. November in Kraft tritt. Nach Angaben des Unternehmens sollen die meisten Änderungen bestehende Regeln genauer erklären. Hinzu kommen Anforderungen für bestimmte autonome Aktionen an physischer Hardware.
Es handelt sich um Anbieterregeln, nicht um ein neues deutsches oder europäisches Gesetz. MacRumors bestätigt Termin und Änderungen.
Menschliche Prüfung sensibler Empfehlungen
Anthropic erläutert genauer, wann eine qualifizierte Person Empfehlungen des Modells prüfen und erforderlichenfalls ändern können muss. Gemeint sind bestimmte Anwendungen mit möglichen Folgen für Gesundheit, rechtliche Ansprüche, Finanzen, Lebensgrundlagen oder den Zugang zu wesentlichen Dienstleistungen. Betroffene sollen dabei auch erfahren, dass KI eingesetzt wurde.
Diese Anforderungen bestehen laut Anthropic bereits. Neu ist die genauere Beschreibung der erfassten Empfehlungen in der Richtlinie.
Physische Aktionen brauchen Kontrolle
Eine Ergänzung betrifft Modelle, die mit Hardware verbunden sind und selbstständig physische Aktionen auslösen können, bei denen Verletzungsgefahr besteht. Hier fordert Anthropic, dass eine qualifizierte Bedienperson das Gerät beobachten und bei Bedarf stoppen kann.
Täuschungsregeln werden zusammengeführt
Die Richtlinie bündelt vorhandene Verbote für täuschende politische und kommerzielle Aktivitäten in einem eigenen Abschnitt. Dazu zählen nach der Erläuterung des Anbieters gefälschte Konten und Inhalte, die die tatsächlichen Urheber verschleiern oder Zustimmung künstlich verstärken sollen.
Weitere Änderungen präzisieren unter anderem Vorgaben zu Überwachung und Waffen. Nicht jede neu formulierte Passage bedeutet dabei, dass zuvor erlaubte Handlungen erst jetzt verboten werden: Anthropic betont, dass vieles die bisherige Durchsetzung klarer beschreibt.
Quellen
Transparenz: Konzept, Auswahlkriterien und inhaltliche Vorgaben stammen von Christian Hohlfeld. Recherche und Formulierung wurden nach diesen Vorgaben mit KI-Werkzeugen unterstützt. Redaktionell geprüft und verantwortlich: Christian Hohlfeld.