Was hat Anthropic veröffentlicht?
Anthropic hat am 13. November 2026 einen Leitfaden veröffentlicht, der den Aufbau verlässlicherer KI-Sicherheitsbewertungen unterstützen soll. Das Unternehmen beschreibt diese Bewertungen als Tests dafür, wie stark ein Modell dazu neigt, Schaden zu verursachen oder dazu beizutragen: ob eine Antwort Schaden wahrscheinlicher oder weniger wahrscheinlich macht und wie schwer dieser Schaden ausfallen könnte. Das unterscheidet sich von einem Fähigkeitstest, der fragt, ob ein Modell eine bestimmte Aufgabe ausführen kann.
Warum ist die Messgröße wichtig?
Analyse: Anthropics Definition grenzt enger ein, welche Frage eine Sicherheitsbewertung beantworten soll. Ein hoher oder niedriger Fähigkeitswert würde für sich genommen nicht zeigen, ob die Antwort eines Modells in einer schädlichen Situation das Risiko erhöht. Der Leitfaden lenkt Bewertende stattdessen auf die Wirkung der Antwort und die Schwere möglicher Schäden. Das kann die Aussage eines Testergebnisses verändern, selbst wenn dieselbe Modellfähigkeit betroffen ist.
Wo können Ablehnungsquoten in die Irre führen?
Anthropic zufolge kann die Ablehnungsquote bei Gesprächen über Suizid und Selbstverletzung die falsche Messgröße sein. In diesem Kontext, so das Unternehmen, kann eine bloße Weigerung, sich auf das Gespräch einzulassen, selbst ein Versagen darstellen. Die gewünschte Antwort zeigt dem Leitfaden zufolge Empathie und verweist die Nutzerin oder den Nutzer auf menschliche Unterstützung. Analyse: Eine Messgröße, die nur Ablehnungen erfasst, könnte eine Antwort daher als sicher werten und zugleich übersehen, ob das Modell angemessen auf eine Person in einer Krise reagiert hat.
Wie sollten längere und riskantere Tests durchgeführt werden?
Für Sicherheitsbewertungen über mehrere Gesprächsrunden gibt Anthropic an, eine Quote angemessener Antworten über das gesamte Gespräch hinweg zu berichten, gestützt auf Bewertungsraster, die auf den jeweiligen Risikobereich zugeschnitten sind. Nach diesem Ansatz lässt ein einzelner problematischer Gesprächsbeitrag den gesamten Austausch scheitern. Für Cyber-Bewertungen empfiehlt Anthropic Sandboxes ohne Internetzugang sowie Echtzeitüberwachung, damit Bewertende einen Lauf abbrechen können, wenn die Handlungen eines Modells realen Schaden verursachen könnten.
Offizielle Ankündigung · Weitere Berichterstattung
Offizielle Ankündigung veröffentlicht: 13. November 2026 um 00:00 UTC.
