Badania Constitutional AI Koncepcja constitutional AI (dosł. „konstytucyjna SI”) polega na trenowaniu modeli przy użyciu zestawu zasad określających pożądane zachowania modelu. Dokument opisujący wartości i zasady, które mają kształtować zachowanie modelu, Anthropic opublikowało jako konstytucję Claude. W pracy z 2022 roku badacze Anthropic opisali metodę, w której model najpierw samodzielnie krytykuje i poprawia odpowiedzi na podstawie konstytucji, a następnie używa informacji zwrotnej generowanej przez SI do uczenia preferencji.

W styczniu 2026 firma opublikowała nową wersję konstytucji Claude, określając ją jako szerszy opis oczekiwanych wartości i zachowań modelu.

Responsible Scaling Policy Responsible Scaling Policy – dobrowolne ramy zarządzania ryzykiem związanym z coraz bardziej zaawansowanymi modelami AI. Polityka ta wprowadza poziomy bezpieczeństwa AI Safety Levels (ASL), które mają określać wymagania dotyczące zabezpieczeń i wdrożenia modeli o rosnących możliwościach.