Anthropic ведет борьбу с масштабными атаками типа «дистилляция», в ходе которых злоумышленники систематически копируют возможности ИИ-моделей для обучения собственных систем. Согласно заявлению компании, новые методы защиты позволили снизить объем извлекаемых токенов внутренних рассуждений Claude на 90–99%. Для реализации атак злоумышленники использовали сети, состоящие из сотен тысяч поддельных учетных записей. В причастности к таким действиям Anthropic обвиняет китайские компании Zhipu и Moonshot. Утверждается, что Zhipu могла использовать украденные возможности для обучения своей модели GLM-5.3, а Moonshot скрыто направляла запросы через Claude. Anthropic опасается, что похищенные данные могут быть использованы в иностранных военных системах и средствах слежения. В рамках защиты компания ограничила доступ к внутренним этапам рассуждений, внедрила классификатор для обнаружения попыток кражи и заблокировала десятки тысяч аккаунтов, признавая при этом, что под ограничения иногда попадают и добросовестные пользователи.
Anthropic заявила о снижении кражи внутренних токенов рассуждений Claude на 99%
Компания Anthropic внедрила новые защитные меры, которые, по ее утверждению, сократили несанкционированное извлечение внутренних цепочек рассуждений моделей Claude на 90–99%.




