Стартап в сфере кибербезопасности Cathedral сообщил о взломе внутренних систем компании Anthropic. Исследователи использовали AI-агентов для поиска уязвимостей в стороннем административном и торговом программном обеспечении. По заявлению Cathedral, им удалось получить доступ к транскриптам встреч, данным о зарплатах и переписке в Slack менее чем за 12 часов. Anthropic подтвердила факт инцидента, уточнив, что доступ был ограничен системами HR, продаж и IT, а чаты с моделью Claude, исходный код и веса моделей затронуты не были. Стороны расходятся в оценке масштабов и обстоятельств взлома. Anthropic утверждает, что атака длилась несколько дней, а Cathedral нарушила правила программы bug bounty, выйдя за рамки условий безопасности. В то же время бывший сотрудник OpenAI Уилл Депью со ссылкой на свои источники заявляет, что компания преуменьшает серьезность инцидента, утверждая, что злоумышленники могли получить полный административный доступ к Slack. Anthropic опровергла эти утверждения, однако признала необходимость пересмотра подходов к защите сторонних интеграций.
Стартап Cathedral взломал системы Anthropic с помощью AI-агентов
Стартап Cathedral использовал AI-агентов для проникновения во внутренние системы Anthropic через стороннее ПО в рамках программы bug bounty.




