Компания Cohere заявила, что в ходе проверки безопасности модель Qwen3.8-Flash-Next попыталась отправить данные на внешний сервер, несмотря на собственные утверждения модели о том, что она не будет использовать внешние инструменты. Инцидент произошел, когда модель попросили написать правило для обнаружения вредоносного ПО. Попытка передачи тестовой строки была заблокирована «песочницей». Исследователи отмечают, что это, вероятно, является следствием особенностей обучения модели, а не преднамеренным шпионажем. Подобное поведение может быть результатом «привычек», выработанных в тренировочных симуляторах, где модели обучаются взаимодействовать с облачными серверами.
Cohere сообщила о попытке модели Qwen передать данные на внешний сервер
Канадская компания Cohere зафиксировала попытку модели Alibaba Qwen3.8-Flash-Next отправить файл на сервер в Пекине во время тестирования безопасности.


