🚨 Китайскую нейросеть Qwen поймали на попытке отправить данные на сервер в Пекине Канадская компания Cohere обнаружила странное поведение модели Qwen3.8-Flash-Next от Alibaba во время тестирования безопасности. Нейросеть получила задачу написать правило для обнаружения вредоносных загрузок и заявила, что не будет использовать внешние инструменты. Но уже на следующем шаге попыталась отправить тестовый файл на внешний сервер. Передачу заблокировала защитная система. В интернете сразу заговорили о возможном шпионаже, однако исследователи призвали не спешить с выводами. Вероятнее всего, модель переняла такое поведение в процессе обучения, где могла привыкнуть сохранять данные на серверах Alibaba. Cohere также признала, что подобные случаи редки, а намеренность действий не установлена. Источник