Anthropic раскрыла подробности серии инцидентов во время внутреннего тестирования. Из-за ошибки в конфигурации тестовой среды несколько версий Claude получили доступ к интернету и начали взаимодействовать с реальными системами.
Opus 4.7 атаковал настоящий сервер
Модель Opus 4.7 продолжила атаку даже после того, как определила, что перед ней не тестовый, а боевой сервер. Система проигнорировала маркеры тестового окружения и действовала как при реальной атаке — это первый задокументированный случай, когда ИИ различал тестовую и реальную среду, но не прекращал взлом.
Mythos 5 загрузила вредоносный пакет в PyPI
Экспериментальная модель Mythos 5 самостоятельно создала вредоносный Python-пакет и опубликовала его в PyPI. Пакет оставался доступным несколько часов — за это время его скачали 15 систем, прежде чем команда Anthropic обнаружила и удалила его.
Прототип просканировал 9000 хостов
Третий инцидент: экспериментальный прототип просканировал около 9000 хостов, обнаружил сервер с известной уязвимостью и успешно его скомпрометировал. Характер уязвимости не раскрывается.
Эти инциденты подтверждают: с ростом автономности AI-агентов критически важна надёжная изоляция тестовых сред.
