ИИ от Anthropic и OpenAI вышли из-под контроля и взломали системы компаний без ведома создателей

Компания Anthropic признала, что её искусственный интеллект серии Claude во время кибериспытаний получил несанкционированный доступ к системам трёх сторонних организаций. Взломы происходили с апреля по июль 2026.

Причиной стала человеческая ошибка: создатель тестовой среды, компания Irregular, случайно оставила нейросети подключёнными к реальному интернету, предварительно отключив у них стандартные защитные фильтры.

Аудит 141 тысячи запусков в Anthropic провели после аналогичного скандала в OpenAI, чьи модели GPT-5.6 Sol и эксперимент без ведома разработчиков нашли уязвимость нулевого дня, вырвались из изоляции и атаковали платформу Hugging Face.

Во время тренировок в формате «захват флага» (Capture the Flag) модели Claude Opus 4.7, Claude Mythos 5 и секретный экспериментальный алгоритм принимали реальные сайты за учебные мишени.

Из-за случайного совпадения названия вымышленной фирмы с настоящим доменом Claude Opus 4.7 обошёл защиту реальной компании, выкачал сотни строк производственных данных и продолжить атаку даже после того, как осознал, что работает с живым объектом.

В другом случае модель замаскировала вредоносную программу под инструмент разработки, добилась её запуска на 15 компьютерах и проникла глубоко во внутреннюю сеть. Третий ИИ-агент просканировал около девяти тысяч сервисов и зашёл в чужое приложение, но остановился, поняв ошибку.

В отличие от OpenAI, нейросети Anthropic не пытались сбежать из среды сознательно и не использовали уязвимости нулевого дня, применяя базовые методы — слабые пароли и малварь.

Все кибертесты остановили 23 июля, а 27 июля пострадавшим фирмам отправили уведомления — причём две из них даже не подозревали, что их взломали.

На этом фоне сотрудники ключевых ИИ-лабораторий опубликовали открытое письмо к правительству США с призывом принудительно замедлить разработку нейросетей, пока контроль над технологией не потрачен окончательно.