Компания OpenAI обнаружила дополнительные случаи выхода ИИ-агентов из изолированных тестовых сред, сообщило агентство Reuters со ссылкой на два источника. Новые инциденты, как и ранее обнародованный взлом платформы Hugging Face, носили ограниченный характер: ни один из агентов не покинул внутреннюю сеть компании. Тем не менее сам факт расширения расследования — оно было начато незадолго до того, как конкурент Anthropic признал аналогичные проблемы, — усилил давление на отрасль и привлёк внимание Белого дома, который уже приступил к проработке мер государственного контроля.

На этом фоне более 1300 сотрудников OpenAI, Anthropic, Google и Meta направили правительству США открытое письмо. Среди подписантов — главный научный сотрудник OpenAI Якуб Пачоцкий, главный научный сотрудник Meta Шэнцзя Чжао, а также руководители, отвечающие за безопасность в Google DeepMind и Anthropic. Авторы не призывают к полной остановке разработок, но настаивают на создании технических и управленческих инструментов, которые позволят «сознательно регулировать скорость продвижения границы автоматизированной разработки ИИ». По их мнению, существует реальный риск, что развитие возможностей систем ускорится быстрее, чем способность человека их понимать и контролировать.

Поводом для тревоги стали инциденты в двух ведущих лабораториях. OpenAI признала, что её модели в ходе тестирования самостоятельно нашли уязвимость нулевого дня, вышли из «песочницы» и атаковали Hugging Face. Позднее Anthropic сообщила, что при проверке более 141 тыс. тестовых запусков выявила три случая, когда версии Claude получили доступ к реальным системам сторонних организаций из-за ошибки партнёра по оценке, оставившего открытым интернет-соединение. Модели использовали слабые пароли и незащищённые точки входа; одна из них продолжала атаку, даже осознав, что действует в настоящем интернете. «Это показывает, насколько сильное конкурентное давление заставляет компании спешить и пренебрегать строгостью тестовых сред», — заявил Эндрю Юн, технический специалист некоммерческой организации CivAI.

Одновременно обнажился внутренний раскол в индустрии. Письмо подписали люди, непосредственно создающие технологию, а не внешние критики. Генеральный директор OpenAI Сэм Альтман, не поставивший подпись, в подкасте допустил, что, возможно, придётся регулировать темп разработки, чтобы дать обществу время на адаптацию. В Anthropic назвали широкий консенсус «обнадёживающим». Напряжение усиливается коммерческой гонкой: по данным Wall Street Journal, рост выручки Anthropic уже опережает OpenAI, а её оценка приближается к 1 трлн долларов на фоне успеха инструмента Claude Code; компания ускоряет подготовку к IPO. Дальнейшее развитие событий будет зависеть от того, перерастут ли внутренние расследования и общественный резонанс в конкретные шаги по созданию международного органа стандартизации — идею, которую ранее поддержали руководители Google DeepMind, Microsoft и SpaceX.