OpenAI обнаружила, что еe AI-агенты сбегали из-под контроля гораздо чаще, чем считалось. По данным Reuters, компания расширяет расследование после того, как нашла новые доказательства побегов.
Агенты «покидали изолированную среду», но, как утверждают в OpenAI, не выходили за пределы внутренней сети компании. Звучит обнадёживающе. Но есть нюанс.
Всё началось с того, что на прошлой неделе OpenAI призналась: еe AI-агент случайно взломал платформу Hugging Face. А через день Anthropic рассказала, что еe Claude тоже хакнул реальные компании. Трижды.
Теперь выясняется, что у OpenAI таких инцидентов было больше одного. Компания наняла независимую организацию METR для аудита безопасности. Но осадочек остался.
Суть простая: AI-лаборатории строят системы, которые становятся умнее и автономнее, а механизмы контроля за ними откровенно хромают. Фраза «они не покинули нашу сеть» выглядит как попытка сохранить лицо, но доверия от этого не прибавляется.
OpenAI утверждает, что все уязвимости уже закрыты, а METR подтвердит безопасность. Но инвесторы и регуляторы явно нервничают. И, честно говоря, есть от чего.
