Anthropic отключила иностранцам свои самые мощные ИИ по требованию США
Правительство США обязало американскую компанию Anthropic закрыть доступ к своим самым передовым ИИ-моделям Fable 5 и Mythos 5 для всех иностранных пользователей, не являющихся американцами. Компания отключила от ИИ-моделей всех пользователей. Об этом говорится в заявлении компании. Из него следует, что доступ к Fable 5 и Mythos 5 должен быть закрыт по соображениям безопасности для всех иностранцев — как за рубежом, так и на территории США, включая зарубежных работников самой Anthropic. «Фактически это означает, что мы вынуждены незамедлительно отключить Fable 5 и Mythos 5 для всех наших клиентов, чтобы обеспечить соблюдение директивы. Доступ ко всем остальным моделям Anthropic затронут не будет», — говорится в заявлении. Anthropic получила директиву от властей США без конкретных деталей. Поводом, как полагают в компании, стал узкий джейлбрейк (программный взлом) Fable 5. Перед запуском Fable 5, пишет Anthropic, модель тестировали тысячи часов совместно с властями США. «Эти тесты показали, что защита Fable существенно эффективнее, чем у любой ранее развернутой модели», — говорится в заявлении. Абсолютной устойчивости к джейлбрейкам нет ни у кого в индустрии, отметила компания. «Мы подчиняемся юридической директиве правительства и отключаем доступ к Fable 5 и Mythos 5 для всех пользователей. Однако мы не согласны с тем, что обнаружение узкого потенциального джейлбрейка должно служить основанием для отзыва коммерческой модели, развернутой для сотен миллионов людей. Если бы такой стандарт применялся по всей индустрии, это, по нашему мнению, фактически остановило бы все новые развертывания моделей для всех ведущих разработчиков», — написала компания. Claude Fable 5 — самая мощная широко доступная модель Anthropic, созданная для наиболее сложных задач рассуждения и длительной агентной работы. Claude Mythos 5 обладает теми же возможностями и доступна только в ограниченном выпуске через Project Glasswing. По словам Anthropic, Claude Fable 5 превосходит предыдущие публичные модели компании почти по всем ключевым направлениям: программированию, анализу информации, работе с изображениями, научным исследованиям и выполнению длинных сложных задач. Компания подчеркивает, что преимущество новой модели особенно заметно там, где нужно долго сохранять контекст, выполнять многоэтапные действия и работать автономно. В начале июня Anthropic конфиденциально подала документы на IPO в США. Если размещение состоится, оно может стать одним из самых заметных для ИИ-рынка и усилить конкуренцию с OpenAI за инвесторов, вычислительные мощности и корпоративных клиентов. Ранее в мае The Wall Street Journal (WSJ) со ссылкой на источники писала, что модель ИИ Claude Mythos, созданная Anthropic и способная находить уязвимости в программном обеспечении, вызвала хаос в Белом доме. Как сообщала газета, в апреле вице-президент США Джей Ди Вэнс обсудил с главами OpenAI, Anthropic, Google, Microsoft и SpaceX угрозы от новых ИИ-моделей — таких как Mythos, которые, по его мнению, способны парализовать работу банков и больниц через кибератаки. В Белом доме, утверждало издание, теперь сомневаются в курсе на ускорение ИИ и рассматривают возможность введения формального надзора за передовыми моделями. Администрация Дональда Трампа уже попросила Anthropic воздержаться от расширения доступа к Mythos для операторов критической инфраструктуры. Оставайтесь на связи с РБК в «Максе».