WSJ рассказала о «хаосе» в Белом доме из-за ИИ от Anthropic
Модель искусственного интеллекта Claude Mythos, созданная компанией Anthropic и способная находить уязвимости в программном обеспечении, вызвала хаос в администрации президента США Дональда Трампа, пишет The Wall Street Journal (WSJ) со ссылкой на источники, знакомые с ситуацией. Как сообщает газета, в апреле вице-президент США Джей Ди Вэнс провел разговор с руководителями крупнейших компаний, которые занимаются разработками искусственного интеллекта. Источники уточнили, что среди участников встречи были глава OpenAI Сэм Альтман, основатель и генеральный директор Anthropic Дарио Амодей, создатель SpaceX Илон Маск (чат-бот Grok), главный исполнительный директор Google Сундар Пичаи (нейросеть Gemini) и глава Microsoft Сатья Наделла (ИИ-помощник Copilot, также компания инвестирует в OpenAI). Вэнс отметил, что новые модели искусственного интеллекта, такие как Mythos от Anthropic, угрожают парализовать работу небольших банков, больниц и водоочистных сооружений, поскольку инициируют кибератаки, с которыми местные органы власти не готовы справляться. Модель Claude Mythos от Anthropic, по заявлению компании, способна выявлять и использовать уязвимости во всех основных операционных системах и веб-браузерах при наличии команды пользователя. Модель была анонсирована 7 апреля. Bloomberg со ссылкой на Anthropic сообщил, что до релиза представители компании обсуждали с американскими чиновниками «наступательные и оборонительные кибервозможности» Mythos. Международные финансовые регуляторы предупреждали, что новые ИИ-модели вроде Claude Mythos могут вскрыть слабые места глобальной банковской системы. Они выражали опасения из-за перспективы попадания инструмента в руки мошенников, писала Financial Times. В Белом доме теперь сомневаются в выбранном курсе на ускорение ИИ, утверждает газета. В частности, там рассматривают возможность издания специального указа, который мог бы создать формальный процесс надзора над наиболее передовыми моделями. По информации WSJ, представители американской администрации попросили Anthropic воздержаться от расширения доступа к Mythos для большего числа компаний и организаций, которые управляют критически важной цифровой инфраструктурой. Директор управления Белого дома по кибербезопасности Шон Кернкросс был назначен ответственным за меры реагирования на поведение Claude Mythos и подобные ей модели. Меры могут включать и другие действия по обеспечению безопасности этой модели или ограничению доступа к ней. По словам источников, знакомых с ситуацией, опасения Белого дома по поводу Claude Mythos, в свою очередь, вызвали беспокойство у некоторых чиновников американской администрации и помощников конгрессменов. Они опасаются полного отказа от принятой стратегии в отношении ИИ и чрезмерно резкой реакции правительства. Белый дом по-прежнему привержен стратегии, благоприятствующей развитию индустрии ИИ, но стремится устранить риски, связанные с Mythos и другими моделями, такими как GPT-5.5-Cyber от OpenAI, заявил WSJ представитель администрации США. Дискуссии о президентских указах на этот счет он назвал спекуляциями. Другие представители администрации США подчеркнули, что стремятся найти баланс между должным надзором и инновациями.