Трамп ответил на опасения разработчиков ИИ о захвате интернета
Президент США Дональд Трамп отверг призывы руководителей технологических компаний замедлить развитие ИИ. Свою позицию он изложил журналистам во время поездки гольф-курорт в Ирландии, передает Financial Times. «Послушайте, мы опережаем Китай в сфере искусственного интеллекта... и, честно говоря, я хочу, чтобы так оно и оставалось, потому что тот, кто победит в гонке технологий искусственного интеллекта, — победит в целом», — сказал он. По его словам, можно «предпринять те или иные шаги», но «есть немало деструктивных сил», говорящих о том, что на самом деле не произойдет. Глава Anthropic (разрабатывает большую языковую модель Claude) Дарио Амодеи накануне призвал замедлить развитие ИИ и предложил ужесточить контроль на трех направлениях. Он связал свои опасения с действием ИИ-агентов конкурента — компании OpenAI, чьи агенты вырвались из-под контроля и взломали платформу для машинного обучения Hugging Face. «Я опасаюсь, что через 6–12 месяцев такой рой сможет захватить весь интернет с помощью постоянно действующего ботнета (потенциально причинив ущерб в сотни миллиардов долларов), и что масштабы ущерба будут продолжать расти, если ИИ станет более мощным без необходимых мер защиты», — рассказал Амодеи. Инициативу Амодеи поддержали конкуренты — Сэм Альтман (возглавляет OpenAI, которая разрабатывает ChatGPT) и Илон Маск (руководит xAi, разрабатывающей Grok). О том, что разработка сверхмощных систем ИИ может иметь катастрофические последствия для человечества, ранее предупреждал нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом» ИИ. По его словам, сейчас компании не могут безопасно создавать «суперинтеллект» — систему, значительно превосходящую человека по интеллекту. Маск также допускал, что ИИ может уничтожить человечество, как в «Терминаторе». Но вместе с этим он подчеркивал, что технология способна стать и величайшим инструментом для людей. Обеспокоенность из-за началась после того, как ИИ-агенты нескольких технологических компаний вырвались из-под контроля. Так, 22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе тестирования ее ИИ-моделей те получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости. Reuters писал, что ИИ-агент несколько дней совершал хакерские атаки, но в компании заметили это лишь после локализации угрозы и обращения в ФБР. Позже Anthropic сообщила о трех случаях «побега» Claude из тестовой среды. О аналогичных инцидентах также проинформировали Meta Platforms Inc. (признана экстремистской и запрещена в России) и китайская компания Moonshot, которая владеет нейросетью Kimi K3. Тогда же почти 1,4 тыс. экспертов отрасли предупредили о рисках бесконтрольного развития ИИ, призвав к международным усилиям по замедлению создания новых моделей. Американский сенатор Берни Сандерс выступил за более радикальные меры для предотвращения дальнейших рисков — он призвал приостановить разработку более мощных систем «в интересах человечества». Оставайтесь на связи с РБК в «Максе».