Илон Маск поддержал план замедления ИИ ради человечества
Глава Tesla и SpaceX Илон Маск поддержал призыв генерального директора Anthropic Дарио Амодеи к замедлению темпов разработки в сфере искусственного интеллекта (ИИ). «Дарио прав», — написал он на своей странице в соцсети X. Затем идею поддержал глава OpenAI (разрабатывает ChatGPT) Сэм Альтман. «Я согласен с Дарио в том, что нам нужно идти в ногу со временем. Это было основной темой обсуждений, которые мы вели в OpenAI в последние недели. Привлечение независимых экспертов по оценке с доступом, равным доступу сотрудников, — отличная идея, и мы будем делать то же самое. Скоро нам будет чем поделиться». — написал он в Х. Амодеи для решения проблемы предложил трехэтапную стратегию создания ИИ со сбалансированной скоростью, обеспечивающей его безопасность при одновременном достижении преимуществ и решении важных геополитических проблем. На последнем этапе план требует глобальной межправительственной координации. «Предлагаемые мной меры для безопасного продвижения ИИ будут непростыми. Но я считаю, что мы обязаны перед человечеством попытаться», — подчеркнул глава Anthropic. Он указал, что в течение ближайших 6-12 месяцев развитие искуственного интеллекта может привести к тому, что рой ИИ-агентов «захватит весь интернет». О замедлении разработок передовых ИИ-моделей задумались и в OpenAI. По данным источников Bloomberg, в начале сентября глава компании Сэм Альтман объявил сотрудникам о соответствующих планах. Разработка сверхмощных систем ИИ может иметь катастрофические последствия для человечества, заявил ранее на этой неделе The Times нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом» ИИ. По его словам, сейчас компании не могут безопасно создавать «суперинтеллект» — систему, значительно превосходящую человека по интеллекту. Маск также уже предупреждал о рисках бесконтрольного развития искусственного интеллекта. По его мнению, ИИ может уничтожить человечество, как в «Терминаторе», но вместе с этим способен стать и его величайшим инструментом. Опасения по поводу развития все более мощных моделей усилились после нескольких случаев, когда ИИ-агенты выходили за установленные ограничения. В июле OpenAI сообщила, что ее модели во время испытаний получили доступ к интернету и атаковали инфраструктуру платформы Hugging Face, выявив уязвимости. В августе Anthropic сообщила о трех случаях «побега» Claude из тестовой среды. Оставайтесь на связи с РБК в «Максе».