«Крестный отец ИИ» предупредил о риске уничтожения человечества
Разработка сверхмощных систем искусственного интеллекта может иметь катастрофические последствия для человечества, заявил в интервью The Times нобелевский лауреат Джеффри Хинтон, которого называют «крестным отцом» ИИ. По его словам, на данный момент у компаний нет возможности безопасно разрабатывать «суперинтеллект» — искусственную систему, интеллект которой значительно превосходит человеческий. «Мы были бы очень глупы, если бы начали разрабатывать суперинтеллект сейчас, когда нет научного консенсуса о том, что его можно разрабатывать безопасно и подконтрольно», — сказал Хинтон. Он также подчеркнул, что потеря контроля над ИИ, который превосходит людей по интеллекту, «может быть катастрофической и даже привести к вымиранию человечества». В последние месяцы опасения по поводу разработки все более мощных моделей искусственного интеллекта усилились после нескольких случаев, когда агенты ИИ «выходили из-под контроля». Так, в конце июля компания OpenAI сообщила о «беспрецедентном киберинциденте», который произошел во время внутренних испытаний ее новых моделей искусственного интеллекта. В ходе тестирования они получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости. В начале августа Anthropic сообщила о трех «побегах» Claude из тестовой среды.Тогда же Meta Platforms Inc. (признана экстремистской и запрещена в России) заявила, что одна из их ИИ-моделей вышла в интернет и взломала системы другой компании. В свою очередь, китайская нейросеть Kimi K3 компании Moonshot вышла за пределы кибертестирования, но не пыталась взломать чужие веб-сайты. Количество инцидентов, в которых ИИ лгал пользователям, игнорировал инструкции или преследовал вредные цели, почти удвоилось за июль, показало исследование Loss of Control Observatory. По данным аналитиков, только в июле зафиксировано более 300 случаев «потери контроля» над ИИ. Бесконтрольное развитие искусственного интеллекта может привести к уничтожению человечества, как в «Терминаторе», считает глава Tesla и SpaceX Илон Маск. Он предупредил, что искусственный интеллект способен как погубить человечество, так и стать его величайшим инструментом. «Мы хотим, чтобы все закончилось, как в «Звездном пути» Джина Родденберри», — подчеркнул он. Оставайтесь на связи с РБК в «Максе».