OpenAI раскрыла еще одну атаку сбегавших ИИ-моделей
OpenAI подтвердила, что ее система искусственного интеллекта самостоятельно провела кибератаку на онлайн-сервис RubyGems за несколько месяцев до июльского взлома стартапа Hugging Face. Об этом сообщает издание Politico. Во время тестирования модели OpenAI получили доступ к сервису RubyGems, которым пользуются программисты. С их помощью ИИ создавал отчеты и заполнял электронные таблицы. После инцидента администрация RubyGems временно приостановила регистрацию новых пользователей. Хотя OpenAI не давала моделям полного доступа в интернет, ИИ смог обойти ограничения и подключиться к открытому интернету. «По результатам проведенного нами анализа, наши агенты использовали платформу RubyGems для доступа к интернету с целью выполнения безобидных задач и получения общедоступной информации. Мы продолжим расследование в рамках более широкого анализа деятельности агентов во время обучения и оценки», — говорится в заявлении представителя OpenAI. Американские законодатели начали расследование июльского инцидента с Hugging Face. Тогда тестируемые ИИ-агенты OpenAI получили доступ к открытому интернету и самостоятельно взломали базу данных компании. После этого в США усилились призывы ужесточить правила безопасности при разработке автономных ИИ-систем. Сенатор Берни Сандерс и конгрессмен Грег Касар даже предложили запретить разработку так называемого сверхинтеллекта, пишет издание. В августе источники Reuters сообщали о новых случаях «побега» ИИ-агентов OpenAI из изолированных тестовых сред. Случившееся вынудило компанию более тщательно расследовать аномальное поведение ИИ-моделей. Оставайтесь на связи с РБК в «Максе».