Axios узнал, что в сенате США начали расследование против OpenAI
Подкомитет Сената США, возглавляемый республиканцами, начал расследование действий OpenAI в связи с утечкой данных с платформы Hugging Face в июле, сообщает Axios. Председатель подкомитета по управлению чрезвычайными ситуациями Джош Хоули направил генеральному директору OpenAI Сэму Альтману письмо, в котором сообщил о начале расследования после публикации результатов внутренней проверки компании. Хоули раскритиковал действия OpenAI при проведении кибертестирования. В частности, сенатор назвал «безрассудным» отсутствие более решительных мер после того, как исследователи обнаружили выход ИИ-агентов компании из-под контроля. По словам Хоули, OpenAI также «скрыла многие важные детали» инцидента в своем отчете. «Американский народ заслуживает того, чтобы знать подробности того, что произошло в инциденте с Hugging Face и других инцидентах, когда модели ИИ вышли из-под контроля», — добавил сенатор. Он отметил, что на этой неделе три исследователя Anthropic публично заявили о вероятности более 10% того, что искусственный интеллект может уничтожить человечество в течение следующего десятилетия. «Как вы, возможно, знаете, в публичном пространстве все больше экспертов по ИИ предупреждают об экзистенциальных рисках ИИ», — написал Хоули. 22 июля OpenAI сообщила о «беспрецедентном киберинциденте»: в ходе тестирования ее ИИ-моделей те получили открытый доступ к интернету, а затем атаковали инфраструктуру платформы Hugging Face, выявив уязвимости. Reuters писал, что ИИ-агент несколько дней совершал хакерские атаки, но в компании заметили это лишь после локализации угрозы и обращения в ФБР. 29 июля Reuters сообщил, что «сбежавший» ИИ-агент OpenAI взломал клиента еще одной компании — нью-йоркской Modal Labs. Сама Modal не была взломана. Позднее, 1 августа, OpenAI официально расширила масштаб расследования инцидентов с автономными ИИ-агентами: по данным Reuters, компания обнаружила новые случаи несанкционированного выхода моделей из-под контроля. Позднее Axios писал, что OpenAI замедлила разработку ИИ-модели Astra для усиления мер безопасности. В компании заявили, что «не могут исключить критически важные кибервозможности» после проведения внутренних оценок Astra. В конце августа Axios со ссылкой на исследования OpenAI и независимых экспертов сообщил, что около 1,2 тыс. ИИ-агентов компании во время кибертеста объединились для атаки на платформу Hugging Face. Агенты понимали, что взлом выходит за рамки задания, но продолжили действовать и не сообщили о происходящем людям. Оставайтесь на связи с РБК в «Максе».