Свои модели вместо публичных: подводные камни AI-инфраструктуры
Эксперты Selectel отмечают, что ключевые барьеры внедрения ИИ — дефицит и долгие поставки специализированного оборудования, а также нехватка экспертизы по сборке и запуску ML-кластеров, из-за чего техника простаивает и успевает устареть. Инфраструктура для ИИ опирается на GPU, без которых модели работают на порядки медленнее и фактически непригодны для масштабных задач бизнеса. С точки зрения безопасности главный риск связан с отправкой корпоративных данных в публичные зарубежные модели. Решение — изолированные модели в российских ЦОДах и приватные сети, чтобы данные оставались внутри защищенного периметра. При выборе партнера компании стоит ориентироваться на комплексный подход: от консалтинга и формулировки бизнес-задачи до проектирования архитектуры и подбора инфраструктуры совместно с технологическими интеграторами. Подробнее об этом — в интервью с экспертами компании Selectel Александром Туговым, директором по AI-вертикали, и Владиславом Кирпинским, директором направления облачной интеграции. — Александр, вопрос к вам. Сейчас многие компании хотят использовать искусственный интеллект. С какими сложностями им предстоит столкнуться? — По нашему опыту, еще до технических сложностей — это проблема с поставками оборудования — от сроков поставок, и в целом дефицита оборудования на мировом рынке, до проблем с логистикой. У нас были кейсы, когда компания ожидала поставку в три месяца, а в реальности оборудование ехало все восемь. Когда оборудование уже прибыло, все замечательно, возникает следующая проблема — недостаток экспертизы. Потому, что это не так просто собрать кластер для ML-моделей и их запуска. Это может занимать месяцы, особенно если внутри компании просто не было до этого такого опыта. Опять же, у нас был кейс, когда один из наших заказчиков пытался самостоятельно все решить, и заняло у него это почти год. Хотя он мог бы обратиться к нам. — Что происходит с оборудованием, пока оно простаивает? — По сути, это прямой убыток. Оборудование для ИИ достаточно быстро устаревает. За год простоя выходит уже новое, гораздо более производительное поколение. То есть, по факту, компания заморозила деньги и получила в результате еще и просадку не только в деньгах, но и по производительности. Результат в два раза хуже, чем могло бы быть. — А в чем специфика инфраструктуры для проекта в сфере искусственного интеллекта? — Основная специфика — это, собственно, наличие так называемых GPU. То есть это специальные карты, которые ускоряют вычисления для искусственного интеллекта. Без них можно запускать модели, но они будут работать в сотни раз медленнее. То есть практически невозможно этим пользоваться будет. — Давайте поговорим по безопасности, Владислав, вопрос вам: безопасность — это один из ключевых страхов бизнеса. Какие архитектурные решения и модели развертывания вы считаете более-менее безопасными? — Есть такой тезис, который мне очень нравится. Данные — это новое золото. И здесь он как никогда актуален. Почему? Ну, вот смотрите: если вы пользуетесь публичными моделями, такими как Qwen, DeepSeek, Chat GPT, отправляя туда данные — какие-то свои таблицы, корпоративные данные, фотографии, что угодно, вы решаете вроде бы бизнес-задачи, но отправляете данные за границу, за рубеж. Они попадают вот в эти компании, как-то там обрабатываются и, возможно, даже хранятся. В Selectel есть свое решение — Foundation Model Catalog. Это когда модель поднимается у нас в ЦОДе на нашем оборудовании внутри России. И данные, когда вы отправляете к такой модели запрос, за границу уже не уходит. Самое важное, что этой моделью пользуетесь только вы, то есть ваша компания. Данные за пределы в соседнюю модель никак не утекают. Таким образом, вы получаете изолированное решение. А чтобы уж совсем не переживать, можно построить приватную сеть, чтобы эти данные вообще через интернет не отправлялись, а вы по приватной сети из вашей локальной сети предприятия подключались к этой модели. Тогда получается изолированное, безопасное решение. — На что обратить внимание при выборе партнера, если компания только начинает свой путь в AI? — В первую очередь на такую какую-то комплексность предложения. То есть не обрывочные внедрения, а чтобы этот партнер мог помочь решить задачу комплексно. Что я имею в виду? Как правило, приходят с какой-то бизнес-задачей. То есть, мы хотим внедрить AI для того, чтобы оптимизировать какой-то бизнес-процесс, получить какой-то бизнес-результат, либо сэкономить средства, либо повысить нашу выручку. Здесь надо начинать с консалтинга. И вот, начиная с него, необходимо постепенно спускаться на этапы внедрения, на этапы подбора инфраструктуры и так далее. И разрабатывать уже архитектуру всего этого проекта целиком. Именно для этого мы, например, недавно анонсировали партнерство с компанией GlowByte, где мы комплексно подходим к решению подобных задач. Мы предоставляем платформенный слой с точки зрения AI, тот же Foundation Model Catalog, изолированные инфраструктуры. А они как раз предлагают ту самую экспертизу комплексного закрытия задач.