Российский облачный провайдер «Турбо Облако», входящий в коммерческий ИТ-кластер «Ростелекома», запустил Inference Platform — платформу для развертывания и эксплуатации моделей искусственного интеллекта. Она доступна для тестирования бизнесом на собственных моделях.
Как отметили в компании, современные ИИ-проекты требуют не только доступа к вычислительным мощностям, но и значительных усилий по развертыванию и поддержке инфраструктуры. Новый продукт «Турбо Облака» дает готовый сервис для работы с ИИ-моделями. Inference Platform поддерживает различные типы моделей, включая open source решения, подчеркнули в компании.
Генеральный директор «Турбо Облака» Александр Обухов отметил, что значимая часть финансовой нагрузки на компании, которые самостоятельно разворачивают ИИ-инфраструктуру, приходится на эксплуатацию этого продукта на своей территории. Он подчеркнул, что ИИ-специалисты сейчас также очень дороги.
«Компании всегда проще взять экспертизу на рынке. У облачного провайдера есть практически весь спектр GPU-карт, который можно применить на разных проектах и их этапах. Например, на различных стадиях строительства арендуется разная техника. То же самое у нас: это снизит финансовую нагрузку для бизнеса, который пытается самостоятельно развернуть ИИ-инфраструктуру. Мы сможем интерфейс делать операционно дешевым, это все делается более экономически эффективно», — подчеркнул Обухов на полях ЦИПР.
Коммерческий директор «Турбо Облака» Лев Канода подчеркнул, что разработка, в первую очередь, направлена на компании, для которых создание ИИ-инфраструктуры не является профильной сферой.
«Провайдеры делают сервис, а, чтобы помочь компаниям, для которых создание инфраструктуры, особенно ИИ, не является профильным, а это очень дорого. В этой связи заказчик несет финансовую нагрузку. Еще надо выделять IT-специалистов в узких профилях на это. В итоге получается, что купить готовый продукт намного выгоднее. Вы же не покупаете весь автосервис, если вам нужно обслужить автомобиль. Здесь такая же ситуация. Инфраструктура, как сервис, для клиента, тем более в нынешнее время, является крайне востребованной», — сказал Лев Канода.
Директор по стратегии и технологиям «Турбо Облака» Михаил Соколов выразил мнение, что готовая ИИ-инфраструктура поможет увеличить осознанность потребления, так как перераспределит ресурсы бизнеса на другие направления. По его мнению, такие сервисы являются, в том числе, полигоном для тестирования.
«Лучше всего это делать на площадках вроде наших, потому что мы даем широкий спектр моделей GPU-карт, самих моделей, можно попробовать разные, посмотреть, какие эффективные подходят для тех или иных задач. Это площадка, на которой можно стремление превратить в осознанную потребность и понять, как дальше это все в экономику бизнеса вплетать», — подчеркнул он.