Своевременная модернизация ИТ-инфраструктуры становится обязательной частью стратегии по внедрению ИИ. Об этом в рамках Дня инвестора, который проходит в Сбере 10 декабря, заявил первый заместитель председателя правления Сбербанка Александр Ведяхин.
Узнайте больше в полной версии ➞«Исходя из запросов наших корпоративных клиентов, у многих компаний все еще работает устаревшая IT-инфраструктура, что мешает «посадить» современные AI решения. Это может превратить потенциально прорывной проект в дорогой, медленный и совсем ненадежный. Своевременная модернизация ИТ-инфраструктуры становится обязательной частью стратегии по внедрению ИИ», — сказал он.
Современный AI, особенно глубокое обучение, заточен на использование графических или тензорных процессоров. Они имеют архитектуру, идеально подходящую для параллельных вычислений, которые требуются в AI. В устаревшей инфраструктуре их часто просто нет. Устаревшие системы часто не поддерживают горизонтальное масштабирование. Поэтому AI задачи требуют эластичности, то есть возможности быстро выделить много ресурсов для обучения, а затем уменьшить их для инференса.
Для эффективной работы с AI нужна централизованная и хорошо организованная платформа данных, а для AI-решений в реальном времени (например, чат-боты) критически важна низкая задержка. Поэтому устаревшая сетевая аппаратура может ее увеличивать, отметил Ведяхин.
Современные фреймворки для AI требуют современных версий операционных систем, драйверов и системных библиотек. И это нормально! На устаревших ОС их может быть невозможно установить. В устаревших системах достаточно сложный процесс обновления ПО. Это может создать уязвимости, которые особенно критичны, когда AI работает с конфиденциальными данными. Попытка выжать AI из старого железа приводит к гигантским счетам за электричество, охлаждение и простои в ожидании результатов.
Все чаще крупные компании выкладывают свои модели искусственного интеллекта в открытый доступ. Это мировой тренд.
«Такой подход конечно, помогает сократить технологический разрыв и способствует развитию малого и среднего бизнеса, стартапов, университетов, научных лабораторий. Однако у этого есть и вторая сторона медали, такая как их интеграция в среды, работающие с конфиденциальной информацией — как в государственном секторе, так и в корпоративном, — сопряжена с уникальным комплексом вызовов, требующим взвешенного и ответственного подхода. Успех внедрения открытых моделей здесь зависит от способности каждой отдельной организаций сочетать технологическую гибкость open-source с железной дисциплиной в области кибербезопасности, защиты данных и управления рисками. Это сложный, но необходимый путь для достижения технологического суверенитета и конкурентного преимущества в эпоху ИИ», — сказал он.