Электроэнергия для расчета большой языковой модели (LLM, тип нейросетевой системы ИИ) сопоставима с потребностями среднего российского города, заявил в интервью телеканалу «России 24» первый заместитель председателя правления Сбербанка Александр Ведяхин.
По его словам, затраты Сбера на разработки искусственного интеллекта оказывают существенное влияние на баланс банка и на отчет о доходах и расходах.
«Затраты на обучение больших языковых моделей, к примеру, за рубежом, измеряются десятками, иногда сотнями миллиардов долларов. Это действительно очень существенная инвестиция, и для нас тоже. На обучение большой языковой модели приходится 80 процентов затрат. Это поставка графических процессоров (GPU), на которых осуществляется расчет модели. А также электроэнергия. Электроэнергия для расчета модели сопоставима с потребностями среднего российского города», — отметил топ-менеджер Сбера.
Он добавил, что помимо стоимости для расчета LLM необходимо и время.
«Одна модель может считаться 3-6 месяцев, крупные — 9 месяцев. Все зависит от объема кластера», — уточнил Александр Ведяхин и подчеркнул, что быстрый ответ «нейронки» также зависит от средств, вложенных разработчиками в LLM.
«Чтобы GigaChat подумал и предложил вам ту или иную рекомендацию, произошло быстрое вычисление и вам был предоставлен быстрый совет, — это тоже, естественно, стоит сколько-то денег. Но в четыре раза дешевле, чем обучение», — заключил он.