Холдинг Т1 нашел способ снизить расходы на ИИ-инфраструктуру

Специалисты Т1 в течение года испытывали оборудование в собственной лаборатории, проведя более тысячи прогонов для двух десятков ИИ-моделей. Выяснилось, что наиболее эффективно разделять нагрузку: флагманские решения NVIDIA оптимальны для обучения и работы сверхбольших языковых моделей, тогда как вспомогательные сервисы и поиск по базам знаний можно перенести на более доступные чипы.

В задачах компьютерного зрения китайские GPU проигрывают американским аналогам в скорости, однако выигрывают в цене. При переходе с одной карты NVIDIA H100 на модель C550 облачные затраты предприятия сокращаются более чем на 2 млн рублей ежегодно. Харитонов подчеркнул, что сугубо техническая замена оборудования вторична по сравнению с общей экономической эффективностью. По его словам, статус готовности компании к ИИ определяется не количеством запущенных пилотов, а измеримой финансовой отдачей, которую бизнес должен увидеть в течение полугода.

Особое внимание холдинг уделяет вопросам безопасности. В работе с объектами критической информационной инфраструктуры эксперты рекомендуют использовать только реестровые программно-аппаратные комплексы в собственном контуре. При расчете стоимости владения такими решениями необходимо учитывать не только цену самих ускорителей, но и расходы на лицензирование, сопровождение систем и переподготовку штата специалистов.