Статья для it.speakerКомпания вкладывается в GPU, ждет результата, но получает простой или неэффективное использование мощностей. Генеральный директор mt cloud Тимур Чубарин объясняет IT Speaker, почему так случается, кто внутри бизнеса первым замечает проблему и с чего начать, чтобы не потратить бюджет впустую.Инфраструктура без экономики и растущий аппетит к ресурсамГлавная ловушка: затраты на
GPU требуются сегодня, а
отдача может быть отсроченной или
нулевой. До
старта проекта необходимо четко зафиксировать цель, ожидаемый результат и
метрики его оценки (рост качества сервиса, снижение себестоимости процесса или
конкурентное преимущество). Без
этих ориентиров бюджет увеличивается, но
эффект остается непонятным.
Снизить риск помогает проверка гипотезы в
облаке: готовые мощности провайдера и
модель Pay-as-you-go позволяют быстро протестировать идею, платить только за
факт использования и
наращивать инфраструктуру только после подтверждения эффективности.
Вторая проблема – потеря связи между расходом ресурсов и
бизнес-задачами. Видеокарты дороги и
ограничены, их
часто делят между командами, у
которых быстро растут аппетиты. Получив результат, команда начинает применять ИИ шире, растут требования к
памяти и
вычислениям. Это
нормально. Опасно, когда привязка к
исходным задачам размывается: компания перестает понимать, обоснованны ли
дополнительные мощности или
кластер уже используется для
сценариев с
непросчитанной экономикой.
Окупаемость держится на двух вещах:
- Команда. Инфраструктура – лишь усилитель компетенций людей. Без подготовленных специалистов кластер бесполезен.
- Выбор задачи. Результат должен либо давать эффект, кратно превышающий затраты, либо создавать рыночное преимущество. Масштаб компании важен: чем больше клиентов, тем заметнее экономия даже от небольших улучшений. Особенно это работает в дорогих процессах, например в кибербезопасности – ИИ помогает анализировать инциденты и расследования, не расширяя штат, что критично при дефиците кадров.
Низкая загрузка: кто страдает, а кто не замечает Недозагрузка часто связана не
с
халатностью, а
с
выстраиванием процесса: не
хватает данных, специалистов или
модель построена неверно. На
устранение причин нужно время. Поэтому низкая загрузка сама по
себе – не
приговор. Важно понять ее корень (данные, модель, состав команды или
организация). Однако в
любом случае, если мощности оплачены, но
простаивают, – бюджет сгорает.
Этап обучения не
должен превращаться в
бесконтрольную оплату простоя. В
облаке Pay-as-you-go позволяет платить только за
реально использованные ресурсы, тогда как
при аренде или
собственном «железе» простой продолжает стоить денег.
Особая опасность – низкую загрузку могут просто не
замечать. ИИ сейчас в
тренде, бюджеты выделяются охотно, и
сам факт наличия кластера воспринимается как
признак развития. Но
инфраструктура не
становится эффективной только потому, что
она закуплена и
не
дает сбоев.
Кто видит проблему первым – и почему молчитИнженеры видят технические отклонения раньше всех (мониторинг настроен на
отказы и критические значения). Но
низкая загрузка для
них не
сбой – их зона ответственности начинается при
приближении к
лимитам или
при реальном отказе.
Тот, кто
замечает, не
обязан решать. Экономику использования обязан контролировать руководитель проекта или
держатель бюджета. Это отдельная функция: сопоставлять загрузку, расходы и
результаты. В компании лучше заранее назначить ответственного за
такой анализ и
регламентировать формат отчетности.
Помимо экономических причин простоя, есть и
чисто технические – их
тоже важно уметь отличать от
штатной работы. Техническая недоступность – отдельный источник потерь. Плановые остановки на
обновление ПО или
архитектуры – норма. Тревожный признак – незапланированные и
повторяющиеся отказы, долгая замена компонентов, медленное устранение неисправностей. Если это зона ответственности провайдера и
проблемы не
решаются оперативно, по
мере роста проекта последствия усугубятся. При выборе провайдера полезно провести техническое интервью с
его
командой, чтобы понимать, кто и
как
будет решать проблемы.
Как контролировать эффективность и не утонуть в расходах Самый быстрый способ для
гендиректора оценить ситуацию – запросить у
руководителя проекта отчет с
четырьмя цифрами: сколько GPU-часов оплачено, сколько использовано, какие команды и
задачи потребили ресурсы и
какой результат получен. Если такого отчета нет, при
постоянной аренде можно спросить у
ИТ-директора долю использованных часов от
оплаченных за
месяц и
сравнить с
планом или
прошлым периодом. Падение доли = рост простоя; рост без
приближения к
результату = эффективность под
вопросом.
На рынке появляются инструменты автоматизации – планировщики очередей и
автоскейлинг, – они сокращают простой и
ручной труд. Но
автоматизация лишь исполняет логику, утвержденную человеком: руководитель задает приоритеты, техкоманда настраивает квоты и
условия масштабирования. Она не
определяет, какие задачи полезны бизнесу, и
не
отменяет управленческого контроля. Экономия возникает только тогда, когда освобожденные ресурсы перестают тарифицироваться (в
облаке) или
начинают полнее использоваться (в
собственной инфраструктуре).
Что делать на
практике, чтобы не
выбросить бюджет на
ветер. До
покупки мощностей зафиксируйте задачу и
метрики успеха, проверьте гипотезу на
ограниченном облачном ресурсе. Конфигурацию рассчитывайте с
учетом стоимости видеокарт, платформы, эксплуатации и
возможного простоя. Расширяйтесь не
когда ресурсов «стало мало», а
когда понятны результат от
вложений и
их
цена. На
техническом уровне выбирайте сервер с
запасом, наращивайте GPU внутри одного сервера и
только потом переходите к
нескольким. При недостатке компетенций проконсультируйтесь до
покупки.