Российские разработчики нейросетей готовы перейти на китайские чипы

Российские компании ищут альтернативу западным производителям, делая ставку на китайские видеокарты и отечественные нейроускорители. При этом объем российского рынка ИИ-ускорителей уже составляет 257,6 млрд руб. Об этом на форуме Т1 в «Зарядье» рассказал Артем Каранович, директор департамента консалтинга ИТ-холдинга Т1.

«После ухода NVIDIA, которая обеспечивала инфраструктуру для России, а сейчас обеспечивает весь мир, поставки стали, мягко говоря, «с перебоями». Ценник взлетел до небес, а поддержка оставляет желать лучшего. Однако наш рынок растет и будет продолжать расти. Потому что даже если мы повысим эффективность, например, закупок крупной организации хотя бы на 10%, мы получим конкретные бизнес-кейсы. Учитывая, что закупки очень крупных организаций исчисляются миллиардами рублей, экономия составляет сотни миллионов», — говорит Каранович.

Он добавляет, что помимо этого на китайский рынок начали присматриваться крупные игроки и провайдеры. Они смотрят на тех производителей, которые готовы поставлять любые объемы — даже те, которые еще не готовы «переварить». Речь идет о десятках тысяч карт, которые будут готовы к отправке в течение нескольких месяцев. А стоимость этих карт в полтора раза ниже по сравнению с NVIDIA.

"Китайские коллеги добились значительного прогресса и уже могут быть использованы в качестве альтернативы в ряде задач, особенно для прикладных сценариев и модельного вывода. Но в сегменте обучения больших моделей они по-прежнему зачастую уступают по производительности и зрелости экосистемы, включая инструменты разработки и оптимизации. При этом их развитие идет быстрыми темпами: совершенствуется как аппаратная, так и программная поддержка", - поясняет технический директор МД Аудит ГК Softline Юрий Тюрин.

В то же время, по его словам, в практических задачах компании все чаще рассматривают подобные решения как рабочий вариант, особенно при ограниченном доступе к другим технологиям. В целом снижение зависимости от западных вендоров на рынке ИИ-ускорителей может занять довольно много времени. Это процесс, связанный с развитием собственной технологической базы. Тюрин говорит, что в краткосрочной перспективе компании диверсифицируют поставки и адаптируют ПО под разные архитектуры.

В среднесрочной перспективе важную роль играет развитие собственного стека: от процессоров до программных платформ, а также поддержка разработчиков, оптимизирующих алгоритмы под альтернативное оборудование.

Также отдельным направлением является развитие экосистемы, компиляторов, библиотек и инструментов разработки. Без этого даже имеющееся оборудование не будет эффективно использоваться. Поэтому речь идет не просто о замене оборудования, а о создании полноценной технологической среды, - отмечает эксперт.

Важно, что решение дефицита на рынке ИИ-оборудования может быть основано на изменении подхода к внедрению ИИ-систем. Николай Тржаскал, директор по развитию технологий искусственного интеллекта компании FabricaONE.AI, рассказал, что во многих случаях бизнесу не нужна одна сверхтяжелая модель, если одну и ту же задачу можно решить с помощью семейства специализированных легких моделей, объединенных грамотной оркестровкой.

Таким образом, многоуровневая вычислительная архитектура также выглядит эффективной: периферийные вычисления для простых локальных задач, внутренние кластеры для работы в защищенном контуре компании и облачные мощности для дополнительного обучения моделей и ресурсоемких сценариев без использования конфиденциальных данных.

"Такой подход снижает нагрузку не только на рынок ускорителей, но и на всю сопутствующую инфраструктуру, включая память, системы охлаждения, энергопотребление и размещение оборудования. В результате ИИ становится более доступным для компаний, а нехватка вычислительных ресурсов перестает быть абсолютным барьером для его внедрения", - заключает Тржаскал.