Согласно новостному изданию The Information, ByteDance, материнская компания TikTok, разрабатывает два графических процессора для искусственного интеллекта, которые поступят в массовое производство к 2026 году. TSMC будет производить оба продукта. Предполагая, что информация из неофициального источника точна, ByteDance снизит зависимость от оборудования Nvidia для искусственного интеллекта, оставаясь при этом в рамках экспортных правил США.
Линейка графических процессоров для искусственного интеллекта ByteDance, которые находятся на стадии разработки и поступят в массовое производство через год, если не позже, включает в себя один для обучения ИИ и другой для вывода ИИ.Ожидается, что разработкой ИИ-чипов займется компания Broadcom, которая уже создала ИИ-чипы для Google. Сообщается, что графические процессоры производятся по одному из технологических процессов TSMC N4/N5, поэтому для сборки графических процессоров серии Blackwell от Nvidia для искусственного интеллекта и высокопроизводительных компьютеров используется узел, аналогичный 4NP от TSMC.Ожидается, что графические процессоры ByteDance поступят в массовое производство к 2026 году, поэтому ожидайте их внедрения в 2026 году.
Сообщается, что только в этом году ByteDance потратила более 2 миллиардов долларов на более чем 200 000 графических процессоров Nvidia H20 (то есть около 10 000 долларов за единицу, что чуть меньше 12 000-13 000 долларов) для своих разработок в области искусственного интеллекта, и многие из этих графических процессоров еще предстоит поставить компании. Эти крупные инвестиции подчеркивают важность искусственного интеллекта для общей стратегии ByteDance.
Согласно отчету, нехватка графических процессоров Nvidia и их высокая цена являются одними из причин, по которым ByteDance решила создать собственное оборудование для искусственного интеллекта. Nvidia разработала свой DGX H20 и некоторые другие графические процессоры специально для китайского рынка в ответ на экспортный контроль, введенный США в прошлом году.
В результате HGX H20 представляет собой значительно урезанный графический процессор (по сравнению с H100), который по-прежнему продается за колоссальные 10 000 долларов, если информация о цене верна. Например, в то время как процессор Nvidia HGX H20 обеспечивает производительность всего 296 INT8 /FP8 TOPS /TFLOPS и 148 BF16 /FP16 TFLOPS для вычислений с использованием искусственного интеллекта, полноценный процессор H100 обеспечивает производительность 3958 INT8 /FP8 TOPS /TFLOPS, а также 1979 BF16 /FP16 TFLOPS для ИИ. Тем не менее, благодаря встроенной памяти HBM3 объемом 96 ГБ, пропускной способности до 4,0 ТБАЙТ/с и 8-стороннему графическому процессору, HGX H20 от Nvidia по-прежнему пользуется большим спросом у китайских компаний в реальных приложениях. Сообщается, что процессор Nvidia превосходит конкурентов Huawei.
Хотя ByteDance вряд ли сможет сделать свои графические процессоры значительно быстрее, чем Nvidia HGX H20, из-за правил экспортного контроля в США (поскольку TSMC не сможет поставлять такие графические процессоры в ByteDance), для компании они будут значительно дешевле.
В инициативе ByteDance по разработке графических процессоров для ИИ есть большой подвох. В настоящее время компания использует CUDA от Nvidia и поддерживающий ее программный стек для обучения ИИ и логических выводов. Как только компания приступит к работе со своими графическими процессорами искусственного интеллекта, она должна разработать свою программную платформу и обеспечить полную совместимость своего программного стека с аппаратным обеспечением. Хотя многие китайские компании разработали графические процессоры для искусственного интеллекта, чтобы уменьшить зависимость от Nvidia, эти чипы используются для определенных рабочих нагрузок и продолжают использовать графические процессоры Nvidia для других задач.
В этом году Nvidia планирует поставить более миллиона устройств HGX H20 своим китайским клиентам, что почти вдвое превысит прогнозируемый объем продаж Huawei в 550 000 графических процессоров Ascend 910B AI на 2024 год. Графические процессоры Nvidia H20 могут принести более 12 миллиардов долларов дохода, превысив общий доход компании в Китае за предыдущий год, включая продажи других типов оборудования, таких как графические процессоры для геймеров.