Amazon бросает вызов Nvidia: чипы Trainium и будущее ИИ

Может ли какая-либо компания, большая или маленькая, действительно пошатнуть доминирование Nvidia в области ИИ-чипов? Возможно, нет. Но сотни миллиардов долларов дохода достанутся тем, кто сможет отвоевать хотя бы часть этого рынка. Такое мнение на этой неделе высказал генеральный директор Amazon Энди Джесси.

Как и ожидалось, на конференции AWS re:Invent компания представила следующее поколение своего конкурента Nvidia – ИИ-чип Trainium3. Он работает в 4 раза быстрее и при этом потребляет меньше энергии, чем предыдущий Trainium2. Джесси поделился несколькими подробностями о текущем Trainium в публикации на X, объясняя, почему компания так уверена в этом чипе.

Он отметил, что бизнес Trainium2 "имеет значительную динамику, это бизнес с многомиллиардной годовой выручкой, в производстве находится более 1 миллиона чипов, и более 100 тысяч компаний используют его сегодня как основу для большинства задач Bedrock".

Bedrock – это инструмент Amazon для разработки ИИ-приложений, позволяющий компаниям выбирать из множества моделей искусственного интеллекта.

Джесси заявил, что ИИ-чип Amazon побеждает среди огромного списка облачных клиентов компании, потому что он "обладает ценовыми и производительными преимуществами перед другими GPU-опциями, которые очень привлекательны". Другими словами, он считает, что он работает лучше и стоит дешевле, чем "другие GPU" на рынке.

Это, конечно, классический подход Amazon: предлагать собственную разработку по более низким ценам.

Кроме того, генеральный директор AWS Мэтт Гарман в интервью CRN поделился дополнительной информацией об одном из клиентов, который обеспечивает значительную часть этой многомиллиардной выручки: никого не удивит, что это Anthropic.

"Мы наблюдаем огромный интерес к Trainium2, особенно со стороны наших партнеров из Anthropic, с которыми мы анонсировали Project Rainier. Более 500 000 чипов Trainium2 помогают им создавать следующее поколение моделей для Claude", – сказал Гарман.

Project Rainier – это самый амбициозный ИИ-кластер серверов Amazon, расположенный в нескольких центрах обработки данных в США и построенный для удовлетворения стремительно растущих потребностей Anthropic. Он был запущен в октябре. Amazon, разумеется, является крупным инвестором Anthropic. Взамен Anthropic сделала AWS своим основным партнером по обучению моделей, хотя Anthropic теперь также предлагается в облаке Microsoft через чипы Nvidia.

OpenAI теперь также использует AWS в дополнение к облаку Microsoft. Однако партнерство с OpenAI вряд ли внесло значительный вклад в выручку Trainium, поскольку AWS работает на чипах и системах Nvidia, как заявила облачная компания.

Действительно, лишь немногие американские компании, такие как Google, Microsoft, Amazon и Meta, обладают всеми инженерными компонентами – опытом проектирования кремниевых чипов, собственной высокоскоростной межсоединительной и сетевой технологией – чтобы даже попытаться реально конкурировать с Nvidia. (Стоит вспомнить, что Nvidia заняла доминирующее положение на рынке одной из ключевых технологий высокопроизводительных сетей в 2019 году, когда генеральный директор Дженсен Хуанг обошел Intel и Microsoft на аукционе за производителя оборудования InfiniBand – компанию Mellanox).

Кроме того, ИИ-модели и программное обеспечение, разработанные для работы на чипах Nvidia, также полагаются на проприетарное программное обеспечение Nvidia Compute Unified Device Architecture (CUDA). CUDA позволяет приложениям использовать GPU для параллельных вычислений, среди прочих задач. Как и в случае войны чипов Intel против SPARC в прошлом, переписать ИИ-приложение для чипа, не поддерживающего CUDA, – задача не из легких.

Тем не менее, у Amazon может быть свой план. Как мы уже сообщали, следующее поколение ее ИИ-чипа, Trainium4, будет создано для работы в одной системе с GPU Nvidia. Поможет ли это отвоевать больше бизнеса у Nvidia или просто укрепит ее доминирование, но уже в облаке AWS, покажет время.

Для Amazon это может быть не так уж и важно. Если компания уже на пути к получению многомиллиардных доходов от чипа Trainium2, а следующее поколение будет еще лучше, это уже можно считать победой.