Mac Кластеры: Мощь ИИ на Thunderbolt 5

Apple готовит революционное обновление macOS Tahoe 26.2, которое позволит объединять несколько Mac в единую вычислительную систему через Thunderbolt 5. Это открывает новые горизонты для разработчиков и исследователей, позволяя создавать мощные ИИ-суперкомпьютеры для локальной работы с гигантскими моделями.

Представьте себе кластер из четырех Mac Studio, каждый с объемом унифицированной памяти до 512 ГБ. Такая конфигурация способна обрабатывать модель Kimi-K2-Thinking с одним триллионом параметров гораздо эффективнее, чем традиционные ПК с энергоемкими видеокартами.

В отличие от предыдущих попыток кластеризации Mac, где скорость Thunderbolt ограничивала производительность (особенно при использовании хабов, снижающих скорость до 10 Гбит/с), новая функция обеспечит полную пропускную способность Thunderbolt 5 до 80 Гбит/с.

Эта возможность не ограничится только дорогими Mac Studio. Поддержка будет реализована и для Mac mini на базе M4 Pro, а также для MacBook Pro с чипами M4 Pro/Max. Для создания таких кластеров не потребуется специальное оборудование — достаточно стандартных кабелей Thunderbolt 5 и совместимых Mac.

В ходе демонстрации было показано, как кластер из четырех Mac Studio с легкостью загрузил и запустил упомянутую модель Kimi-K2-Thinking на ранней версии EXO 1.0 от ExoLabs. Примечательно, что кластер потребил менее 500 Вт, что примерно в 10 раз меньше, чем типичный кластер на базе GPU (например, NVIDIA RTX 5090, заявленная мощность которой 575 Вт, может потреблять и больше).

Обновление macOS Tahoe 26.2 также предоставит полный доступ к нейронным ускорителям чипов M5 для проекта MLX от Apple, что значительно ускорит процессы инференса ИИ. Ирония в том, что единственный доступный сегодня Mac с чипом M5 — 14-дюймовый MacBook Pro — пока поддерживает только Thunderbolt 4, не позволяя воспользоваться новой функцией кластеризации.

Унифицированная память и энергоэффективность Apple Silicon уже делали Mac привлекательным выбором для задач, связанных с ИИ. Однако возможность объединять несколько систем через Thunderbolt 5 может стать еще более привлекательной для всех, кто работает с масштабными моделями. Конечно, Mac Studio с 512 ГБ ОЗУ не является бюджетным решением (стартовая цена модели с чипом M3 Ultra — $9499), но это лишь топовая конфигурация. Компании и лаборатории, уже владеющие Mac Studio, Mac mini и MacBook Pro, смогут потенциально объединить имеющиеся у них системы.