Как Cerebras Systems создала чип для ИИ, спасла компанию от краха

Сегодня Cerebras Systems — публичная компания, которая продает ИИ-чипы для вывода моделей для гигантов, таких как OpenAI и AWS. Компания провела успешное IPO в четверг, и оба её соучредителя стали миллиардерами, а её капитализация достигла около $60 млрд.

Но в 2019 году, когда компании было всего три года, она оказалась на грани краха, сжигая шокирующее количество денег. Cerebras пыталась решить техническую проблему, которую в полупроводниковой промышленности считали невыполнимой.

«Мы тратили около $8 миллионов в месяц», — рассказал основатель и генеральный директор Эндрю Фельдман изданию TechCrunch о том периоде. «К тому моменту мы сожгли почти $200 миллионов, пытаясь решить одну техническую проблему».

Каждые несколько недель Фельдман вынужден был делать болезненный поход на собрание совета директоров, чтобы сообщить о новой неудаче и о сожженных деньгах.

Но у него не было выбора. Без решения Cerebras всё равно бы погибла.

Компания была основана с простой на бумаге идеей. Микропроцессорная промышленность на протяжении более 50 лет делала процессоры быстрее и дешевле, размещая больше транзисторов на кремниевой подложке и разрезая её на всё более мелкие куски. Но ИИ требовал настолько вычислительных мощностей, что многие чипы приходилось соединять вместе, заставляя их общаться друг с другом. Основатели Cerebras верили, что превращение целой, даже большей подложки в один мощный чип будет работать быстрее.

Проблема была в том, что никто раньше не делал этого ни по какой причине, для ИИ или нет. Управление таким количеством микроскопических электронных компонентов на более крупной, но всё ещё тонкой поверхности вызвало нарастающие инженерные проблемы.

Как только Cerebras преодолела первый порог проектирования мега-чипа и его производства с помощью TSMC, команда столкнулась с реальным препятствием.

Они не могли решить проблему «упаковки». Это включает всё после производства кремния: прикрепление его к материнской плате, подачу питания, решение с нагревом и охлаждением, а также трубки для доставки и возврата данных, сказал Фельдман.

Чипы Cerebras «были в 58 раз крупнее. Мы использовали в 40 раз больше энергии, чем когда-либо кто-либо использовал», — сказал он. Не было готовых теплоотводов. Не было поставщиков. Не было партнеров по производству. Самые умные умы в микропроцессорной инженерии десятилетиями пытались создавать такие большие, но более плотные чипы, и терпели неудачу.

Команде Cerebras оставалось только метод проб и ошибок, в котором «мы уничтожили огромное количество чипов» и огромные суммы денег. Но без функциональной упаковки чип был бесполезен.

После тщательного анализа каждой неудачи команда наконец решила достаточно проблем: как охлаждать его и перемещать данные. В одном случае им пришлось изобрести собственную машину, которая могла одновременно закручивать 40 винтов, чтобы закрепить подложку на плате без её растрескивания.

Фельдман до сих пор помнит июльский день 2019 года, когда всё, чудом, заработало.

Они установили упакованный чип в компьютер, включили его, и вся основная команда «просто стояла в лаборатории и смотрела на него», — сказал он. «Смотреть на работающий компьютер — это примерно так же интересно, как смотреть, как сохнет краска. Но мы стояли там, наблюдая, как мигают огни на компьютере, ошеломленные тем, что мы решили эту проблему».

«Это был один из величайших моментов моей жизни», — сказал он. Это важно, потому что та же основная команда ранее создала и продала AMD за $334 млн в 2012 году пионерскую облачную серверную компанию SeaMicro.

День, когда чип наконец заработал, также пришёлся примерно на два года после того, как OpenAI обсуждала приобретение Cerebras, что Фельдман подтвердил TechCrunch, подтвердив, что это произошло так, как и было показано в раскрытых письмах.

Эти переговоры провалились на фоне нарастающих споров среди основателей OpenAI, несколько из которых являются бизнес-ангелами в Cerebras.

Сегодня OpenAI является клиентом и партнером, предоставив Cerebras $1 млрд в виде secured warrants. Эти warrants условно предоставляют OpenAI около 33 миллионов акций Cerebras, как раскрыто в S-1. (33 миллионов акций стоят более $9 млрд по цене закрытия в $279 в пятницу).

Интересно, что Cerebras также согласилась не продавать свои товары определенным конкурентам OpenAI в рамках этой кредитной сделки. Фельдман не подтвердил, что это очевидная компания, которая затронута: Anthropic. Он, однако, сказал, что это ограничение временно.

«Оно ограничено по времени, и оно было создано, чтобы убедиться, что мы могли предоставить OpenAI необходимую мощность», — сказал он.

Правда в том, что Cerebras ещё не выросла достаточно, чтобы обслуживать нескольких быстро растущих создателей моделей. Он сравнил продажу вычислительных мощностей для ИИ с шведским столом. Вместо того пытаться обслужить всех потенциальных клиентов, «Мы будем работать только с частью буфета, и мы привыкнем к этому, прежде чем атаковать остальное», — сказал он.