SambaNova Systems, стартап, разрабатывающий чипы для рабочих нагрузок ИИ, сегодня объявила о привлечении $676 млн, оценив капитализацию более чем в $5 млрд. Руководство SambaNova планирует расширить свою клиентскую базу — особенно на рынке центров обработки данных — поскольку фирма становится одной из самых капитализированных компаний в мире с привлечением более 1 миллиарда долларов.
Ускорители искусственного интеллекта — это тип специализированного оборудования, предназначенного для ускорения приложений ИИ, таких как нейронные сети, глубокое обучение и различные формы машинного обучения. Они сосредоточены на низкоточной арифметике или вычислениях в памяти, которые могут повысить производительность больших алгоритмов искусственного интеллекта и привести к самым современным результатам в обработке естественного языка, компьютерном зрении и других областях. Возможно, именно поэтому, согласно недавнему опросу Statista, они будут иметь растущую долю мощностей периферийных вычислений, составляя прогнозируемые 70% к 2025 году.
SambaNova занимается индустрией стартапов, фокусируясь на развитии инфраструктуры для обработки рабочих нагрузок искусственного интеллекта. Palo Alto, калифорнийская фирма, основанная в 2017 году ветераном Oracle и Sun Microsystems Родриго Лянгом и профессорами Стэнфорда Кунле Олукотуном и Крисом Ре (Rodrigo Liang, Kunle Olukotun, Chris Ré), предоставляет системы, которые управляют ИИ и интенсивными приложениями данных от центра обработки данных до периферии.
Г-н Олукотун, который недавно получил мемориальную награду IEEE Computer Society Harry H. Goode, является лидером Стэнфордского проекта по исследованию многопроцессорных чипов Hydra. Он произвел дизайн чипа, который связывает четыре специализированных процессора и их кэши с общим вторичным кэшем. Г-н Ре, доцент кафедры компьютерных наук в Инфолаборатории Стэнфордского университета, стал лауреатом премии MacArthur genius и также связан с Группой статистического машинного обучения, Лабораторией повсеместного параллелизма и лабораторией ИИ Стэнфорда.
Чипы искусственного интеллекта SambaNova — и ее клиенты, если уж на то пошло, — остаются в основном засекреченными. Но ранее компания сообщила, что разрабатывает “программно-определяемые” устройства, вдохновленные финансируемыми DARPA исследованиями в области эффективной обработки ИИ. Используя комбинацию алгоритмической оптимизации и пользовательского аппаратного обеспечения на плате, SambaNova, как утверждает ее руководство, способна значительно повысить производительность и возможности большинства приложений с искусственным интеллектом.
40-миллиардный транзисторный Cardinal SN10 RDU (Reconfigurable Dataflow Unit) SambaNova, построенный на процессе TSMC N7, состоит из массива реконфигурируемых узлов для передачи, хранения и коммутации данных. Он предназначен для выполнения обучения в цикле и позволяет реклассифицировать модель и оптимизацию на лету во время вывода с обучением рабочих нагрузок. Каждый кардинальный чип имеет шесть контроллеров для памяти, обеспечивая пропускную способность 153 ГБ/с, и восемь чипов подключены в конфигурации «все ко всем». Этот последний бит становится возможным благодаря коммутационной сети, которая позволяет чипам масштабироваться.
SambaNova продает Cardinal не сам по себе, а скорее как решение для установки в центре обработки данных. Базовая единица предложения SambaNova называется DataScale SN10-8R, оснащена процессором AMD в паре с восемью чипами Cardinal и 12 терабайтами памяти DDR4, или 1,5 ТБ на Cardinal. Представитель фирмы заявляет, что она будет настраивать свои продукты в соответствии с потребностями клиентов, используя стандартный набор сетевых функций и функций управления, которыми SambaNova может управлять удаленно.
Большой объем памяти дает SN10-8R опору на конкурирующее оборудование, такое как Nvidia V100. Как рассказал вице-президент по продукту Маршалл Чой (Marshall Choy), реконфигурируемая архитектура Cardinal может устранить необходимость в таких вещах, как уменьшение изображений с высоким разрешением до низкого разрешения для обучения и вывода, сохраняя информацию в исходном изображении. Результатом является возможность обучать модели с возможно более высоким общим качеством, устраняя при этом необходимость дополнительной маркировки.
Что касается программного обеспечения, то у SambaNova есть собственный оптимизатор графов и компилятор, позволяющий клиентам, использующим фреймворки машинного обучения, такие как PyTorch и TensorFlow, перекомпилировать свои рабочие нагрузки для Cardinal. Компания стремится поддерживать естественный язык, компьютерное зрение и рекомендательные модели, содержащие более 100 миллиардов параметров — частей модели, извлеченных из исторических данных обучения, — а также больший объем памяти, позволяющий использовать аппаратное обеспечение и повысить точность.
У SambaNova есть конкуренты на рынке, который, как ожидается, достигнет 91,18 миллиарда долларов к 2025 году. Hailo, стартап, разрабатывающий аппаратное обеспечение для ускорения вывода ИИ на грани, в марте 2020 года получил 60 миллионов долларов венчурного капитала. Калифорнийская компания Mythic привлекла 85,2 миллиона долларов для разработки собственной вычислительной архитектуры в памяти. Graphcore, британский стартап из Бристоля, создающий чипы и системы для ускорения рабочих нагрузок ИИ, имеет военный пул в сотни миллионов долларов. А растущий блок чипов искусственного интеллекта Baidu недавно был оценен в 2 миллиарда долларов после финансирования.
Но SambaNova говорит, что первое поколение Cardinal было выпущено весной 2019 года, а первые образцы уже находились на серверах клиентов. На самом деле SambaNova продавала клиентам более года до этого момента — единственные публичные версии от Министерства энергетики в Лос-Аламосе и Ливерморской национальной лаборатории им. Лоуренса. В последней одну из систем SambaNova объединили с суперкомпьютерным кластером Corona, главным образом используемым для моделирования различных физических явлений.
SambaNova также является бенефициаром рынка, на котором наблюдается беспрецедентный — и устойчивый — потребительский спрос. Резкий рост закупок автомобилей и электроники в начале пандемии усугубил растущую нехватку микрочипов. В ответ президент США Джо Байден недавно выделил 180 миллиардов долларов на исследования и разработки в области передовых вычислений, а также специализированное производство полупроводников для искусственного интеллекта и квантовых вычислений, которые стали центральными в национальной технологической стратегии страны.
“Мы начали поставлять продукт во время пандемии и увидели ускорение бизнеса и внедрения относительно ожиданий, — сообщил представитель компании VentureBeat по электронной почте. — COVID-19 также породил для нас новые варианты разития. Наша технология используется клиентами для исследований и открытий терапевтических и противовирусных соединений”.
По словам Брониса де Супински (Bronis de Supinski), главного технологического директора Ливерморской национальной лаборатории им. Лоуренса, платформа SambaNova используется для изучения метода, называемого когнитивным моделированием, где ИИ используется для ускорения обработки частей моделирования. Он утверждает, что результат примерно в 5 раз лучше по сравнению с графическими процессорами, работающими на тех же моделях.
Наряду с новым продуктом SN10-8R компания SambaNova намерена предложить два варианта облачного сервиса: первый — SambaNova AI Platform — это бесплатное облако разработчиков для научно-исследовательских институтов с вычислительным доступом к аппаратному обеспечению. Второй — поток данных как услуга — предназначен для бизнес-клиентов, которым нужна гибкость облака без оплаты аппаратного обеспечения. В обоих случаях SambaNovaбудет заниматься управлением и обновлениями.
Softbank возглавил последний раунд финансирования SambaNova, серия D. Компания, которая имеет более 300 сотрудников, ранее закрыла раунд серии C стоимостью 250 миллионов долларов во главе с BlackRock и предшествовала серии B стоимостью 150 миллионов долларов во главе с Intel Capital.