Tenstorrent бросает вызов Nvidia: серверы Blackhole обходят GB300

Пока индустрия ИИ завязана на дефицитных GPU от Nvidia, стартап Tenstorrent Джима Келлера предлагает альтернативный путь на архитектуре RISC-V. Новые серверы Galaxy Blackhole не просто обещают конкуренцию, а демонстрируют кратное превосходство над флагманскими системами GB300 по скорости генерации текста и стоимости каждого обработанного токена.

В основе платформы лежит чип Blackhole с ядрами Tensix, каждое из которых содержит пять полностью программируемых RISC-процессоров. Такая архитектура позволяет гибко управлять вычислениями, используя локальную память SRAM вместо традиционной зависимости от пропускной способности внешней памяти. В режиме Blitz, ориентированном на минимальные задержки, система выдает более 350 токенов в секунду при работе с тяжелой моделью DeepSeek-R1. Это быстрее показателей специализированных решений от Groq и Cerebras, а время до получения первого ответа на контексте в 100 тысяч токенов составляет менее четырех секунд.

Особое внимание разработчики уделили генеративному видео. Galaxy Blackhole справляется с созданием пятисекундного ролика из 81 кадра в разрешении 720p всего за 2,4 секунды — это первый случай, когда генерация происходит быстрее реального времени в таком качестве. Техническая мощь стойки из 32 чипов достигает 23 петафлопс в операциях FP8, что подкрепляется терабайтом оперативной памяти со скоростью 16 ТБ/с и сетевым интерфейсом на 56 портов Ethernet 800G.

Серверы с воздушным охлаждением поступят в продажу в стоечной конфигурации по цене от 110 тысяч долларов. Tenstorrent делает ставку на экономическую эффективность: при сопоставимой или превосходящей мощности их решение обходится дешевле в эксплуатации, чем топовые ускорители Nvidia. Хотя результаты специфичны для конкретных сценариев вывода, компания наглядно демонстрирует, что открытая архитектура RISC-V готова к самым тяжелым нагрузкам в современных нейросетях и способна изменить баланс сил на рынке ИИ-железа.