A empresa de chips Tenstorrent, liderada por Jim Keller, lançou seu processador Wormhole de próxima geração para cargas de trabalho de IA, que deve oferecer bom desempenho a um preço acessível.Atualmente, a empresa oferece duas placas PCIe adicionais que podem acomodar um ou dois processadores Wormhole, além de estações de trabalho TT-LoudBox e TT-QuietBox para desenvolvedores de software. Todos os anúncios de hoje são direcionados a desenvolvedores, não àqueles que usam placas Wormhole para cargas de trabalho comerciais.
"É sempre gratificante colocar mais dos nossos produtos nas mãos dos desenvolvedores. Sistemas de desenvolvimento de lançamentos usando nossos cartões Wormhole™ podem ajudar os desenvolvedores a escalar e desenvolver software de IA multichip", disse Jim Keller, CEO da Tenstorrent.Além deste lançamento, estamos animados para ver o progresso que estamos fazendo com a produção e inicialização do nosso produto de segunda geração, o Blackhole.”
Cada processador Wormhole contém 72 núcleos Tensix (cinco dos quais suportam núcleos RISC-V em vários formatos de dados) e 108 MB de SRAM, fornecendo 262 TFLOPS FP8 a 1 GHz com uma potência térmica de 160 W. A placa Wormhole n150 de chip único é equipada com 12 GB de memória de vídeo GDDR6 e tem uma largura de banda de 288 GB/s.
Os processadores Wormhole oferecem escalabilidade flexível para atender às diversas necessidades de cargas de trabalho. Em uma configuração padrão de estação de trabalho com quatro placas Wormhole n300, os processadores podem ser combinados em uma única unidade que aparece no software como uma rede central Tensix ampla e unificada. Essa configuração permite que o acelerador lide com a mesma carga de trabalho, divida-a entre quatro desenvolvedores ou execute até oito modelos de IA diferentes simultaneamente. Um recurso fundamental dessa escalabilidade é a possibilidade de execução local sem a necessidade de virtualização. Em um ambiente de data center, os processadores Wormhole usarão PCIe para expansão interna da máquina ou Ethernet para expansão externa.
Em termos de desempenho, a placa Wormhole n150 de chip único da Tenstorrent (72 núcleos Tensix, frequência de 1 GHz, 108 MB de SRAM, 12 GB de GDDR6, largura de banda de 288 GB/s) atingiu 262 FP8 TFLOPS a 160 W, enquanto a placa Wormhole n300 de chip duplo (128 núcleos Tensix, frequência de 1 GHz, 192 MB de SRAM, 24 GB de GDDR6 agregados, largura de banda de 576 GB/s) oferece até 466 FP8 TFLOPS a 300 W.
Para contextualizar os 300 W de 466 TFLOPS em FP8, vamos compará-los com o que a Nvidia, líder de mercado em IA, oferece com essa potência de design térmico. O A100 da Nvidia não suporta FP8, mas suporta INT8, com desempenho máximo de 624 TOPS (1.248 TOPS em modo esparso). Em comparação, o H100 da Nvidia suporta FP8 e atinge um desempenho máximo de 1.670 TFLOPS a 300 W (3.341 TFLOPS em modo esparso), o que é significativamente diferente do Wormhole n300 da Tenstorrent.
No entanto, há um grande problema. O Wormhole n150 da Tenstorrent é vendido por US$ 999, enquanto o n300 custa US$ 1.399. Em comparação, uma única placa de vídeo Nvidia H100 é vendida por US$ 30.000, dependendo da quantidade. É claro que não sabemos se quatro ou oito processadores Wormhole podem realmente oferecer o desempenho de um único H300, mas seus TDPs são de 600 W e 1200 W, respectivamente.
Além das placas, a Tenstorrent oferece estações de trabalho pré-montadas para desenvolvedores, incluindo 4 placas n300 no TT-LoudBox mais acessível baseado em Xeon com resfriamento ativo, e o TT-QuietBox avançado com função de resfriamento líquido Xiaolong baseado em EPYC).
Horário da publicação: 29 de julho de 2024