Ian Buck, vice-presidente de hiperescala e computação de alto desempenho da NVIDIA, falou na terça-feira sobre a eficiência da fábrica de IA no AI Infra Summit, o evento do Santa Clara Convention Center que se transformou em um Coachella da tecnologia de infraestrutura. Diante de um público lotado — com mais de 8.000 participantes este ano, um aumento em relação aos 3.500 do ano passado — Buck discutiu novas colaborações entre as plataformas NVIDIA e muito mais. A Annapurna Labs da Amazon está trabalhando com a NVIDIA na tecnologia de memória de alta largura de banda personalizada NVHBM. A d-Matrix está se integrando com o NVLink Fusion para combinar CPUs NVIDIA Vera com XPUs d-Matrix Raptor para oferecer inferência de ultrabaixa latência em escala. A NVIDIA e seus parceiros também revelaram novos resultados: a Emerald AI e a NVIDIA demonstraram um programa comercial de carga flexível para fábricas de IA, trabalhando com a Silicon Valley Power. A Lambda melhorou o desempenho por watt em 23% com o NVIDIA DSX MaxLPS. O Pinterest está usando a plataforma NVIDIA Blackwell e o software de inferência NVIDIA Dynamo para trazer IA conversacional para a descoberta visual. A notícia surge à medida que a IA agentiva está impulsionando uma nova classe de cargas de trabalho que exigem mais desempenho, eficiência e escala da infraestrutura de IA. A NVIDIA aborda esse desafio com uma plataforma de fábrica de IA full-stack que abrange sistemas Vera Rubin, software de inferência Dynamo, bibliotecas NeMo e rede NVIDIA — incluindo NVIDIA NVLink para computação scale-up, Ethernet Spectrum-X e SuperNICs ConnectX para conectar milhares de nós, armazenamento de memória contextual alimentado por BlueField e DPUs BlueField para segurança de infraestrutura. A métrica para infraestrutura de IA está mudando rapidamente do desempenho máximo para tokens agentivos validados por megawatt. As fábricas de IA agora devem ser codesenvolvidas do silício à rede. O NVIDIA DSX MaxLPS pode entregar até 1,4x mais tokens por megawatt através da otimização de energia em toda a fábrica, enquanto o NVLink ajuda a unir a computação acelerada em larga escala em um único sistema de alto desempenho. O resultado é uma infraestrutura de IA projetada para gerar mais tokens, melhorar a eficiê
Fonte: NVIDIA AI Blog
Publicado em 2026-09-15