Para treinar um modelo de AI, milhares de GPUs precisam trabalhar juntas, exigindo uma rede rápida, eficiente e resiliente. A Lambda está abordando a parte da rede do quebra-cabeça com switches de óptica coempacotada (CPO) NVIDIA Photonics. A provedora de nuvem está usando os switches para conectar racks NVIDIA GB300 NVL72 com mais de 10.000 GPUs, entregando menor consumo de energia, maior resiliência e maior tempo médio entre interrupções (MTBI) para uma fábrica de AI em escala. “A rede precisa acompanhar as demandas de clusters de AI cada vez maiores”, disse Dave Ward, presidente de serviços de nuvem na Lambda. “Trazer ópticas coempacotadas para uma implantação desta escala é um passo importante para construir a infraestrutura necessária para suportar a próxima geração de AI.” Leia Todos os Anúncios da NVIDIA da SC26 Nos testes da empresa usando os switches, a latência da rede — o tempo necessário para mover dados — caiu cerca de 4% em escala de rack e até cerca de 10% em escala de pod. Em configurações de rack, unidade escalável e pod, a rede mantém a mesma taxa de transferência que as ópticas conectáveis convencionais. Entregando Eficiência Energética e Resiliência em Escala Melhorar a eficiência energética e a resiliência é importante porque a rede está no centro da produtividade da fábrica de AI. Em um grande trabalho de treinamento, um link interrompido pode paralisar milhares de GPUs. Com inferência agêntica, uma interrupção na rede pode introduzir efeitos de latência em cascata em muitos agentes. Cada interrupção custa tempo, e cada watt gasto em rede é um watt não disponível para computação. NVIDIA Photonics aborda tanto a eficiência energética quanto a resiliência. Ao substituir transceptores conectáveis por motores ópticos coempacotados no pacote do switch, ele oferece até 5x melhor eficiência energética e até 15x maior confiabilidade do que as ópticas conectáveis convencionais. Ele também usa 4x menos lasers, o que significa menos componentes que podem falhar. Ópticas Mais Frias, Fontes de Luz Substituíveis Aumentam a Resiliência A implantação da Lambda usa NVIDIA Photonics sw
Fonte: NVIDIA AI Blog
Publicado em 2026-11-16