O Google lançou oficialmente o TensorFlow 2.21. A atualização mais significativa desta versão é a graduação do LiteRT de seu estágio de pré-visualização para uma pilha totalmente pronta para produção. De agora em diante, o LiteRT serve como o framework universal de inferência no dispositivo, substituindo oficialmente o TensorFlow Lite (TFLite). Esta atualização agiliza a implantação de modelos de machine learning em dispositivos móveis e edge, ao mesmo tempo que expande a compatibilidade de hardware e framework. LiteRT: Desempenho e Aceleração de Hardware Ao implantar modelos em dispositivos edge (como smartphones ou hardware IoT), a velocidade de inferência e a eficiência da bateria são as principais restrições. O LiteRT aborda isso com aceleração de hardware atualizada: Melhorias na GPU: O LiteRT oferece um desempenho de GPU 1,4x mais rápido em comparação com o framework TFLite anterior. Integração NPU: O lançamento introduz aceleração NPU de última geração com um fluxo de trabalho unificado e simplificado para GPU e NPU em todas as plataformas edge. Esta infraestrutura é especificamente projetada para suportar a implantação de GenAI multiplataforma para modelos abertos como o Gemma. Operações de Menor Precisão (Quantização) Para executar modelos complexos em dispositivos com memória limitada, os desenvolvedores usam uma técnica chamada quantização. Isso envolve a redução da precisão – o número de bits – usados para armazenar os pesos e as ativações de uma rede neural. O TensorFlow 2.21 expande significativamente o suporte de operadores tf.lite para tipos de dados de menor precisão para melhorar a eficiência: O operador SQRT agora suporta int8 e int16x8. Os operadores de comparação agora suportam int16x8. tfl.cast agora suporta conversões envolvendo INT2 e INT4. tfl.slice adicionou suporte para INT4. tfl.fully_connected agora inclui suporte para INT2. Suporte Expandido a Frameworks Historicamente, converter modelos de diferentes frameworks de treinamento para um formato compatível com dispositivos móveis poderia ser difícil. O LiteRT simplifica isso oferecendo suporte de primeira classe para PyTorch e JAX por meio de conversão de modelo sem interrupções. Os desenvolvedores agora podem treinar seus modelos em PyTorch ou JAX e convertê-los diretamente para implantação no dispositivo sem a necessidade de reescrever a arquitetura no TensorFlow primeiro. Manutenção, Segurança e Foco no Ecossistema O Google está direcionando seus recursos do TensorFlow Core para focar intensamente na estabilidade a longo prazo. A equipe de desenvolvimento agora se concentrará exclusivamente em: Segurança e correções de bugs: Abordar rapidamente vulnerabilidades de segurança e bugs críticos, lançando versões menores e de patch conforme necessário. Atualizações de dependência: Lançar versões menores para suportar
Fonte: MarkTechPost
Publicado em 2026-03-07