A Amazon lançou uma nova ferramenta chamada TorchNeuron, que visa facilitar a execução de aplicações de inteligência artificial (IA) em seus próprios chips, desafiando assim a dominância da Nvidia no mercado. A ferramenta permite que desenvolvedores transfiram aplicações criadas com o framework PyTorch para os processadores Trainium da Amazon Web Services (AWS) com apenas uma alteração de configuração, sem a necessidade de reescrever o código. Essa iniciativa busca reduzir a dependência do ecossistema de software da Nvidia, que tem sido um dos principais fatores que mantém seus chips como a escolha padrão para muitas empresas que desenvolvem IA.
O PyTorch, uma ferramenta gratuita e de código aberto, é amplamente utilizado para desenvolver, treinar e executar modelos de IA, com cerca de 85% das aplicações de IA sendo desenvolvidas com esse framework, segundo a Amazon. A Nvidia, por sua vez, consolidou sua presença nesse mercado ao longo dos anos, investindo na plataforma CUDA, que permite a execução de aplicações de IA em seus processadores gráficos. Como resultado, muitos programas desenvolvidos com PyTorch já estão adaptados para funcionar com o hardware da Nvidia, o que torna a migração para os chips da Amazon uma tarefa desafiadora. O TorchNeuron pretende simplificar esse processo.
A proposta da Amazon para o mercado de IA
- A ferramenta foi adaptada do PyTorch, aproveitando o conhecimento pré-existente dos desenvolvedores sobre o framework. Na prática, isso significa que aplicações existentes podem ser executadas nos chips Trainium sem exigir reformulações extensivas no código;
- A Amazon não é a primeira a tentar facilitar a utilização de hardware alternativo. Desenvolvedores também podem adaptar aplicações do PyTorch para processadores gráficos da AMD e chips da Apple com mudanças relativamente simples;
- Um dos diferenciais da Amazon é a integração com a infraestrutura de computação em nuvem da AWS. Isso permite que startups desenvolvam protótipos, treinem modelos e coloquem aplicações em produção dentro do mesmo ecossistema;
- Colin Brace, vice-presidente de software da Annapurna Labs, unidade da Amazon responsável pelo desenvolvimento de chips próprios, argumenta que essa integração oferece vantagens em relação a provedores especializados em infraestrutura de IA. “Você está construindo na AWS. Não está apostando em um provedor de computação de finalidade única e correndo para construir todo o resto ao redor dele”, afirmou Brace ao TechCrunch;
- A Amazon também defende que utilizar o mesmo tipo de chip para treinamento e inferência pode melhorar a economia das operações, já que o treinamento é a etapa em que o modelo aprende a partir dos dados, enquanto a inferência é a utilização do modelo treinado para realizar tarefas.
Um exemplo prático dos benefícios da mudança é a Deepgram, uma empresa especializada em IA para processamento de voz, que, segundo Brace, passou a utilizar os chips Trainium e conseguiu processar 70% mais áudio por dólar, mantendo a precisão necessária para operações de produção. A Amazon utiliza esse relato para argumentar que a escolha da infraestrutura de IA não deve ser baseada apenas no preço individual dos chips, mas sim na combinação de desempenho, treinamento, inferência e serviços de nuvem, que devem ser considerados no custo total da operação.
Desafios e perspectivas futuras
Ainda assim, a proposta da AWS enfrentará a concorrência de um ecossistema já consolidado. A Nvidia não depende apenas do desempenho de seus processadores; seu software, as ferramentas disponíveis e a familiaridade dos desenvolvedores com seu ecossistema também são fatores que sustentam sua posição no mercado. O plano da Amazon vai além de facilitar a migração para seus chips, buscando também contribuir com mudanças no projeto principal do PyTorch para reduzir a associação automática do framework a determinados fabricantes de hardware.
A ideia é tornar o ambiente de desenvolvimento mais independente dos chips utilizados, permitindo que diferentes empresas ofereçam alternativas sem exigir adaptações complexas de software. Essa estratégia pode ampliar as opções disponíveis para desenvolvedores e empresas que necessitam de grande capacidade computacional para treinar e executar modelos de IA. Contudo, a Amazon ainda precisa demonstrar que a facilidade prometida pelo TorchNeuron se traduz em vantagens práticas para diferentes aplicações, já que a abstração das diferenças entre os chips é uma das funções centrais de frameworks como o PyTorch.
Se a iniciativa conseguir reduzir significativamente a dependência dos desenvolvedores em relação ao ecossistema da Nvidia, seus efeitos poderão ultrapassar a disputa direta entre fabricantes de chips. “A verdadeira história é eliminar o aprisionamento que impedia os desenvolvedores de ter uma escolha real”, concluiu Brace.
