Компания Amazon Web Services (AWS) представила инструмент TorchNeuron, предназначенный для упрощения миграции AI-приложений с графических процессоров Nvidia на собственные чипы Amazon — Trainium. По заявлению компании, интеграция требует изменения лишь одной строки конфигурации, что позволяет разработчикам использовать привычный фреймворк PyTorch без необходимости переписывать код. AWS утверждает, что такой подход обеспечивает лучшую экономическую эффективность за счет объединения процессов обучения и инференса на одной платформе. Помимо выпуска инструмента, Amazon планирует внести изменения в основной проект PyTorch, чтобы сделать его более независимым от конкретных аппаратных решений. Цель компании — устранить глубокую интеграцию фреймворка с программным обеспечением CUDA от Nvidia. По словам представителей AWS, это должно предоставить разработчикам больше свободы выбора инфраструктуры и снизить зависимость от одного поставщика оборудования.
Amazon представила инструмент TorchNeuron для переноса AI-приложений на чипы Trainium
AWS выпустила TorchNeuron — инструмент, позволяющий запускать PyTorch-модели на чипах Trainium без переписывания кода, стремясь снизить зависимость разработчиков от экосистемы Nvidia.



