Google Открывает Доступ к TorchTPU: Нативный Backend для Cloud TPUs

Компании Google и Meta совместно анонсировали выпуск в открытый доступ нативного backend для Cloud TPUs под названием TorchTPU. Это позволяет разработчикам использовать Cloud TPUs для выполнения кода PyTorch с повышенной производительностью.

По умолчанию TorchTPU работает в режиме eager, что позволяет ему компилировать код через torch.compile и XLA. Это также заменяет PyTorch/XLA для новых рабочих нагрузок.

Выпуск TorchTPU в открытый доступ позволит разработчикам более эффективно использовать ресурсы Cloud TPUs и повышать производительность их приложений.

Преимущества TorchTPU

ТorchTPU предлагает следующие преимущества:

• Повышенная производительность при работе с Cloud TPUs;
• Нативная поддержка PyTorch;
• Режим eager по умолчанию;
• Компиляция через torch.compile и XLA.