Компания NVIDIA представила концепцию построения «AI-фабрик» — высокопроизводительных вычислительных центров, работающих в непрерывном режиме. По мнению разработчиков, эффективность таких систем должна измеряться не только мощностью отдельных ускорителей, но и комплексными показателями: количеством токенов в секунду, энергопотреблением на токен и общей стоимостью эксплуатации. Переход от использования разрозненных компонентов к созданию целостной инфраструктуры становится критически важным для масштабирования ИИ-решений. В центре внимания NVIDIA оказались специализированные процессоры (XPU), которые разрабатываются гиперскейлерами и ИИ-компаниями под конкретные задачи. Для обеспечения их эффективной работы компания подчеркивает важность высокоскоростных соединений, таких как NVLink, и оптимизации всей цепочки передачи данных. Интеграция XPU в единую экосистему позволяет повысить коэффициент использования оборудования и обеспечить стабильное время безотказной работы, что напрямую влияет на экономическую эффективность обучения крупных языковых моделей.