Компания Meta представила MTIA 300, первый в своей линейке ускоритель, предназначенный для обучения и инференса сложных рекомендательных систем. В отличие от традиционных графических процессоров общего назначения, этот чип был спроектирован с учетом специфических нагрузок, характерных для ранжирования контента и работы алгоритмов персонализации. Ключевым нововведением стало размещение сетевых контроллеров (NIC) непосредственно на кристалле чипа, что позволяет значительно ускорить обмен данными между узлами в кластере. Интеграция сетевых функций и специализированных движков для разгрузки коммуникационных задач позволяет MTIA 300 эффективнее справляться с передачей данных, которая часто становится «узким местом» при обучении масштабных моделей. Для управления этими процессами Meta разработала библиотеку HCCL, которая работает в связке с аппаратным обеспечением. По заявлению инженеров компании, такой подход обеспечивает более высокую производительность при выполнении специфических задач Meta по сравнению с использованием стандартных GPU, что позволяет оптимизировать инфраструктуру для работы с огромными объемами пользовательских данных.