Как стать автором
Обновить

Как мы сделали акселератор инференса нейронных сетей для ЦОД с 64 чипами Intel Movidius

Блог компании IntelВысокая производительностьПроизводство и разработка электроникиКомпьютерное железоИскусственный интеллект
Всего голосов 11: ↑10 и ↓1 +9
Просмотры2K
Комментарии 10

Комментарии 10

А почему не U2? PCI-E есть, индустриальная поддержка есть, куча слотов в существующих серверах есть.

Можно и другие форм-факторы платформ использовать. Нам понравилась платформа 1U Supermicro SYS-1029TRT с 4-мя PCIe слотами х8/х16. Она даёт высокую производительность и плотность вычислителей и ускорителей в рамках одного места в стойке. При низком энергопотреблении это существенное преимущество. Одной платформы часто хватает для обработки данных с множества СХД рядом.

Сколько TFLOPS на плату?

Максимальная теоретическая производительность Movidius Myriad X составляет 4 TFLOPS. На каждой плате - 64 VPU, 64 * 4 = 256 TFLOPS. Не уверен, что на эти показатели есть смысл опираться. Лучше смотреть производительность конкретной топологии нейронных сетей на бенчмарках.

Сколько памяти на чип? Какая пропускная способность памяти? Какова скорость обмена с системной памятью?

Памяти на чип - 4 Gb, LP-DDR4 SDRAM, частота 1600 MHz.

(на примере Mobilenet v.2 SSD) — 2800 FPS

Если не сложно, приведите циферки для чего-то покрупнее. Всё таки претендуете на серверное применение.
Хотя бы тот же многострадальный ResNet50, который на каждом утюге протестирован и удобен для сравнения с конкурентами. :)

В начале статьи есть ссылка на результаты сравнения различных устройств. Там сравнивали Darknet19 (TinyYOLO), UNET. Разрез - устройства, фреймворки, тип данных, сравнение по производительности на доллар стоимости. ResNet масштабируется практически без потерь на множестве VPU (до 10%).

Где/когда можно купить/запросить железку или инженерный образец на академическую организацию?

Обращайтесь info@combox.io или по любым контактам на сайте.

Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.