Для обучения более-менее продвинутых моделей искусственного интеллекта зачастую требуются значительные ресурсы. А сложноустроенные модели подразумевают инфраструктуру в миллионы долларов. IBM создала технологию, позволяющую сократить стоимость и время обучения. И, конечно, сэкономить.
Корпорация представила прототип нового энергоэффективного 7-нм ИИ-сопроцессора. Использование чипа может повысить эффективность обучающих систем более, чем в 7 раз. Беспилотные автомобили, преобразование текста в речь, машинное зрение, разработка новых лекарств, дроны для доставки — сферы приложения ИИ сегодня бесконечны. Для реализации этих масштабных проектов и нужны подобные технологии.
В большинстве вычислительных ядер, процессоров и SoC, заточенных под машинное обучение, чаще всего применяют режимы пониженной разрядности: FP16 и INT8. 8-битная точность в этом случае просто избыточна. IBM разработала для подобных периферийных систем прототип нового ИИ-чипа.
Чем интересен сопроцессор?
4-ядерный чип. Источник
Чип спроектирован с использованием 7-нм техпроцесса. Возможны разные сценарии использования чипа:
- В 4-битном режиме для обычных задач. Технология позволяет добиваться сопоставимой с 8-ми битным режимом точности результатов.
- В 2-битном режиме для инференс-задач. В этом случае иногда точность понижается на несколько процентов, но в 4 раза повышается производительность по сравнению с 8-битным режимом.
- Гибридный режим для задач разного типа.
Основные характеристики чипа:
- 7-нм техпроцесс на основе EUV;
- использование гибридного формата FP8 с HFP8;
- управление питанием аппаратных ускорителей с помощью ИИ;
- адаптация к перманентно высоким нагрузкам, что обеспечивает высокую производительность приложений.
Источник
Сферы применения новинки:
- обучение крупномасштабных моделей в облаке;
- усиление безопасности и конфиденциальности;
- увеличение вычислительных мощностей в гибридных средах без больших затрат энергии.
В IBM считают, что сопроцессор будет применим в машинном зрении, системах распознавания речи и обработки естественного языка, для различных облачных приложений, для обнаружения мошенничества с финансовыми транзакциями. Помимо этого, выгоду из применения чипа могут извлечь разработчики автономных транспортных средств, систем видеонаблюдения и мобильных телефонов.
