Открыть список
Как стать автором
Обновить
1996,2
Рейтинг
Selectel
IT-инфраструктура для бизнеса

Быстрее, точнее, эффективнее: IBM представила прототип 7-нм ИИ-сопроцессора

Блог компании SelectelВысокая производительностьМашинное обучениеБудущее здесь

Для обучения более-менее продвинутых моделей искусственного интеллекта зачастую требуются значительные ресурсы. А сложноустроенные модели подразумевают инфраструктуру в миллионы долларов. IBM создала технологию, позволяющую сократить стоимость и время обучения. И, конечно, сэкономить.

Корпорация представила прототип нового энергоэффективного 7-нм ИИ-сопроцессора. Использование чипа может повысить эффективность обучающих систем более, чем в 7 раз. Беспилотные автомобили, преобразование текста в речь, машинное зрение, разработка новых лекарств, дроны для доставки — сферы приложения ИИ сегодня бесконечны. Для реализации этих масштабных проектов и нужны подобные технологии.

В большинстве вычислительных ядер, процессоров и SoC, заточенных под машинное обучение, чаще всего применяют режимы пониженной разрядности: FP16 и INT8. 8-битная точность в этом случае просто избыточна. IBM разработала для подобных периферийных систем прототип нового ИИ-чипа.

Чем интересен сопроцессор?



4-ядерный чип. Источник

Чип спроектирован с использованием 7-нм техпроцесса. Возможны разные сценарии использования чипа:

  • В 4-битном режиме для обычных задач. Технология позволяет добиваться сопоставимой с 8-ми битным режимом точности результатов.
  • В 2-битном режиме для инференс-задач. В этом случае иногда точность понижается на несколько процентов, но в 4 раза повышается производительность по сравнению с 8-битным режимом.
  • Гибридный режим для задач разного типа.

Основные характеристики чипа:

  • 7-нм техпроцесс на основе EUV;
  • использование гибридного формата FP8 с HFP8;
  • управление питанием аппаратных ускорителей с помощью ИИ;
  • адаптация к перманентно высоким нагрузкам, что обеспечивает высокую производительность приложений.


Источник

Сферы применения новинки:

  • обучение крупномасштабных моделей в облаке;
  • усиление безопасности и конфиденциальности;
  • увеличение вычислительных мощностей в гибридных средах без больших затрат энергии.

В IBM считают, что сопроцессор будет применим в машинном зрении, системах распознавания речи и обработки естественного языка, для различных облачных приложений, для обнаружения мошенничества с финансовыми транзакциями. Помимо этого, выгоду из применения чипа могут извлечь разработчики автономных транспортных средств, систем видеонаблюдения и мобильных телефонов.

Теги:чипыпроцессорысопроцессорпроцессорэнергоэффективностипроизводительностьIBM7-нм
Хабы: Блог компании Selectel Высокая производительность Машинное обучение Будущее здесь
Всего голосов 21: ↑20 и ↓1 +19
Просмотры5.7K

Комментарии 5

Только полноправные пользователи могут оставлять комментарии. Войдите, пожалуйста.

Похожие публикации

Лучшие публикации за сутки