Pull to refresh
5
0
ComBox Technology @ComBox

инженер-программист

Send message

Защита моделей нейронных сетей при помощи аппаратных ключей SenseLock

Reading time 4 min
Views 3.1K

Нейронные сети помогают нам решать различные задачи в сфере AI и компьютерного зрения. Например, детектирование, классификация, сегментация, распознавание объектов и многие другие. Во многих случаях используются готовые предобученные модели, которые дообучаются по собственным данным разработчика для получения готового отраслевого решения. В этом случае ценность представляет как сам датасет (набор размеченных данных для дообучения), так и полученная модель. Если модель эксплуатируется у Заказчика, распространяется по лицензионной схеме и обладает достаточными для рынка показателями точности, то она сама по себе представляет ценность, так как может быть скопирована и запущена в рамках сторонних решений.

Одной из задач, которая встает на этапе деплоймента готовых решений на базе нейронных сетей – это защита разработанных и предобученных моделей от несанкционированного использования с интеграцией системы лицензирования и лимитированием сроков в варианте срочных лицензий.

Защита нейронной сети может быть физическая и юридическая. Юридическая защита обычно заключается в использовании «водяных знаков», и поможет доказать, что нейронная сеть используется не законно. Физическая защита сводится к блокировке защищенной модели. В данной статье мы рассмотрим физическую защиту на основе ключей SenseLock и фреймворка Intel OpenVINO.

Мы в своих решениях используем оптимизацию моделей и инференс (исполнение моделей) в фреймворке Intel OpenVINO. Это позволяет оптимизировать скорость исполнения нейронных сетей на всей линейке устройств Intel начиная от CPU, встроенной графики iGPU и заканчивая ускорителями VPU на базе Intel Movidius (MyriadX).

Читать далее
Total votes 4: ↑3 and ↓1 +2
Comments 0

Как мы сделали акселератор инференса нейронных сетей для ЦОД с 64 чипами Intel Movidius

Reading time 4 min
Views 2.8K

Некоторое время назад мы искали оптимальное аппаратное и программное обеспечение для исполнения нейронных сетей в ЦОД и "на краю" (edge computing). В рамках нашего исследования мы протестировали множество устройств, от процессоров до встроенной графики iGPU и GPGPU различных производителей. С результатами исследования можно ознакомиться по ссылке.

В рамках этого исследования нас заинтересовал VPU Intel Movidius (MyriadX). На его базе мы решили создать и компактное решения для исполнения "на краю", и мощный акселератор инференса для ЦОД. Что у нас из этого получилось - читайте под катом.

Читать далее
Total votes 11: ↑10 and ↓1 +9
Comments 12

Детектирование состояния светофоров на железнодорожных переездах для фиксации нарушений ПДД

Reading time 3 min
Views 3.4K
Недавно столкнулись с любопытной, на вид простой, но неоднозначной, задачей детектирования состояний железнодорожных светофоров для фиксации нарушений ПДД. Проблема оказалась в том, что подключение к железнодорожной автоматике – это сложная процедура, требующая большого количества согласований, а прокладка соответствующих кабелей требует капитальных затрат. Альтернатива – детектировать состояние светофора с камеры видеонаблюдения и фиксировать факт нарушений ПДД по данным с камеры.

Предварительно поставив цель и согласовав план проведения испытаний программно-аппаратного комплекса детектирования нарушений ПДД на регулируемых железнодорожных переездах, в качестве объекта для тестирования мы выбрали Инженерный центр Октябрьской железной дороги. Там реализован полномасштабный макет железнодорожного переезда, на котором была установлена камера и комплекс для фиксации нарушений:


Total votes 12: ↑3 and ↓9 -6
Comments 56

Объектовая видеоаналитика на транспорте

Reading time 5 min
Views 3.2K
Существует большое количество задач, где процессинг и обработку контента необходимо выполнять «на краю», то есть в непосредственной близости от источника данных (камер). В частности, это касается и задач объектовой видеоаналитики, например, в рамках проектов по оптимизации транспортной инфраструктуры.

Рассмотрим несколько совместных решений от российского интегратора ГК «Ларга» и разработчиков систем объектовой видеоаналитки, компании ComBox Technology.

image
Total votes 11: ↑11 and ↓0 +11
Comments 0

Детекция кашля на Intel NUC

Reading time 3 min
Views 2.5K
Собственно, да, на простом языке – мы захотели (и реализовали) детектор кашляющих людей, но не по позе (так как это требует больших ресурсов), а путем классификации входящих фото после детекции лица с расширением зоны.

Детектор кашля для Intel NUC
Читать дальше →
Total votes 10: ↑4 and ↓6 -2
Comments 9

Применение детектора курения на транспорте

Reading time 3 min
Views 3.6K


Ранее мы рассказывали про детекцию курения посредством объектовой видеоаналитики. Попробуем теперь рассмотреть практические аспекты применения данных решений и конкретные отрасли внедрения, а также их преимущества для бизнеса.

На наш взгляд самой интересной сферой применения является транспорт, в частности – каршеринг, где уже сейчас предусмотрены меры наказания в виде штрафов за курение в салонах арендованных автомобилей. Сумма штрафа варьируется в зависимости от компании от 5 до 15 тысяч рублей. Возвращаясь к сравнению объектовой видеоаналитики и датчиков, датчики не улавливают вейпы и иные приспособления для курения смесей, а также практически не чувствительны при открытых окнах автомобиля. Но это не отменяет факт нарушения и, соответственно, законного наказания в виде штрафа в соответствии с договором.
Читать дальше →
Total votes 10: ↑10 and ↓0 +10
Comments 35

Комплекс детекции курения по фото или видео на базе Intel NUC

Reading time 5 min
Views 4.4K
Intel NUC8i5BEK

В этом посте мы расскажем о том, как решали задачу определения факта курения посредством объектовой видеоаналитики на Intel NUC. На входе – видеопотоки с камер видеонаблюдения, которые декодируются, нарезаются на вычислителе на фреймы, а далее каждый фрейм (с учетом делителя кадровой частоты) отдается нейронной сети, которая детектирует наличие факта курения и возвращает вероятность события.
Читать дальше →
Total votes 8: ↑7 and ↓1 +6
Comments 9

Промышленные безвентиляторные ПК на базе Intel NUC в объектовой видеоаналитике

Reading time 4 min
Views 7.4K
Пост-призер новогоднего NUCо-конкурса Intel.

Мы в компании ComBox работаем с Intel NUC начиная с четвертого поколения и используем их для исполнения нейронных сетей в объектовой видеоаналитике. В 2014 году мы начали знакомство с модели Intel NUC4i5MYHE, потом решения были мигрированы на Intel NUC5i3RYB, сейчас применяются Intel NUC8i5BEK.

image
Пример решения на базе Intel NUC: сервер на 8 Intel NUC8i5BEK в форм-факторе 1U и Outdoor Box NUC (промышленный безвентиляторный ПК для наружного использования) на базе Intel NUC5i3RYB
Total votes 12: ↑11 and ↓1 +10
Comments 33

Опыт разработки и внедрения систем объектовой видеоаналитики на СХД

Reading time 3 min
Views 3.8K
СХД – это системы хранения данных, сервера или иные устройства с большим количеством установленных дисков и системами быстрого доступа к ним с гарантией сохранности информации (например, аппаратные или программные RAID-контроллеры). Если речь идёт про хранение видео с нескольких камер, то специализированных решений не требуется. СХД или обычные диски будут использоваться для хранения видеоархива и там же или на отдельном носителе будут храниться события (результат детекции, например, нарушения ПДД или пресечение запретных зон) для дальнейшего доступа к ним и анализа. Но если камер много, например, 80 штук и мы рассматриваем поток RTSP Full HD, 15 FPS с дорожных камер, то зарегистрированных событий в сутки будет уже около 100 Гб. Для хранения таких объемов данных требуются уже специализированные решения. Мы остановили свой выбор на СХД от компании QNAP, куда смогли встроить свой собственный продукт Cumulator. Цель и задача этого продукта – сбор событий с множества устройств: серверов для инференса (исполнения нейронных сетей), камер или микрокомпьютеров, установленных в непосредственной близости от камер.

Сервер на базе Intel NUC, который осуществляет обработку данных с 80 камер с агрегацией этих данных через ПО Cumulator
Сервер на базе Intel NUC, который осуществляет обработку данных с 80 камер с агрегацией этих данных через ПО Cumulator
Читать дальше →
Total votes 12: ↑6 and ↓6 0
Comments 15

Архитектура современных систем объектовой видеоаналитики. Процесс становления или укоренившиеся со временем изъяны?

Reading time 6 min
Views 1.8K
Текущий год – это ралли среди различных систем распознавания и детекции объектов от различных вендоров. Новые устройства для исполнения нейронных сетей: FPGA, VPU, многоядерные процессоры с VNNI и многое другое предлагается от разработчиков аппаратной части. Параллельно наблюдается рост числа доступных топологий, а также готовых предобученных сеток. Детекция инцидентов, ДТП, подсчет пассажиропотоков, построение половозрастных портретов, распознавание эмоций и многое другое сегодня доступно для разработчиков. И все было бы хорошо, если бы не замысловатый «Time to market» (быстрее, быстрее на тот самый рынок, где деньги и если не мы первые, то точно не успеем), следствием которого мы видим на выходе слабо (читай – сложно, дорого) поддерживаемые монструозные системы All-in-one. А ведь параллельно существуют архитекторы (люди), виртуализация (подходы), способы автоматизации процессов, системы контроля состояний и параметров устройства или их множества. Но ввиду сжатых сроков, это опускается и появляются те самые, описанные выше, монстры. И да, задача «быстрее в рынок», часто бывает достигнутой. Но основная ошибка на начальном этапе заключается в том, что после достижения первичных целей сегодня, требования к скорости дополнения и развития решений будут только усугубляться. Рынок-то растущий, система несовершенна и требует развития, а не шага назад и переработки proof of concept в промышленное решение. И на этом этапе проверка гипотезы уходит в продакшн.
Читать дальше →
Total votes 8: ↑4 and ↓4 0
Comments 0

История одного сервера с пассивным охлаждением

Reading time 5 min
Views 8.7K
Иногда возникают идеи без должной проработки на начальном этапе и эти идеи за счёт убедительности их автора кажутся всем членам команды очень перспективными. Итак, некоторое время назад у группы компаний ВИТ и ComBox Technology родилась идея реализации сервера на базе множества микрокомпьютеров. Назначение сервера – исполнение нейронных сетей на CPU и GPU микрокомпьютеров. Предполагаемый форм-фактор будущего сервера – 1U, стоечный вариант. И все бы ничего, только идея включала пассивное охлаждение, так как анонсированное тепловыделение предполагаемых к использованию микрокомпьютеров было 25 Вт. Собственно, предполагаемым микрокомпьютером для реализации был выбран Intel NUC с процессором Intel Core i5 и встроенным GPU Iris Plus 655. 25 Вт, 1U, пассивное охлаждение, сервер – все это звучит ободряюще, но дальше стали всплывать нюансы.
Total votes 12: ↑11 and ↓1 +10
Comments 44

Нейронные сети в дейтинге

Reading time 5 min
Views 7.8K
Знакомства или дейтинг – вечны, они будут существовать всегда в различных формах: на улице, в интернете, на сайтах или внутри мобильных приложений. Люди всегда будут иметь желание познакомиться с кем-то и каждый будет выбирать себе наиболее удобный способ. Некоторые продолжают знакомиться в барах, кафе, на улице, другие – используют современные технологии и знакомятся в онлайне. У каждого свой выбор и не будем судить ни одну из сторон, но дальнейшее обсуждение пойдет именно о знакомствах в онлайне.

image

Примеры приложений дейтинга

Если не касаться большого количества обмана, жуликов, спамеров в данном сегменте, то фактически на сайтах или в мобильных приложениях люди ищут себе пару и желательно, чтобы их интерес друг к другу был обоюдным. Все что не соответствует данному критерию, фактически, является тратой времени одной из сторон. Самый устоявшийся подход с точки зрения подачи информации это «листалки», где отображается одна анкета и просматривающий должен принять решение: нравится она ему или нет (лайк, дизлайк). Если анкета нравится, то ей уходит уведомление и если интерес друг к другу взаимный, то появляется возможность начать диалог. Возможны отступления от данной схемы в различных приложениях и на разных сайтах, но общий принцип работы должен быть понятен.

Лайк, много лет назад введённый компанией Facebook, оказался очень мощным мотивирующим и удобным инструментом. Он позволяет без диалога показать свои интерес к кому-то и в зависимости от его реакции не ждать ответа, а продолжать поиски. При наличии реакции, может начаться диалог, но ценность его намного выше просто разбросанных «приветов» без учёта взаимности.

Да, лайки помогли, и использование взаимных симпатий тоже, но всё-таки в рынке дейтинга мало что поменялось за последние 15 лет, а это странно для индустрии ИТ, в рамках которой происходит развитие в том числе онлайн знакомств.
Читать дальше →
Total votes 17: ↑9 and ↓8 +1
Comments 12

Секреты невозможных вычислений на GPU

Reading time 9 min
Views 28K
Наш опыт использования вычислительного кластера из 480 GPU AMD RX 480 при решении математических задач. В качестве задачи мы взяли доказательство теоремы из статьи профессора Чуднова А.М. “Циклические разложения множеств, разделяющие орграфы и циклические классы игр с гарантированным выигрышем“. Задача заключается в поиске минимального числа участников одной коалиции в коалиционных играх Ним-типа, гарантирующее выигрыш одной из сторон.


Читать дальше →
Total votes 29: ↑25 and ↓4 +21
Comments 46

Применение АСУ в майнинге

Reading time 10 min
Views 6.9K
Судя по темпам роста сложности сети огромное количество майнингового оборудования вводиться в эксплуатацию каждый день. Темпы высокие и у компаний эксплуатирующих майнинговое оборудование в промышленных масштабах нет времени на проектирование полноценных дата-центров на должном уровне безопасности и автоматизации.

Успешный запуски и опыт эксплуатации оборудования в первые дни или даже месяцы порождает уверенность в надежности работы оборудования. А клиенты, размещающие оборудование в майнинг отелях, уверены что их “железо” в надежных руках. Давайте рассмотрим какой же он, майнинг отель 21 века?
Читать дальше →
Total votes 24: ↑21 and ↓3 +18
Comments 17

Иммерсионное охлаждение высокой мощности

Reading time 12 min
Views 35K
Современные электронные компоненты с каждым годом работают все быстрее. Растут скорости, растет потребление и тепловыделение. Современные тенденции иммерсионного охлаждения процессоров и видеокарт все больше входят в нашу жизнь.

На рынке присутствуют множество предложений систем иммерсионного охлаждения, однако при первом знакомстве их принципиальные различия не так легко определить. Мы провели сравнение технологий опытным путем и выявили их недостатки и преимущества.
Читать дальше →
Total votes 10: ↑9 and ↓1 +8
Comments 44

Information

Rating
Does not participate
Location
Санкт-Петербург, Санкт-Петербург и область, Россия
Registered
Activity