Comments 4
Меня всегда поражало, что МЛ довольно неплохо справляется с задачами распознавания, при том что подход в корне не верный что-ли. Вместо «увидеть на картинке лошадь» принцип что-то вроде «применить пару фильтров и произвести статистику над цветами, сравнить с жабой, утверждать что это жаба». Особенно умиляет, когда МЛ называют ИИ.
С другой стороны технически обмануть распознование с помощью МЛ сложнее, особенно если достоверность контролируется еще каким-либо методом. Скажем, где-то стоит охранная камера и распознает лица; можно одеть маску чтобы обмануть, но если поставить рядом охранника, тот легко заметит человека в маске и заставит ее снять.
Вы пишете «наложим шум», «добавим пиксель», «хотя для человека обе картинки идентичны» — тут вопрос откуда картинки получены. Если из ненадежного источника, то и результат распознавания такой же ненадежный. А если данные получают с камеры по защищенному протоколу — то тут взломать будет сложнее. Возьмите двухфакторную авторизацию — вроде бы надежный метод, а ведь сколько людей уже пострадало, и не из-за того, что плохой метод, а потому что есть способы обойти защиту.
Нас (людей) всякие Коперфильды регулярно обманывают, что тут говорить об относительно молодом МЛ.
С другой стороны технически обмануть распознование с помощью МЛ сложнее, особенно если достоверность контролируется еще каким-либо методом. Скажем, где-то стоит охранная камера и распознает лица; можно одеть маску чтобы обмануть, но если поставить рядом охранника, тот легко заметит человека в маске и заставит ее снять.
Вы пишете «наложим шум», «добавим пиксель», «хотя для человека обе картинки идентичны» — тут вопрос откуда картинки получены. Если из ненадежного источника, то и результат распознавания такой же ненадежный. А если данные получают с камеры по защищенному протоколу — то тут взломать будет сложнее. Возьмите двухфакторную авторизацию — вроде бы надежный метод, а ведь сколько людей уже пострадало, и не из-за того, что плохой метод, а потому что есть способы обойти защиту.
Нас (людей) всякие Коперфильды регулярно обманывают, что тут говорить об относительно молодом МЛ.
По поводу подхода, именно подхода, распознования образов в МЛ можно с вами поспорить, так как принцип работы сверточных сетей, основная цель которых выделить шаблоны в большом объеме данных, очень схож с принципами работы человека в той же задаче, здесь все таки проблема в том, что эта история весьма неустойчива к шумам (тогда как человек на них просто не реагирует).
В тот же момент, не могу с вами не согласиться в том, что использовать алгоритмы МЛ необходимо не для того, чтобы принимать конечное решение, а для того чтобы подкрепить уже имеющиеся знания. Более того атаки на алгоритмы машинного обучения известны достаточно давно, например, обход спам-фильтров или атаки на алгоритмы ранжирования в поисковых системах и т.д. Все это успешно применяется еще с начала 00х годов, а может и того раньше.
Сейчас стало модно в маркетинговых целях представлять МЛ и ИИ, как некоторую серебряную пулю, решающую множество задач, в том числе и в области безопасности, но, лично мое мнение, что МЛ может быть хорошим помощником во многих сферах, но не стоит возлагать на него функцию принятия конечного решения, слепо полагаясь на то, что алгоритм хороший, особенно если от качества работы алгоритма зависит качество вашего продукта.
В тот же момент, не могу с вами не согласиться в том, что использовать алгоритмы МЛ необходимо не для того, чтобы принимать конечное решение, а для того чтобы подкрепить уже имеющиеся знания. Более того атаки на алгоритмы машинного обучения известны достаточно давно, например, обход спам-фильтров или атаки на алгоритмы ранжирования в поисковых системах и т.д. Все это успешно применяется еще с начала 00х годов, а может и того раньше.
Сейчас стало модно в маркетинговых целях представлять МЛ и ИИ, как некоторую серебряную пулю, решающую множество задач, в том числе и в области безопасности, но, лично мое мнение, что МЛ может быть хорошим помощником во многих сферах, но не стоит возлагать на него функцию принятия конечного решения, слепо полагаясь на то, что алгоритм хороший, особенно если от качества работы алгоритма зависит качество вашего продукта.
Отличная статья по данной теме. Похоже круг задач и вырастает.
Sign up to leave a comment.
Безопасность алгоритмов машинного обучения. Атаки с использованием Python