Группа исследователей во главе с экспертами Медицинского колледжа Бэйлора, США, провела эксперимент, в ходе которого учёные зафиксировали активность мозга мышей, смотревших на изображения. Полученные данные использовали, чтобы сделать модели компьютерного зрения более устойчивыми к попыткам обмануть их.
Сверточные нейронные сети (CNN), которые используются для распознавания объектов на изображениях, подвергают состязательным атакам. Если входные данные были каким-то образом изменены, будь то добавление случайного шума или изменение нескольких пикселей в разных местах, робот неверно распознает объект. Состязательные атаки приводят к тому, что система принимает изображение банана за тостер или игрушечной черепахи за винтовку.
Инженеры машинного обучения пытались разработать методы, которые сделали бы модели устойчивее к атакам такого типа. Теперь, согласно статье, опубликованной на arXiv, группа исследователей из медколледжа Бэйлора обратилась к мышам за вдохновением.
Как рассказывают исследователи, они записали активность мозга мышей, смотревших на тысячи разных изображений, и построили вычислительную систему, которая копирует эту активность. Затем исследователи использовали эту модель для настройки CNN под названием ResNet-18. Они настроили ResNet-18 так, чтобы она воспринимала изображения так, как их воспринимает мышь.
После этого нейросеть должна была просмотреть и дать определение изображениям из другого набора. Исследователи сопоставили точность определения изображений с точностью работы модели такой же нейросети, которая не была настроена аналогично мышиному мозгу. Когда исследователи начали добавлять случайные шумы к этим изображениям, производительность ненастроенных моделей резко упала по сравнению с настроенной версией. Учёные пришли к выводу, что нейросеть, воспринимающая изображение «как мышь», будет более устойчива к атакам.
Исследователи полагают, что включение «мышиного восприятия» в модели машинного обучения может помочь им однажды достичь «человеческих характеристик». Однако пока что исследователи понятия не имеют, как конкретно это работает.
«Несмотря на то, что наши результаты действительно показывают преимущество, неясно, какие именно аспекты работы мозга мышей заставляют его работать. Мы считаем, что это самый важный вопрос, и нам нужно понять принцип, лежащий в его основе», — заключили они.
Ранее исследователи Орегонского университета предлагали бороться с дипфейками с помощью мышей. Группа учёных запланировала научить мышей распознавать незаметные для человеческого слуха различия в речи, чтобы затем обучить машину этому механизму распознавания.
