Источник: MIT
Когда люди смотрят на изображение чего-либо, они определяют, что на нём изображено, с помощью памяти, где содержится коллекция узнаваемых особенностей объекта. Человек может идентифицировать вид птицы, например, по контуру ее клюва, цвету ее перьев или форме лап. Нейронная сеть, однако, просто ищет образцы пикселей по всему изображению, не делая различий между птицей и ее фоном. Это делает нейронную сеть более уязвимой к ошибкам и затрудняет диагностику её работы людьми.
Вместо того, чтобы обучать нейронную сеть на изображениях птиц целиком, исследователи из частного Университета Дьюка в Северной Каролине и лаборатории Линкольна Массачусетского технологического института обучили ее распознавать различные особенности птиц: форму клюва и головы каждого вида, окраску перьев. Затем алгоритм на каждом новом изображении ищет эти отличительные признаки и пытается определить, к какому виду они принадлежат.
Как указано в документе проекта, опубликованного на arxiv, нейросеть использует совокупные доказательства, чтобы принять окончательное решение. К примеру, алгоритм получает картинку дятла. Алгоритм может найти две узнаваемые особенности, на которых он обучался: черно-белую окраску перьев птицы и красный цвет его головы. Первая особенность может совпадать с несколькими возможными видами птиц, но вторая указывает, что на картинке рыжебрюхий дятел. Исходя из двух доказательств, алгоритм обосновывает своё решения, показывая последовательность вычислений. Это помогает определять, верна ли логика алгоритма, или нет.
Как пишет MIT Technology Review, такие исследования и обучения важны, чтобы алгоритмы распознавания изображений были более полезными в действительно важных случаях — например, в больницах, где нейросети могли бы помочь врачу классифицировать опухоль. Поэтому алгоритмы должны быть в состоянии объяснить, как они пришли к своему заключению понятным человеку способом.
Ранее японские ученые из Университета Ямагато нашли новый геоглиф на плато Наска в Перу, использовав нейросеть на платформе IBM Watson Machine Learning. Нейросеть исследователи обучали на предыдущих находках археологов, а также на геоглифах, найденных другими учеными.
В октябре ученые Университета Калифорнии Сан-Франциско (UCSF) сообщили о том, что они смогли натренировать нейросеть типа FCN (fully convolutional network) на 4 396 томограммах на поиск микроскопических кровоизлияний в мозг и прочих повреждений. В результате нейросеть искала потенциально опасные участки лучше специалистов-радиологов.
