Comments 7
Спасибо, хороший общий обзор, и за запись видео заранее спасибо!
Я в универе читал какую-то бородатую небольшую книжку по ИИ и там был пример со стружкой в масле, вроде у самолётов. Мол, натренировали модель на разных кейсах и система научилась по косвенным признакам детектировать такую штуку как стружка в масле и делала это правильно, но юзеры не могли понять как.
Умеют ли сегодняшние специалисты понимать, почему сетка делает те или иные выводы?
Умеют ли сегодняшние специалисты понимать, почему сетка делает те или иные выводы?
Любая модель машинного обучения прогнозирует целевую переменную только по тем признакам, которые подаются на вход. Если эти признаки косвенно (например, сами являются такими же следствиями какого-то физического процесса, как и целевая переменная) связаны с этой переменной, она обучится этому.
При этом, чем сложнее модель, тем обычно труднее понять, какие именно признаки оказывают наибольшее воздействие на прогноз – то есть, в простейшей линейной модели вы можете посмотреть наиболее важный признак сразу же по коэффициенту, а вот в нейросетях, которые представляют собой довольно сложную структуру, это уже искусство.
К тому же все осложняется тем, что зачастую важен не просто признак в отдельности, а его сочетание с другими признаками. Но, вообще, сейчас есть целое направление исследований, которое позволяет строить более простые модели поверх сложных именно для их интерпретации. Есть подходы, который позволяют в каждый момент времени говорить, за счет изменения каких признаков произошло изменение прогноза целевой величины. Например, для бустинговых моделей есть LIME. В сверточных нейросетях часто анализируют, что именно повлияло на результат, вытаскивая карты признаков с последних слоев сети и смотрят, какие из них дали наибольший отклик на конкретном сэмпле.
При этом, чем сложнее модель, тем обычно труднее понять, какие именно признаки оказывают наибольшее воздействие на прогноз – то есть, в простейшей линейной модели вы можете посмотреть наиболее важный признак сразу же по коэффициенту, а вот в нейросетях, которые представляют собой довольно сложную структуру, это уже искусство.
К тому же все осложняется тем, что зачастую важен не просто признак в отдельности, а его сочетание с другими признаками. Но, вообще, сейчас есть целое направление исследований, которое позволяет строить более простые модели поверх сложных именно для их интерпретации. Есть подходы, который позволяют в каждый момент времени говорить, за счет изменения каких признаков произошло изменение прогноза целевой величины. Например, для бустинговых моделей есть LIME. В сверточных нейросетях часто анализируют, что именно повлияло на результат, вытаскивая карты признаков с последних слоев сети и смотрят, какие из них дали наибольший отклик на конкретном сэмпле.
Я бы еще добавила, что нейросети — это фактически и есть Глубокое обучение. Словосочетание пугает многих.
Если вы покупаете книгу по Машинному обучению там чаще всего будет глава про нейросети, а все остальное и будет «другими методами». Если по Глубокому — то только нейросети.
Если вы покупаете книгу по Машинному обучению там чаще всего будет глава про нейросети, а все остальное и будет «другими методами». Если по Глубокому — то только нейросети.
Спасибо за обзор, стало намного понятнее чем то, что нам пытались объяснять в вузе. Вопрос: может ли кто-то посоветовать годноту по ML? Тема интересна но в век переизбытка информации сложно найти что-то дельное
Пожалуйста. Рады помочь. Можете подписаться на наш блог, мы регулярно выкладываем полезные материалы по ML. Самая годная инфа, как правило, поступает от практиков. Литературу посоветуем.
Если с азов, на пальцах и чтоб понять, как оно работает внутри, и чтоб не только нейросети то курс Эндрю Ына на Coursera.
Если именно нейросети и уже немного разбираясь, как оно работает, но хочется больше про разные задачи, которые ими можно решать, то книга Ф. Шолле "Глубокое обучение на Python".
Sign up to leave a comment.
AI для людей: простыми словами о технологиях