Блог компании Open Data Science
Python
Алгоритмы
Машинное обучение
Обработка изображений
Комментарии 12
+1
А было бы интересно узнать, насколько каждый конкретный прием улучшил модель, и насколько финальная сборка лучше чем самая лучшая простая модель?
0
Примерно так:
лучшая single модель без TTA — 0.9294
финальный ансамбль — 0.93378
топ1 — 0.93448

Про каждый прием не скажу, увы
0
Получается, что в большинстве случаев в индустрии всеми оптимизациями из статьи заниматься даже вредно, и это все просто спорт? Так как усложненный pipeline инференца и ретренировки из описания поддерживать дороже, чем профит от него если модель ненагруженная, а если нагруженная, то инференс очень дорогой.
0
Вовсе нет. Статья как раз про то, как получить сильную одну модель, которая сама по себе показывает выдающийся сингл перфоманс. Если отладить процесс обучения, то поддерживать его не надо. Snapshot Ensembling можно заменить на усреднение весов.
Единственное, что не применимо для нагруженного прода в чистом виде — ТТА. Но опять же есть ситуации, когда нужно получить максимальное качество, а будет считать 1 секунду или 10 — не важно (медицина, оффлайн обработка изображений).
+2
Вот, кстати, python notebook с результатом 0,9327 (правда это данные с самой выборки, но насколько я помню у него практически такой же результат был).
С TTA, одна модель, resnet34, обученная за 16 эпох от Джереми Ховарда (у него хороший курс для начинающих fast.ai и одноименная библиотека)
github.com/fastai/fastai/blob/master/courses/dl1/planet_cv.ipynb
0
Да, возможно, я скорее про то, как немного усилий требуется с его библиотекой, чтобы вполне приличный результат получить. А дальше, да, конечно, каждая тысячная (вероятно) дается с большим трудом
0
В соревновании по-моему пробовали строить мозаику из изображений. Вы использовали нарезку из мозаики?
0
Да, пробовали использовать, но конкретно у нас это не особо давало профит. У других команд лучше получалось.
0
с территорий стран Brazil, Peru, Uruguay, Colombia, Venezuela, Guyana, Bolivia, and Ecuador
Недоперевели?
Только полноправные пользователи могут оставлять комментарии. , пожалуйста.