Quick Draw Doodle Recognition: как подружить R, C++ и нейросетки

[kxx]

Все же не хватает в R хорошего нативного deep learning фреймворка: reticulate + keras больше напоминают костыль.

[ogurtsov]

Не хватает, но в R-keras критических ограничений по сравнению с python-keras в общем-то и нет. Необходимость самому писать колбэки и реализовывать современные архитектуры за костыли не считаю, поскольку на питоне их пишут такие же юзеры точно таким же образом.
То есть не хватает именно хорошего фреймворка — порта pytorch, или даже сразу fastai.

[Alexey_mosc]

А чем pytorch лучше? Я где-то видел статистику использования фреймворков, он там второй после кераса, вроде бы.

[ogurtsov]

Лаконичнее и монолитнее, что ли. В keras все нестандартные штуки, начиная с кастомных функций потерь, делаются посредством вызова функций бекенда — как правило, это tensorflow. В pytorch все прозрачнее. А fastai добавляет сверху набор эвристик и хорошо подобранные значения параметров по умолчанию, по крайней мере для наиболее типичных задач.

[Alexey_mosc]

Понятно. Под keras если даже я не могу на 100% реализовать что-то кастомное, я ищу питоновскую реализацию, а код транслируется 1 к 1 с небольшими синтаксическими правками. А вообще много примеров на rstudio. И надо немного питоновские структуры данных знать, хотя бы листы. Работа по портированию keras а большая… mxnet просто убивал отсутствием документации, многих стандартные вещи приходилось просить у разрабов на гитхабе. Считаю, хорошо, что есть то, что есть.

[kxx]

Мне, например, так и не удалось реализовать Attention layer на R + R6: появлялась абсолютно неинформативная ошибка, связанная с особенностями передачи объектов в python, и по которой я так ничего толкового и не нашел. Так что «порог вхождения» по сравнению с python будет повыше.

[ogurtsov]

Есть реализация аттеншена в blogs.rstudio.com/tensorflow/posts/2018-07-30-attention-layer