Pull to refresh

Comments 17

Есть добрые люди, которые ткнут меня (а мне кажется и все собщество пользователей-нубов) в примеры использования тензоров (если я правильно понимаю, это когда вместо работы со всем массивом векторов, создается на его основе на порядок меньшее множество, в виде дерева, и обучение идет уже с этими весами, а затем с помощью какой то магии получаются обратно веса нейронной сети?), как я понимаю поддержку тензоров в открытых проектах имеет только tensorflow и theano?

У deeplearning4j есть неплохие объяснения про тензоры для не-математиков: раз и два.

Я не понял что вы имеете в виду.

Tensorflow и Theano работают в символьном режиме, когда сначала создаётся граф вычислений, а потом он «запускается» и происходит работа нейросети.

Есть и другие подходы.
Иногда процесс вычислений задаётся линейно, как например сделано в dl4j.

DyNet создаёт граф вычислений на каждый вызов и исполняет его.
Chainer производит «ход вперёд» без создания графа, однако запоминает историю для последующего вычисления градиентов и оптимизации.

Веса модели есть везде и их количество будет одинаковым для сети одинаковой конфигурации вне зависимости от фреймворка. Иначе сети не были бы одинаковой конфигурации.
Расскажите пожалуйста почему Inception до сих пор не на свалке истории, когда есть DenseNet? Какие у него плюсы? Вроде у DenseNet и качество выше и весов меньше. Из недостатков разве что ResNet MS Research опубликовали.

Ну и сравнение по GitHub popularity как-то не самый сильный аргумент в свете того, что MS явно заявляет, что их CNTK быстрее: https://github.com/Microsoft/CNTK
К тому же они мерятся звездочками с Keras. Keras мало похож на конкурента. Зачем он вообще в этом сравнении?

MS этот график составлял в прошлом году, когда tf ещё работал на cudnn4, сейчас tf на 5 и скорость стала значительно выше

Ок, выше, но где же полноценное сравнение актуальной версии типа как сделали MS:
> https://arxiv.org/pdf/1608.07249.pdf

И в чем смысл сравнивать количество звездочек с Keras и в 2017 называть Inception революционной архитектурой?
Этож Ализар. Что вы от него хотите?:)
Тут же каждая вторая фраза веет тем что человеку лень разобраться было.

Пардон, про DenseNet интересно. А сколько она по сравнению с ResNet будет весить после развертывания в памяти?
Веса и объем памяти не обязательно одинаковые понятия.

Да и про число флопсов у DenseNet было бы интересно узнать.

Получается Google будет развивать свою библиотеку только для python и Go, ну и во вторую очередь для Java и C++?
Будет что-то ли что-то для php и javascript?
Создавать и обучать сетки в Tensorflow сейчас все равно можно практически только в питоне.
Обученные же легко запускаются в виде микросервисов с помощью https://github.com/tensorflow/serving. Нужно только чтобы был grpc.

Интегрировать tensorflow в своё серверное приложение библиотекой я бы не стал. Оно весьма тяжёлое. Заморачиваться с тем, что делается для мобильных приложений для сервера имхо оверкилл, когда есть решение на микросервисах.
вот ждешь нормального поста про тензорфлоу 1.0, а пишет ализар, :but_why:
UFO just landed and posted this here
Если я верно понимаю DeepCL это оно, с поддержкой OpenCL и т.п.
Особенно это меня интересовало, так как поддержка видеокарт в библиотеках deep learning обычно nvidia или cpu, а amd откладывают на неопределенный срок.

Почему геноцид? Порог вхождения с питономниже чем с плюсами, вот и ответ. Сначала же надо разработчиков привлечь, как можно больше, а это в первую очередь не девелоперы софта( особенно на полюсах) а исследователи, математики, для которых программирование это инструмент, а не специализация.

Накатил CPU-only версию… при старте выдает: "на вашем пк есть SSE3/SSE4.1/AVX/etc. но чет меня забыли с ними собрать, а так я бы мог и пошустрее ворочаться на CPU"… вот это я понимаю, магия Google )

В общем, если ручками собрать tensorflow из исходников, руками выставив все флаги для CPU-оптимизаций, то 1.0 начинает работать драматично быстрее предыдущих версий.

Использование нейросети в Gmail для составления автоматического краткого ответа на письмо с анализом контекста (текста входящего письма, на которое нужно составить ответ)

Посоветуйте литературу, хочу узнать поподробнее как делать такие штуки
Sign up to leave a comment.

Articles

Change theme settings