В данной статье я хочу рассказать об основных сложностях автоматизации машинного обучения, ее природе и преимуществах, а также рассмотреть и более гибкий подход, позволяющий уйти от части недостатков.

При изучении Data Science, я решил составить для себя конспект по основным приемам, используемым в анализе данных. В нем отражены названия методов, кратко описана суть и приведен код на Python для быстрого применения. Готовил конспект для себя, но подумал, что кому-то это также может быть полезно, например, перед собеседованием, в соревновании или при запуске нового проекта. Рассчитано на аудиторию, которая в целом знакома со всеми этими методами, но имеет необходимость освежить их в памяти. Статья под катом.

Вслед за январским постом встречайте второй выпуск дайджеста. Здесь вас ждёт список англоязычных материалов за февраль, которые написаны без лишнего академизма. Публикации содержат примеры кода и ссылки на непустые репозитории. Упомянутые технологии лежат в открытом доступе и многие из них не требуют сверхмощного железа для тестирования.

Стартап из Беркли Covariant вышел из тени и считает, что его роботы готовы к выходу в мир

Летом 2018 года небольшой стартап из Беркли, разрабатывающий роботов, столкнулся с трудным заданием. Компания Knapp, крупный поставщик технологий складской логистики, искала новую роботизированную руку, управляемую ИИ, способную захватывать как можно больше различных типов предметов. Каждую неделю, восемь недель подряд, компания отправляла стартапу список из всё более сложных предметов – непрозрачных коробок, прозрачных коробок, упаковок лекарств, носков – покрывавший диапазон продукции клиентов компании. Стартап покупал подобные предметы, а потом через неделю отправлял видео, на котором их роборука перекладывала предметы из одной серой корзины в другую.

К концу задания руководство Knapp было сражено. Они уже лет шесть-семь безуспешно давали подобные задания многим стартапам, и ожидали провала и на этот раз. Но вместо этого в каждом видео роборука стартапа перекладывала каждый предмет с идеальной точностью и подходящей скоростью.

В конце каждого года сетевое издание eWEEK публикует мнения лидеров идей в IT относительно их ожиданий от наступающего года: о новых продуктах, инновационных сервисах, тенденциях и т.д. Предлагаем вашему вниманию перевод материала, посвящённого уже наступившему 2020-му. И да, мы помним, что уже март, но эти прогнозы ещё актуальны.

18 ноября Telegram запустил соревнование по кластеризации данных: Data Clustering Contest. Нужно было за две недели сделать свой новостной агрегатор. Ограничения, которые были установлены в этом соревновании отпугнули кучу людей, но не меня и моих коллег. Я расскажу от том, каким путём мы прошли, какие выборы сделали и с какими сложностями столкнулись. Решение, которое мы заслали в соревнование обрабатывало 1000 документов за 3,5 секунды, занимало 150 Мб, заняло 6 место на публичном голосовании и 3 место в итоговых результатах. Мы допустили много ошибок, из-за которых не заняли место повыше, большинство из них сейчас исправлены. Весь код и все модели можно найти в репозитории. Все скрипты для обучения моделек перенесены на Colab.

Топ из публичного голосования

Я все еще не до конца понял, как так получилось, но в прошлом году я слово за слово подписался прочитать курс по Deep Learning и вот, на удивление, прочитал. Обещал — выкладываю!

Курс не претендует на полноту, скорее это способ поиграться руками с основными областями, где deep learning устоялся как практический инструмент, и получить достаточную базу, чтобы свободно читать и понимать современные статьи.

Материалы курса были опробованы на студентах кафедры АФТИ Новосибирского Государственного Университета, поэтому есть шанс, что по ним действительно можно чему-то научиться.

После 18-го февраля начнется открытый и бесплатный курс "Deep Learning на пальцах".

Курс предназначен для того, чтобы разобраться с современным deep learning с нуля, и не требует знаний ни нейросетей, ни machine learning вообще. Лекции стримами на Youtube, задания на Питоне, обсуждения и помощь в лучших русскоязычных DS-сообществах — ODS.ai и ClosedCircles.

После него вы не станете экспертом, но поймете про что все это, сможете применять DL на практике и будете способны разбираться дальше сами. Ну, в лучшем случае.

Одновременно и в том же объеме курс будет читаться для магистрантов Новосибирского Государственного Университета, а также студентов CS центра Новосибирска.

Выглядеть объяснение на пальцах будет примерно так:

Главная ссылка — dlcourse.ai. Подробности ниже.

В прошлых статьях уже писали о том, как у нас устроены технологии распознавания текста:


Примерно так же до 2018 года было устроено распознавание японских и китайских символов: в первую очередь с использованием растровых и признаковых классификаторов. Но с распознаванием иероглифов есть свои трудности:

1. Огромное количество классов, которое нужно различать.
2. Более сложное устройство символа в целом.

Сказать однозначно, сколько символов насчитывает китайская письменность, так же сложно, как точно посчитать, сколько слов в русском языке. Но наиболее часто в китайской письменности используются ~10 000 символов. Ими мы и ограничили число классов, используемых при распознавании.

Обе описанные выше проблемы также приводят и к тому, что для достижения высокого качества приходится использовать большое количество признаков и сами эти признаки вычисляются на изображениях символов дольше.

Чтобы эти проблемы не приводили к сильнейшим замедлениям во всей системе распознавания, приходилось использовать множество эвристик, в первую очередь направленных на то, чтобы быстро отсечь значительное количество иероглифов, на которые эта картинка точно не похожа. Это всё равно не до конца помогало, а нам хотелось вывести наши технологии на качественно новый уровень.

Мы стали исследовать применимость свёрточных нейронных сетей, чтобы поднять как качество, так и скорость распознавания иероглифов. Хотелось заменить весь блок распознавания отдельного символа для этих языков с помощью нейронных сетей. В этой статье мы расскажем, как нам в итоге это удалось.

Для любого человека язык жестов сложен для изучения. Дело в том, что используются не только жесты, но и мимика, а также артикуляция, плюс «язык тела». Значение передаваемой информации зависит от всех этих факторов. Существуют программы для изучения языка жестов, но многие из них не слишком удачны, плюс ценник не всегда гуманный. В ближайшее время все может измениться — сейчас разрабатываются методы изучения языка жестов при помощи ИИ.

Речь идет об автоматизации процесса обучения, который полностью интуитивен. Здесь можно. ознакомиться с возможностями инструмента анализа языка жестов (шведско-немецкая группа) с предоставлением всех необходимых деталей. Тем не менее, разработчики надеются на создание ИИ-платформ, которые смогут помочь ускорить процесс обучения в разы.

Привет, Хабр!

В этой небольшой заметке расскажу о двух подводных камнях, с которыми как легко столкнуться, так и легко о них разбиться.

Речь пойдет о создании тривиальной нейронной сети на Keras, с помощью которой будем предсказывать среднее арифметическое двух чисел.

Казалось бы, что может быть проще. И действительно, ничего сложного, но есть нюансы.

Кому тема интересна, добро пожаловать под кат, здесь не будет долгих занудных описаний, просто короткий код и комментарии к нему.

Введение

Статья предназначена для тех, кто когда-либо интересовался вопросом о том, что же происходит внутри искусственной нейронной сети (artificial neural network) — ИНС. Сейчас разработать собственную ИНС может практически каждый, используя уже готовые библиотеки, имеющиеся в большинстве языков программирования. В рассматриваемой статье, я постараюсь показать, как именно выглядит объект (Паттерн), проходящий через слои ИНС, разработанной и скомпилированной при помощи библиотеки глубокого обучения Tensorflow с надстройкой Keras.

Используемое ПО

Необходимы следующие компоненты (версии я указал для своего случая):

• tensorflow 1.10.0
• keras 2.2.4
• matplotlib 2.2.0
• modul-os
• numpy1.14.3

Также есть возможность нарисовать архитектуру сети, но для этого необходимо установить средства визуализации, в моем случае было использовано keras, и в методе

PLOT_PATTERN_PROCCESS(...)

установить

В рамках предыдущей статьи мы рассказали про такую проблему машинного обучения, как Adversarial примеры и некоторые виды атак, которые позволяют их генерировать. В данной статье речь пойдет об алгоритмах защиты от такого рода эффекта и рекомендациях по тестированию моделей.

"[ Нейронная сеть нуждается] в 300 миллионах изображений кошек, чтобы научиться понимать, что есть кошка, корова или собака. Но интеллект не основывается на больших данных (Big data). Наоборот, он основан на «маленьких данных». Если вы можете смотреть на кошку, извлекать абстрактные принципы «кошки» так, как это делают дети, и далее уже всегда знать, что такое кошка – это и есть интеллект"

Паскаль Кауфманн, швейцарский учёный, нейролог, основатель компании «Стармаинд».

В самом деле, почему дети обучаются распознавать кошек быстрее и проще, чем это делают нейронные сети? Другими словами, какова принципиальная схема человеческого механизма распознавания образов?

Давайте заглянем в этот процесс поглубже!

Когда-то Стив Джобс и Стив Возняк закрылись в гараже и выкатили первый Mac. Было бы классно, если всегда можно было закрыть программистов в гараже и получить MVP с большим потенциалом. Однако, если добавить к программистам пару людей, готовых оценивать пользовательский опыт и искать что-то инновационное, то шансы на успех растут.

У нашей команды из 5 человек появилась определённая идея, ради которой мы решили слегка захватить мир похакатонить.

Как новое поколение захватов с улучшенным трёхмерным восприятием и тактильными ощущениями обучается манипулировать объектами из большого спектра

Захват, созданный компанией Robotic Materials Inc., основанной автором статьи, выполняет задачу по манипуляции на соревновании по промышленной сборке на Всемирном саммите по робототехнике в Токио

Хотя роботы умеют готовить завтрак с 1961 года, манипуляция общего назначения (МОН) в реальном мире, возможно, является проблемой более сложной, чем автоматическое вождение автомобиля. Однако довольно сложно описать точно, почему это так. Если внимательно посмотреть на видео от 1961 года, видно, что двухпальцевый параллельный захват годится для выполнения довольно большого количества задач, и только отсутствие ощущений и встроенного в робота здравого смысла мешает ему выполнять подобные задачи в реальном мире. Недавняя статья в журнале Science напомнила нам о том, что даже такая богатая соприкосновениями задача, как сборка мебели, находится в пределах возможностей существующих промышленных роботов. Реальная проблема в огромном количестве возможных движений и манипуляций, и движения, которые требуются для приготовления бутерброда с маслом, не обязательно совпадают с движениями, необходимыми для сборки стула.

«Будущее уже наступило, просто оно неравномерно распределено». Вот и в сферу ритейла вовсю проникают технологии будущего, поскольку успех в бизнесе уже сейчас определяется показателями внедрения множества ИТ-решений.

В ритейле два пути: стать технологичным или умереть. В первом случае есть из чего выбрать – на российском рынке уже доступны технологии для отслеживания наличия товара на полках, для распознавания клиентов, а также для предотвращения очередей.

Видеоаналитика становится ключевым конкурентным преимуществом – это естественный эволюционный ответ на жесткую конкуренцию и рост запросов потребителей к уровню обслуживания.

Платформы, которые помогают повышать продажи на десятки процентов, ограничены только одной существенной проблемой – стоимость решений непомерно высока для малого и среднего бизнеса.

Доступная видеоаналитика – вот та свободная ниша, в которой Ivideon «распределит будущее равномерно».

DeepMind создает поистине удивительные алгоритмы, которые способны на то, чего не могли достичь машинные системы ранее. В частности, нейросеть AlphaGo смогла обыграть в го лучших игроков мира. По мнению специалистов, сейчас возможности системы возросли настолько, что нет даже смысла пытаться ее победить — результат предопределен.

Тем не менее, компания не останавливается на достигнутом, а продолжает работу. Благодаря исследованиям ее сотрудников на свет появилась улучшенная версия AlphaGo, которая получила название AlphaZero. Как и указано в заголовке, система сама смогла научиться играть сразу в три логических игры — шахматы, сеги и го.

Принцип свободной энергии Карла Фристона может быть наиболее всеобъемлющей идеей со времён теории естественного отбора Чарльза Дарвина. Но чтобы понять его, необходимо заглянуть в разум самого Фристона.



Когда король Англии Георг III к концу правления начал проявлять признаки острого маниакального поведения, слухи о безумии короля быстро распространились в народе. В одной легенде говорится, что Георг попытался пожать руку дереву, считая, что видит перед собой прусского короля. В другой описывалось, как его тайно перевезли в здание на Квин-сквер лондонского района Блумсбери, чтобы там лечить его вместе с его подданными. Также утверждается, что его супруга, королева Шарлотта Мекленбург-Стрелицкая, арендовала целый подвал в местном пабе, чтобы хранить там припасы для кормления короля, пока он находился под опекой врачей.

Прошлого декабря прошла волна новостей о невероятной силы нового шахматного движка использующего искусственный интеллект AlphaZero компнании DeepMind. Сегодня они выпустили потрясающие результаты обновленной версии этого движка.

Результаты снова не оставляют никаких сомнений в том, что AlphaZero является одним из сильнейших шахматных движков в мире.

Обновленный AlphaZero разгромил Stockfish 8 в новом матче с 1000 партий с результатом: 155 побед, 6 поражений, 839 ничьих.