Numenta NuPIC: первые шаги

Да, они открылись этим летом, сейчас понемногу набирают сообщество. До этого, где-то в 2011-2012, что ли, Numenta предоставляла закрытый доступ к предыдущей версии платформы, но с тех пор все переписали.

Сети будет трудновато понять, что это.

При использовании кодов грея потеряется избыточность входных данных. Связь между выходом энкодера и входами клеток вероятностная (как и в реальном мозге), поэтому избыточность важна.

На мой взгляд, странностей тут нет, хотя я тоже не ахти какой специалист в нейробиологии и нейронных сетях. Алгоритмы и структура HTM создавалась исходя из строения неокортекса и его работы. Это в каждом выступлении Хокинса чуть ли не центральный пункт — построить искусственный интеллект, схожий с человеческим можно только следуя от биологии и никак иначе. Само собой, без компромиссов все равно не обойтись — в том же NuPIC отказались от иерархичности сети из-за проблем с производительностью. Но тем не менее, HTM гораздо ближе к биологии чем те же NN, отсюда и терминологический перекос.

Сравнение с традиционными моделями, я думаю, вопрос времени — информации по HTM и NuPIC просто катастрофически мало; из документации, по сути, только исходный код; сообщество тоже очень небольшое. Сами нументовцы, похоже, свято верят в непогрешимость Джеффа, и, насколько мне известно, сравнений не было. Буквально позавчера в рассылке было сообщениечто кто-то тестировал HTM на данных энергетиков и вышло вроде неплохо. Но, это, конечно, все не то.

Как обычно, время покажет. Но из забавного — совсем недавно в DARPA началась какая-то движуха по созданию нейропроцессоров, в требованиях к архитектуре которых лежит близость к биологическим процессам: numenta.org/blog/2013/08/13/brains-and-machine-intelligence-a-long-time-coming.html, www.networkworld.com/community/blog/darpa-wants-computers-fuse-higher-human-brain-function, lists.numenta.org/pipermail/nupic_lists.numenta.org/2013-September/001150.html

Очень сложно объяснить в двух словах)
Рекомендую вам и не только вам, а вообще всем, даже людям далеким от темы, даже гуманитариям (и даже верующим/религиозным людям))), ознакомиться с книгой Джеффа Хокинса «Об интеллекте», даже просто ради того, чтобы лучше понимать самого себя, почему вы (ваш мозг) на то или иное событие реагируете именно так, а не иначе, почему мы удивляемся, как мы воспринимаем пространство и время и т.д., тогда множество вопросов отпадут сами собой, это очень интересное и нескучное чтиво, написано простым и доступным языком, практически все объясняется на пальцах и без трехэтажных формул. Оттуда же вы узнаете, что Джефф занимается исследованиями мозга и интеллекта более 30 лет, уже, наверное, около сорока, и рассказывает о зарождении эры исследований и построения ИИ, о двух ее основных направлениях: о главном, мэйнстриме, основанном на создании методов и алгоритмов, повторяющих и имитирующих поведение натурального интеллекта, движимое такими людьми, как Джон Маккарти, и побочном, андеграунде, которое всячески высмеивалось и не воспринималось всерьез, основанном на изучении и понимании принципов работы мозга, натурального интеллекта, памяти с последующими математическими построениями и алгоритмическими реализациями… В ней рассказывается почему он ушел из института (MIT, кажется), где насаждалась мэйнстримовая модель, зачем он создал и зачем продал компанию Palm Computing (производившую наладонники с распознаванием рукописного ввода), о том, что основал свой институт по исследованиям мозга и интеллекта, куда привлек множество специалистов из самых различных сфер — математиков, нейрофизиологов, нейробиологов и т.д. Так же он рассказывает и объясняет какие невероятные возможности принесет ИИ человечеству, что это будет незаменимый инструмент… Эта книга, практически, содержит основы основ для понимания всех остальных работ проводимых в Numetna :)
После этой книги почитайте их whitepapers, которые станут понятней раз в сто)

Оно изначально на питоне написано, C++ ядро еще в процессе разработки.

Так и делают! Прогнозирование котировок акций, прогнозирование погоды, траффика и т.д. И даже авторы приводят это как один из примеров областей применения. Конечно, с полпинка не получится, нужно подходить основательно, со знанием дела, но эта модель вполне подходит для работы с подобного рода данными и задачами…