Pull to refresh

Comments 11

Это окончание перевода книги-учебника по нейросетям и глубокому обучению.
Меня попросили оформить книгу в виде PDF. Буду признателен, если кто-нибудь сделает это, или хотя бы объяснит мне, как это сделать так, чтобы в PDF попали, в том числе, все формулы из текста. Спасибо.

Если формулы уже в LaTeX — то через RST/Sphinx (стандарт документации в Python) делается и PDF и Epub

Все зависит от материала, с которым вы работаете и степени проработки PDF, которую требуется получить. Экспортировать в PDF текстовые редакторы могут давно. Если формулы существуют только в виде изображений, варианта будет два, вставить так или перенабрать. Набирать мне больше нравилось в OpenOffice так как там для формул используется язык разметки, который легко выучить. Но можно работать и мышью. Только пользоваться языком разметки намного производительнее. В MS Office за счет чего-то формулы раньше получались немного красивее, но возможно сейчас разницы нет и там безальтернативная мышь.
Если базовый вариант из редактора не подходит, то процесс подготовки PDF уже ничем не будет отличаться от подготовки печатного издания и придется использовать программы для вёрстки. QuarkXPress, Scribus, MS Publisher и т.д.
Программы для распознавания текстов раньше с таблицами и формулами справлялись крайне плохо. Не знаю, произошли ли сейчас какие-либо прорывы в этой области. Я бы на это не рассчитывал. Так или иначе, без ручной работы не обойтись.
Я сразу не посмотрел ссылку. На сколько я понял, перевод делается на основе публикации на сайте. Формулы там сделаны при помощи MathML. Так как они интерактивные, можно извлекать или исходник в виде MathML или TeX. А дальше можно попытаться импортировать его в редактор формул. Уверяют, что в MS Word есть поддержка MathML. Но если что-то не сработает, можно, тоже к сожалению полуручным способом, конвертировать при помощи разных сервисов TeX -> SVG -> в текстовый редактор. Не придется перенабирать и получится сохранить векторное представление. Не пострадает качество.
Я, по крайней мере, не знаю простого способа чтобы со страницы эти формулы скопипастить. Они отображаются при помощи Javascript и это похоже работает только в браузерах. Все народные способы, вроде создать pdf Оперой, сохранить html целиком, открыть в текстовом редакторе что-нибудь да ломают.

pandoc формулы (LaTeX разметку) из оригинальной книги точно вытягивает.
Дальше наду будет руками полировать.

Интеллект — процесс минимизации разницы(ошибки) между желаемым и действительным (ожиданием и реальностью) с помощью сетевой аппроксимации. Чем глубже сеть и меньше относительная ошибка ей генерируемая, тем интеллектуальнее субъект. Иными словами интеллект — просто интерактивная модель мира(кривое зеркало). ИМХО.
Вы описали аутиста. Сидит, бросает шарик на пол. Ошибка минимальна, интеллекта не очень много.

Есть мнение, что мозг человека куда более универсален нежели мозг хорька (который едва родившись уже бежит охотиться. утрирую немного, но вцелом как то так). Но скорее всего, недостаточно универсален и заточен под среду. В частности, запрет на инцест это довольно старая программа, даже не от приматов, куда более ранняя. Речевой центр сходен у людей, но есть описание, когда близнецы много общавшиеся друг с другом, составляли свой, непонятный никому, язык. Кстати, люди выращенные животными (маугли) не развили речевой центр до языка вообще, только базовая звуковая сигнализация животного.

Пока никто не провел два важных эксперимента, человек воспитывающийся в иной по базовым принципам среде и человеческий мозг воспитывающийся в нечеловеческом теле. Если когда нибудь они будут проведены или смоделированы, можно будет оценить глубину универсальности мозга и влияние среды на его развитие.
Вместо этого я хочу изучить другой вопрос: существует ли простой набор принципов, которые можно использовать для объяснения такого явления, как интеллект?

Я одно время интересовался искусственным интеллектом, думал о том, по каким принципам может работать естественный. Один из принципов, который кажется мне довольно вероятным, следующий.

Информация пробивает себе дорогу. Это значит, что если в некоторой области некоторого слоя нейронов есть некоторый паттерн с высоким уровнем сигнала, в следующем слое должен быть нейрон (или группа нейронов), который на него реагирует. Если все нейроны реагируют на другие паттерны, и соответственно дают низкий уровень сигнала, создается новый нейрон, который обучается распознавать этот паттерн. Граница проходит около 1/2. Это нечто вроде теоремы Котельникова для информации. Таким образом непрерывная аналоговая информация раскладывается по дискретным информационным элементам.

Возможно спайки это биологический механизм такого распространения. Постоянные электрические импульсы как бы требуют, чтобы их кто-то принимал.

У меня нет доказательств, это просто эмпирическое наблюдение, результат размышлений о том, как оно может быть устроено, чтобы работало так, как оно работает.

Для примера можно привести ориентационные колонки (на изображении ссылка на статью). Когда одна группа при обучении не распознает во входном паттерне свой наклон (сигнал меньше половины от стабильного), его учится распознавать соседняя с ней группа. Поэтому ориентация меняется плавно, а не вразброс.



А это первый слой, который получился в результате обучения нейросети (Figure 2 в середине статьи). Статья не моя конечно, приведена просто чтобы отметить сходство в результатах.


Если все нейроны реагируют на другие паттерны, и соответственно дают низкий уровень сигнала, создается новый нейрон, который обучается распознавать этот паттерн.
Тоже приходила подобная идея (и частично её реализовал), а недавно выяснил, что ей лет 40 уже, называется: «нейроподобные растущие сети» (Ященко, Виталий Александрович). К сожалению, за все эти десятилетия там никакого развития. В общем виде эта идея в разных её представлениях существует у Анохина (коги) и Редозубова (кластеры).

Мне очень понравилось начало… ибо я сам задавался тем же вопросом, и со временем таки нашел для себя ответ на него… Ждал что вот вот будет озвучен тот красивый и универсальный метод, позволяющий различать запахи, слова, образы…
Но нет… опять нейронные сети и все эти танцы с бубном и обучениями…
Нууу кто первый?.. Это на самом деле очень просто… и очень красиво..

Красивой философии много, а реальных ответов нет ни у кого. И вероятнее всего, никто не стал бы ею вот так свободно делиться.
Sign up to leave a comment.

Articles