Как стать автором
Обновить
66
-0.5
Андрей Белкин @aigame

Пользователь

Отправить сообщение

Спасибо, ознакомлюсь

Спасибо! Об обучении расскажу в следующих статьях, постараюсь развивать проект

В описании влияния дофамина на мозг очень часто допускается неточность, о том, что дофамин это только обещание награды. Сам Шульц таких выводов никогда не делал. Дофамин и награда и предвкушение награды. Неожиданная награда - много дофамина. Есть предпосылки награды - порция дофамин поменьше. Были предпосылки, но награду не получили - резкое снижение дофамина.

Пруф: https://journals.physiology.org/doi/full/10.1152/jn.1998.80.1.1

Сам дофамин ощущение эйфории не вызывает (скорее всего), для этого есть различные опиоиды и много других процессов и веществ, на которые дофамин всё-таки влияет. Мышка (и не только мышка, были и эксперименты с людьми) нажимая на педаль испытывала настоящий кайф, а не типа: "вот-вот еще подержу и кайф начнется"))

Любое моделирование требует упрощения и внесение неких условностей в суть моделируемого явления.  И действительно, находясь на разных уровнях абстрактного представления всегда можно будет видеть несовпадения. Я тоже не программист и математик, но это не должно мешать.

Один аксон – не значит один выход. Не все искусственные нейронные сети организованны по принципу «каждый с каждым». Выброс нейромедиатора – именно количественная мера. Потенциал действия определяется формулой Ходжкина — Хаксли, его максимум постоянен. «Химические приколы происходящие в синапсе» - обычно искусственные нейронные сети затрагивают более высокий абстрактный уровень и это в моделях не отражено в явном виде, к примеру, глия играет большую роль в синаптической передаче, но  эта роль вспомогательная, зачем в мат.модели учитывать эту сущность(?).

Мозг – не машина, нейрон не хранит чисел. – число лишь мера, вещество не хранит значение её  массы, к примеру, мера размера септического шипика может быть выражена в числе синаптического веса.  

При уменьшении слоя Кохонена до 16*16 (такая версия была) уменьшается итоговое качество на 10-20%. Это связанно с тем, что нейроны этого слоя как бы специализируются на определённых эталонах начертания цифры, чем меньше таких эталонов тем меньше шансов найти подходящий при сравнении со входом. Соответственно чем больше больше размер слоя Кохонена тем выше будет итоговое качество сети, но при этом будет требоваться больше примеров для обучения.

Самый сложный эксперимент по оценки динамики поведенческой реакции выявил лишь четыре класса реакции(!).

Цитата из статьи из предложенной вами статьи:
dors induced responses with different temporal dynamics, which we divide into four classes (Fig. 4 A). Most odorants (55%) elicited a response similar to that of ethyl acetate (Fig. 1 C) where activity peaked in the first 30 sec after odor onset and then plateaued to a level above the pre-odor activity. For 9% of the odors, activity peaked in the first 30 sec but then returned to baseline, whereas for 27% of the odors, including carbon dioxide, activity remained near the peak throughout odor exposure. Finally, another 9% of the odors induced a constant increase in activity throughout the experiment. All four odors in this last class are aldehydes, but not all aldehydes elicited this constantly increasing activity (SI Table 1).


Я не писал что муха различает лишь 20 запахов, она выделяет из всех запахов только 4 класса (возможно немного больше), я заключил, что потенциал клеток Кеньона лишь 20 классов. В статье они применяли только 70 запахов, и максимальное число реакций 4, они могли применить и миллион запахов, но реакций больше не получится. Не вижу здесь противоречий.
Ошибся, тестовую выборку человек распознает с 99,8%
Человек распознаёт MNIST с вероятностью 98-97,5%, так как в примерах имеется множество очень коряво написанных цифр. Конечно, превышение этого значения для себя считаю нежелательным. То, что нейронные сети дают лучший результат чем человек говорит о переобучении сети, т.е. запоминании каких-то частных случаев, большое обилие примеров делает это возможным.
Код планирую выложить позже, когда закончу проект. До котиков еще не дошло.
Так, нет. Нет никаких переборов, тем более попарных. Паттерн возникает только тогда когда есть в нём потребность. Есть три рецептора, если эти рецепторы активизировались только все вместе и только так, то будет только одни паттерн АВС, даже не возникнет паттерна просто А. Зачем перебирать все комбинации если мы их никогда не встречали. Только когда возникает комбинация раздражителей АВ может возникнуть новый паттерн АВ, причём он еще должен закрепиться несколькими повторами.
Очень просто, главное единовременность событий. Точнее статистическая единовременность. В биологии есть понятие статистическое обучение, это пассивная форма научения, к примеру, способность реагировать на звуки родного языка у младенцев, за счёт того, что они эти звуки часто слышат. Здесь не требуется вообще никакого внешнего подкрепления, главное это комбинации на входе. В мозге как бы есть два направления обучения снизу вверх и сверху вниз. Снизу верх — это Синтез, достаточно только входов. Сверху вниз — это Анализ, придания рангов признакам. И эти аспекты, естественно, влияют друг на друга.
Да, это уже ближе. Но если вести аналогию с НС, то здесь за каждый паттерн отвечал бы отдельный нейрон. Вес рецепторов А и В положителен в нейроне АВ — это A|B, только сумма весов рецепторов А и В выше порога для активности нейрона АВ — это A&B, веса могут быть и отрицательными соответственно еще можно составить формул. Но прежде создается при Синтезе нейрон с равнозначными положительными весами (A|B), а затем с помощью анализа происходит изменения в весах. В классических НС эти связи определены заранее, если нейронка полносвязная с одним слоем, то есть несколько нейронов-паттернов с одинаковым набором всех рецепторов, поэтому я говорю о полном отсутствии синтеза.

Сложно дать математическое объяснение явлению в рамках задачи которое это явление не решает. Я попытаюсь объяснить другими образом. Представим систему с тремя рецепторами А, В, С. Это значит наша система будет работать с семью паттернами А, В, С, АВ, АС, ВС, АВС. Но в биологической системе скорее не будет заготовлено детекторов всех комбинаций, их факториал от количества, эти детекторы будут появляться, если это потребуется. Сработали вместе А и В, появилася паттерн АВ. Это и будет Синтез, т.е. создание паттерна. А анализ это обратное распространение ошибки. Если при детекции АВ ответ системы будет ошибкой, а при детекции только А ответ не будет являться ошибкой, то система прекратит ответы на раздражение АВ, а будет реагировать только на А. Это значит, что рецетор А будет иметь высокий вес в паттерне А, и рецепторы А и В будут иметь отрицательный вес в паттерне АВ. Надо понимать, что Анализ-Синтез это не универсальная формула решения задач. Это одни из механизмов протекающих при отработке информации корой, только лишь отдельной частью развитого мозга, это нельзя применить к простейшим или всей нервной системе.

Проект OPENTadpole не подразумевается монетизировать, да и его развитие также. Для меня проект полностью завершён и лаконичен. Спасибо, за оценку качества, просто я люблю то, что я делаю. В планах более амбициозные вещи, к чему головастик был подготовкой и отработкой.
Спасибо. С классической теорией нейронных сетей я знаком и довольно-таки давно, благо на эту тему материалов очень много. Классические нейронные сети — это очень хорошая вещь, имеющая ряд преимуществ и у меня есть идеи неких «симбиозов», но об этом еще рано говорить.
Сложно оценить размеры сети, время покажет. Во-первых, пока не ставиться цель получить некую личность, достаточно отдельных когнитивных функций, распознавание зрительных и слуховых образов, или просто распознавание команд на уровне домашних животных или детей. Во-вторых, нейроэлемент не совсем нейрон. Биологические клетки не выделяются точностью, увидеть направленную передачу в отдельной нервной клетке практически невозможно, это свойство можно выделить в некой группе. Можно сказать, что нейроны формируют нервную ткань мозга, подобно тому, как клетки печени формируют ткани печени определённым рисунком, паттерном. Нейроэлемент будет более продуктивен в плане вычислений. В-третьих, из 86 миллиардов (официальная цифра)) чуть больше половины это клетки-зёрна мозжечка. Эти клетки определяют, какой из каскадов тайминговой настройки будет запущен, механизм работы мозжечка можно упростить, сохранив его функционал.
На мой взгляд, разум подобный человеческому возможно осилит хороший, производительный домашний ПК. Конечно, если модель будет оптимизирована. К примеру, приходилось видеть, как в компьютерной графике оперируют миллионами полигонов и вершин, причём для каждой вычисляется сложная формула работы материала и шейдера. В свой работе я пока не занимался оптимизацией, это один из сложных вопросов программирования, поэтому даже при относительно небольшом количестве элементов программа падает, ну какие тут могут быть искусственные мозги. Необходимо разделить графическую и расчетную часть, использовать потоки, а не корутины и т.д.
Конечно, если строить систему, учитывая архитектуру каждого нейрона, топологию всех связей то потребуется бесконечное множество человеко-часов, мейнфрейм от IBM и немалая сумма денег. Главное это понимание логики и принципов работы чего-либо, зная их можно сделать лучше и проще.
В данной модели изменяются входы (изменение порога сумматора), более того изменяются выходы. Основанием для работы являются данные исследований биологического нейрона, прошу прощения, но «входов-инструкций» по всем признакам нет. В рисунке в статье довольно подробно изложено всё, что известно о том как нейрон обрабатывает (суммирует) входящие сигналы. Если честно, то традиционные нейросети я считаю выдающейся технологией, но её популяризация создало искажённое представление о нервной клетке.
Ну тогда и не стоит пытаться (шутка).
В модели нет необходимости учитывать Всё, достаточно только реализовать логический функционал который приводит к интеллектуальному поведению и когнитивным функциям.
У собак очень развитый мозг (вроде как 6 слоев в коре). Имеет значение не только количество слоев, но и общая площадь коры, а так же архитектура связей.

Информация

В рейтинге
Не участвует
Откуда
Россия
Зарегистрирован
Активность