Comments 19
Навеяло, все детство о таких штуках мечтал :)
Стивен Барр
Кэллахен и его черепашки
Антология "Туннель под миром"
Круто
Мозг - это только с одной стороны нейронная сеть, а с другой - это открытая трмодинамически неравновесная система. Например, каждое переключение внимания - это переход через точку бифуркации (неравновесный фазовый переход). И в целом работа мозга на всех уровнях, начиная от морфогенеза и до синхронизации изначально хаотической активности нейронов (в результате чего возникают ритмы мозга), связана с такими переходами.
В свою очередь, бифуркация - это качественное изменение поведения нелинейной системы при бесконечно малом изменении её параметров. Этот переход принципиально непредсказуем, то есть принципиально невычислим. Поэтому кое-что из первой - нейросетевой - стороны взять можно, но вторая сторона - термодинамическая - всё равно не позволит воспроизвести первую во всей сложности.
Идея же, что, мол, наплевать, и качество можно заменить количеством - сложную работу мозга заменить искусственной нейронной сеть попроще, но зато побольше, тоже ошибочная. Только аргументы не один абзац займут.
С чем связан минус?
если переход невычислим то как мозг это делает? если делает значит вычислим
Как происходит обрушение песчаной кучи или сход снежной лавины? Это простые модели неравновесных систем и перехода через точку бифуркации.
Вначале в систему активно поступает энергия/вещество, из-за чего системе растут напряжения, она приходит в неравновесное состояние и в какой-то момент происходит её обрушение. Причём то, как конкретно пойдёт обрушение, зависит от самых ничтожных нюансов условий, сложившихся в момент обрушения, то есть в момент перехода через точку бифуркации. Про эффект бабочки слышали? Другими словами, если строго, то бифуркация — это качественное изменение поведения нелинейной системы при бесконечно малом изменении её параметров. Вот качественно такие процессы и происходят в мозге — бифуркации и обрушения (неравновесные фазовые переходы) — начиная от морфогенеза до изменения активности нейронов. Никаких вычислений здесь нет.
Появятся они, когда вы, хотя бы в принципиальном смысле, сможете предсказывать поведение системы в точке бифуркации. Но оно зависит от бесконечно малых событий, поэтому принципиально непредсказуемо. Природу невозможно исследовать на уровне бесконечно малых подробностей. Например, это равносильно абсолютно точному измерению и так далее, в общем невозможно, чтобы не углубляться. В итоге мозг, мышление — это в принципе не вычислительная система, не вычислительный процесс.
разве если смотреть на компьютер (электрическими процессами в нем) не зная как он работает это не будет выглядеть также?
Нет, компьютер так выглядеть в принципе не может, так как биологические системы и компьютеры/механизмы — это в принципе разные системы. Например, вы можете разобрать компьютер на детали и потом без проблем собрать обратно или отключить, потом включить и всё будет работать. Попробуйте разобрать или отключить от воздуха человека. Он быстро превратится в слизь. Дело в том, что компьютеры — равновесные системы, биологические — открытые термодинамически неравновесные. К последним относится всё живое. Их особенность — интенсивный обмен со средой веществом/энергией, за счёт чего поддерживается упорядоченное состояние. Интенсивность обмена упала — и организм тоже начинает быстро и необратимо «падать» в состояние равновесия и беспорядка, распадаясь на отдельные элементы и растворяясь в среде.
Подробности того, как из клетки формируется многоклеточный организм и почему он не распадается, объяснять долго, но конкретно про нейроны сказать проще.
Например, каждый нейрон сам по себе — это открытая термодинамически неравновесная система, конкретно — это хаотический автоволновой осциллятор. В мозге нейроны соединены в сеть, это приводит к тому, что активность больших ансамблей нейронов сама собой упорядочивается — синхронизируется. Это самоорганизация, открытые термодинамически неравновесные системы способны к самоорганизации. В результате возникают разные ритмы мозга. А ритмы — это важная вещь. Чем сложнее ритмическая картина, тем больше в мозге разной информации (синхронизация — это упорядочение хаоса, а упорядочение хаоса — это уменьшение энтропии и появление информации). Например, внимание связано с селективной синхронизацией нейронов на частоте гамма-ритма. Частота гамма-ритма самая высокая в мозге — и внимание тоже самая яркая и чёткая часть сознания. Причём каждое переключение внимания — это переход через точку бифуркации, когда синхронизируются новые ансамбли нейронов, соответственно тому, куда внимание направлено в данный момент. И наконец порядок в мозге — это и порядок в работе мышц и желёз, с чем нейронная сеть мозга связана на выходе.
Если в целом, то глобальная синхронизация больших популяций нейронов присуща состоянию бездействия или глубокого сна. В момент пробуждения, по причине изменения концентрации веществ в нейронах и увеличения их активности, в нейронной сети растёт неравновесие, поэтому слишком простая волновая динамика больше не может распределить энергию по нейронной сети. В результате глобальная синхронизация распадается на некоторое множество волновых процессов, происходящих на разной частоте — ритмы мозга усложняются, картина синхронизации становится сложнее — появляется внимание, образы и эмоции, «возникает» сознающий себя субъект.
Ссылки на АИ см. в посте ниже.
Вы описали довольно интересную гипотезу. Чтобы ей стать по-настоящему научной, нужно привести условия для её опровержения. Т.к. научные теории, в отличие от верований, опровергаемы.
Какой бы Вы предложили эксперимент, который бы показал, что мозг не работает как переходы между бифуркациями?
К тому же, непонятно заявление о принципиальной невычислимости бифуркаций. Что именно вы не можете там вычислить?
Я вот больше склоняюсь к мысли, что мозг - как оркестр. Когда каждый нейрон "играет" в нужное время - рождается музыка, т.е. мысль.
Это не гипотеза. Это давно известные факты, они давно уже в энциклопедиях. Тем не менее физика работы организма/мозга совершенно неизвестна сколько-нибудь широкому кругу людей. Даже морфогенез до сих пор многие считают чем-то необъяснимым, хотя основополагающие принципы известны ещё с 50-х годов. Вопросы — как в ДНК может поместиться план организма? — очень распространены. Хотя такого плана нигде нет и он не нужен. Просто всё, что связано с самоорганизацией, очень сложно объяснить. Ниже ссылки на основное из того, что я написал в посте выше.
1. Синхронизация (нейробиология) — Википедия. https://ru.wikipedia.org/wiki/%D0%A1%D0%B8%D0%BD%D1%85%D1%80%D0%BE%D0%BD%D0%B8%D0%B7%D0%B0%D1%86%D0%B8%D1%8F_(%D0%BD%D0%B5%D0%B9%D1%80%D0%BE%D0%B1%D0%B8%D0%BE%D0%BB%D0%BE%D0%B3%D0%B8%D1%8F)
2. Неравновесные фазовые переходы — Физическая энциклопедия (про морфогенез и синхронизацию написано во втором абзаце). http://femto.com.ua/articles/part_2/2481.html
3. Диссипативные системы — Обзор — Википедия. https://en.wikipedia.org/wiki/Dissipative_system#Overview
Что касается невычислимости бифуркаций, то во вчерашнем посте я уже написал, почему так.
Про синхронизацию и фазовые переходы - интересно. Хотя пока непонятно, как это применить в "народном хозяйстве", т.е. в machine learning, например.
А про якобы невычислимость хочу Вам аргументированно возразить. Вы привели следующие утверждения:"Как происходит обрушение песчаной кучи или сход снежной лавины? Это простые модели неравновесных систем и перехода через точку бифуркации.
Никаких вычислений здесь нет. Появятся они, когда вы, хотя бы в принципиальном смысле, сможете предсказывать поведение системы в точке бифуркации. Но оно зависит от бесконечно малых событий, поэтому принципиально непредсказуемо."
Но зачем нам пытаться смоделировать поведение конкретной песчаной кучи? Или сход конкретной снежной лавины? Или, например, поведение конкретного двойного маятника?
Это действительно невозможно по разным причинам: квантовые эффекты, невозможность снять точные измерения всех элементов, ограничения точности в вычислительных системах.
Но, на самом деле, такой задачи и не стоит! Ведь достаточно будет смоделиловать некую виртуальную кучу песка и убедиться, что она обрушается похожим образом на настоящую. Или смоделировать виртуальный двойной маятник и убедиться, что у него тоже есть точки бифуркации.
Та же самая логика по отношению к нейросети. Никто не ставит целью смоделировать конкретную существующую нейросеть. Успехом будет считаться, если мы смоделировали некую виртуальную сеть, и она ведёт себя похожим образом на настоящую.
Никакой невычислимости я здесь не вижу.
Есть осцилляторные нейронные сети, но они далеки от практического применения по причине сложности моделирования такой динамики. А сложно моделировать как раз по причине того, что моделировать можно только то, что хотя бы в принципиальном смысле может быть известно, тогда как выбор в точке бифуркации не может быть известен в принципе. В этом и проблема.
Ваш следующий вопрос наверняка будет о том, почему бы просто не создать очень «большую» обычную искусственную нейронную сеть и тем самым, условно говоря, заменить «качество» сложности мозга «количеством» более простой ИНС. И, как кажется, на каком-то этапе можно будет добиться той же сложности функций, как и в естественном мышлении. Вы считаете это возможно? Или что-то помешает? Заранее скажу - что-то помешает.
Мой вопрос остаётся тем же: о какой невычислимости Вы говорите? Оставим пока в покое тему нейросетей, и поговорим о любой простой хаотической системе.
Вот пример эмуляции двойного маятника (первое, что нашёл в поиске): https://dpvis.herokuapp.com/
Эта программа вычисляет положение маятника. Маятник проходит через точки бифуркации, "зависящие от бесконечно малых начальных условий".
Где невычислимость?
Это дискретная цифровая модель, программа. То есть это не реальность, а её некоторое упрощение. Как упрощением являются любые модели. Но чтобы искусственный мозг мог демонстрировать столь же сложное поведение, как мозг реальный, он должен и поведение реального мозга воспроизводить не упрощённо, а во всей сложности. Иначе это будет упрощённая модель. Но упрощённая нам не походит. С неравновесными фазовыми переходами в мозге связано всё на всех уровнях, поэтому любое упрощение превратит модель в качественно более простую, попросту неадекватную сложности реального мозга.
Может быть, это неважно? Пусть попроще будет? Во-первых, понятно, что если мышление критически связано с бесконечно малым уровнем материи мозга, то выделить в нём «функцию личности» и перенести её на другой носитель невозможно, так как это равносильно абсолютно точной копии мозга. Во-вторых, связь бифуркации с бесконечно малыми изменениями параметров системы — суть абсолютная чувствительность системы. Поэтому упростив модель, вы «упростите» и чувствительность. Точнее говоря, ваш мозг перестанет быть открытой системой, его взаимодействие со средой станет качественно проще, вы относительно больше переподчините его не среде, а некоторой программе.
И наконец, в-третьих. Соедините во-первых и во-вторых. Сложность реального мышления равносильна изучению материи на элементарном уровне, так как реальное мышление критически связано с бесконечно малыми изменениями параметров мозга. Сложность модели — если вы хотите, чтобы она была не менее сложной, чем реальный мозг — должна тоже быть равносильной изучению материи на элементарном уровне. Но такое знание минимум не достигнуто, а на самом деле и не имеет смысла вообще. В итоге сложность мозга прямыми средствами недостижима. Единственный путь — это который я вам предложил оценить в посте выше.
качественное изменение поведения нелинейной системы при бесконечно малом изменении её параметров
Всё живое на всех уровнях защищается от вмешательства шума — все эти пороги, системы ключ-замок, бинарные состояния и т.д. и т.п.
В подтверждение гипотезы, что для симуляции работы реальной нейронной сети не нужно вычислять мембранный потенциал, спайки или, упаси боже, квантовую неопределенность.
Один ученый из мира биологии написал некое summary работ, которые подтверждают, что нейроны в обученных мозгах работают так же (или "очень похожим образом"), как нейроны в обученной искуственной нейросети. При условии, что они обучались на одной задаче, канеш.
Это вселяет надежду, что ИИ достижим в обозримом будущем.
Вот видео с его интервью, в описании к нему ссылки на все работы:
https://youtu.be/vfBAUYpMCTU
Робот в лабиринте: обучаемая нейроморфная система