Pull to refresh

Comments 41

быть живым, значит действовать таким образом, чтобы уменьшать разрыв между вашими ожиданиями и поступающей от органов чувств информацией

То есть быть живым, равно быть мертвым?
Недавно видел статью где группа индийских кажется программистов придумали модель «любопытства» и сделали на её основе нейросеть которая играет в простые игры. Любопытство в этой модели это стремление не делать то, что имеет предсказуемый результат. То есть пртивоположность того, что описано в этой статье. В частности, эта модель естественным образом избегала падения в яму в игре «марио» потому что результат падения было легко предсказать.
А чем прыжок через яму непредсказуемее прыжка в яму?

Более интересно сделать нейросети избегающие смерти, то есть идущие не к набору hiscore, а минимализируя потери health.
Прыжок в яму это конечное состояние. Тупик в лабиринте возможных состояний. А вот через яму возможны варианты.

Тогда можно просто стоять на месте: потери health нулевые. Тут мы конечно можем добавить «старение» и возможность увеличить «жизнь» найденными таблетками. Проще провести аналогию с едой.

Мне кажется, что хорошая реализация идеи с едой будет скучной: она будет жутко эффективно искать еду кратчайшими путями. А вот если сделать идею с «любопытством» и отправить её в майнкрафт, то она будет строить сложные непонятный конструкции с непредсказуемым поведением. Правда скорее всего это будет просто сложная хитрозапутанная куча блоков.
Реализация метрик типа «любопытства» позволяет не программировать для сети интерпретацию внешних метрик, вроде health или score, поэтому такие алгоритмы не требуется дорабатывать для решения некоего достаточно широкого круга задач, для которого достаточно только любопытства.
Тимонова вспомнилась. Жаль не помню какой выпуск «Все как у зверей». Там про две коэволюционирующие подсистемы, одна стремящаяся к стабильности(впоследствии у нашего вида — женщина) другая — экспериментирующая на всем чем ни попадя, жертвуя собой(мужчины). Что, если в некоторых случаях(например, в случае человека)оба варианта неотъемлемы для существования вида?
А ведь кстати, даже в конкретной особи может время от времени преобладать то одна, то другая тактика поведения.

Так баесовская модель же. Две противоположных тактики выживания. И специализация вокруг них…

Спасибо. Однако все равно вопрос реализации алгоритма открыт. Т.е. даже предположив возможность существования варианта, при котором мы имеем на руках алгоритмы, эквивалентные моделям 1 и 2, мы так же с необходимостью должны иметь и модель их взаимодействия. А в случае конкретной особи — модель, где тактики имеют возможность сменять друг друга (естественно, подозреваю что на самом деле все намного сложнее обычного чередования). Есть ли такая модель, и вычислима ли она?
Могу только сказать, что это очень свежая и оригинальная мысль.
Вы не поверите, но это кажущаяся противоположность. ;) «действовать таким образом, чтобы уменьшать разрыв между вашими ожиданиями и поступающей от органов чувств информацией» и «не делать то, что имеет предсказуемый результат» — две стороны одной медали…
Делая то, что имеет предсказуемый результат вы не уменьшаете разрыв между ожиданиями и реальностью, потому что в предсказуемых действиях разрыва нет. А делая то, последствия чего вы не можете предсказать — вы собираете статистику, для того, что бы сформировать правильные ожидания. Это как бы активное познание мира и именно оно является способом уменьшить разрыв.
Угу, только мёртвый:
— не действует
— не имеет ожиданий
— не получает информации от органов чувств.
А так всё правильно.
Ожидания = 0, информация = 0

Достигнуто целевое состояние, больше не надо действовать.

P.s. Животные часто любят забираться в темное и тихое убежище, иногда там и помирают.
И не идет играть в баскетбол =)

Не знаю как у вас, а у меня ключевое ожидание попасть живым в завтрашний день.


В данном случае один детерминированный исход "не живой" скорее подтверждает гипотезу для пространства вариантов, так как не является исключением.

Что поразительно, я так и не увидел формулировки принципа

Вот-вот, пролистал всю тягомуть, вывода не увидел
Нашёл статью где неплохо разжевали этот принцип:

Free energy is a quantity used in “variational Bayesian methods”, a specific computationally tractable way of approximating Bayes’ Theorem. Under this interpretation, Friston is claiming that the brain uses this Bayes-approximation algorithm. Minmizing the free energy quantity in this algorithm is equivalent-ish to trying to minimize prediction error, trying to minimize the amount you’re surprised by the world around you, and trying to maximize accuracy of mental models. This sounds in line with standard predictive processing theories. Under this interpretation, the brain implements predictive processing through free energy minimization.

Там много текста.
Это нормально. Вячеслав другие статьи и не переводит:)
Да и перевод оставляет странное ощущение. Он какой-то… рваный, что ли. Вот отдельные фразы, вроде и по-русски написаны, а вместе — не строят, как говорят музыканты. Очень тяжело читать такой перевод.
Если простыми словами, минимизация энергетических затрат на жизнедеятельность, путем анализа поступающей от органов чувств информации, и с учетом накопленного в памяти предыдущего опыта. Для организма плохо, когда в нем выделяется чрезмерно много энергии, это ведет к преждевременному выходу его из строя. Все это выполняется только в статистическом смысле. Это задает направление эволюции жизни вообще, и прогресса человечества в частности. Так, что выражение «лень — двигатель прогресса» не лишено смысла)
Не будет никакого искуственного интеллекта, очевидные вроде вещи, но когда грантов хочется, то можно сделать вид что ты что-то знаешь и дет через 100500 сделаешь.
Вас верующих не переубедишь. Вам уже показывают компьютер который сравним с функцией нижних слоев зрительной коры, но вы продолжаете верить что где-то есть фронтир за которым какая-то неповторимая «душа». А приходится верить — фактов-то никаких нет, и фронтир пугающе отступает.
Хотя нейроны и необходимы для человеческого интеллекта, но в нейронах нет никакого интеллекта. Точно также как нет сюжетов фильмов в микросхемах телевизора и в магнитных доменах на диске компьютера. Интеллекта нет ни в упомянутых Фристоном «variational Bayesian methods». Интеллекта, который мы ищем, нет даже у высших животных, хотя развитый мозг со всеми возможными типами нейронов у них есть.
Интеллект это процесс. Он не имеет сущности в буддистском смысле, но это не мешает нам его изучать с точки зрения математики: ну там придумать модель интеллекта, изучить её свойства, написать формулы, что нибудь предсказать. Хабра тоже нет — это лишь поток электронов между условными атомами которых тоже строго говоря нет — но это не мешает нам тут комментарии писать, которые тоже существуют лишь условно.
Буддистский смысл не поможет. Даже в человеке с рождения нет интеллекта. Интеллект появляется когда человеческая психика сталкивается с человеческой культурой. Если впервые это происходит в возрасте более 14 лет, то интеллект у этого конкретного человека не появится больше никогда. Любой процесс имеет состояния и множество свойств, которые надо как-то и где-то хранить. В этом смысле любой процесс существует. Интеллект это сложное явление. Упростить его (всякими нейронами, Баесами, статистиками и проч) никак не получится. Даже если хабр не существует. :)
На всякий случай упомяну Симонова. Его информационно-потребностная теория говорит, что эмоции и вызванное ими поведение определяются разницей между информацией относительно того, что мы хотим и что мы имеем. Соответственно, поведение старается минимизировать негативное рассогласование. Звучит очень похоже на принцип свободной энергии. А еще Фестингер с когнитивным диссонансом где-то о том же.
Ну это достаточно очевидно, что разум используется для того, чтобы достичь желаемого. Также достаточно очевидно, что люди любят предсказуемость — поэтому, например, они стремятся к некой стабильности в жизни, и поэтому их напрягают психически больные (их поведение непредсказуемо). И вроде как даже есть математическая теория, увязывающая красоту с предсказуемостью.

В чём революционность и непостижимость этой идеи?
В чём революционность и непостижимость этой идеи?

Видимо в том, что она отвечает на вопрос: «Почему, собственно, „очевидно, что люди любят предсказуемость“?».
Статья недоделана, особенно ничего не сказано про работу человека над теоремой минимизации энергии. И сликом много гипербол — собственно уже в комментариях видно что он вполне понятен людям и достаточно прост.
Вообще давно уже известно что жизнь как она представлена на земле — особый режим работы законов неравновесной термодинамики в открытых системах. Но не все такие системы являются жизнью (см. реакцию белоусова-жаботинского). У жизни — есть матрица, код, программа действий.
Слишком много воды. К чему эти описания того как развиваются волосы на ветру и где расположен памятник? Я ожидал увидеть тут не художественное произведение, но ответ на поставленный в начале поста вопрос.
Автору оригинала платили за объём, а не за смысл.
уменьшать разрыв между вашими ожиданиями и поступающей от органов чувств информацией

Это обычный принцип отрицательной обратной связи: получение сигнала с датчиков и формирование управляющих воздействий, минимизирующих рассогласование между ожидаемым и измеренным. Статью можно было уменьшить раз в 50.
Я один такой, кого этот стиль а-ля журнал «Караван историй» коробит? Все эти притянутые за уши попытки очеловечить повествование ненужными деталями, это натужное неправдоподобное панибратство журналиста, наложенное на хреновый перевод. Окей, но статья-то не о том, сколько сигарет Фристон выкуривает в день и какими знаками он по утрам общается с семьей? Где главная мысль-то?
Периодически встречаю этот стиль у разных авторов, видимо, на журфаке есть какой-то курс «как вызвать эмоциональную привязанность у читателя», и выпускники-троечники бездумно пользуются этими клише?
Не одни. Одна из главных причин, по которой я перестал подписываться на научпоп журналы. Этот стиль словестного поноса из малосвязанных параграфов чуть менее чем везде сейчас.
принцип свободной энергии безумно трудно понять

принцип специально так мутно описан, чтоб его хрен кто смог понять даже при желании.
Благодаря этому стало возможно «опубликовал уже более 1000 научных работ с 2000 года. Только в 2017-м он был ведущим автором или соавтором 85 публикаций – то есть примерно по одной каждые четыре дня.»

сформулировал бы ясно и коротко — кому были бы интересны горы этой писанины?
Он всегда носит голубые рубашки, которые покупает в магазине распродаж по две штуки

Почему на фото учёный не в голубой рубашке? Сделал исключение из правил?=)

Фристон не только один из влиятельнейших учёных в своей области; он ещё и наиболее плодовитый. В свои 59 лет он работает каждый вечер и каждый выходной, и опубликовал уже более 1000 научных работ с 2000 года. 

У человека похоже психическое расстройство серьезное - сверхценная идея и структурированный бред - что и проявляется в том что его никто понять не может...

Sign up to leave a comment.

Articles