Comments 31
Нейронные сети, которые и составляют сейчас практически всю область искусственного интеллекта, могут учитывать в принятии решения гораздо больше факторов, чем человек, делать это быстрее и в большинстве случаев более точно. Но программы действуют только так как их запрограммировали или обучили.
это же противоречит определению машинного обучения:
Машинное обучение — процесс, в результате которого машина (компьютер) способна показывать поведение, которое в нее не было явно заложено (запрограммировано). [A.L. Samuel, 1959]
так что вы не правы.
Подтяните пожалуйста основы, а то так и останетесь подвергнутыми эффекту Даннинга — Крюгера
И вы видимо совсем не поняли слова Самуэля. Имеется ввиду, что в машобе происходить самообучение (самопрограммирование), а не явно заложенный вами алгоритм. Но я же не об этом. Так что подтянуть основы надо вам.
Но я же не об этом.Как это не об этом? А как тогда понимать ваши слова
Но программы действуют только так как их запрограммировали или обучили. ?Если вы имеете ввиду
На какой выборке обучили, то и распознает.так у людей так же, иначе как вы себе представляете музыканта решающего матанализ, если он впервые с ним столкнулся?
Чем же отличается от такой программы человек?
3. Произольность. Программы не обладают произвольностью.
Человек не обладает произвольностью. Попробуйте провести эксперимент: выбирайте в течение целого дня числа от 0 до 9 — т.е. сделайте из себя ГСЧ. Потом проанализируйте результаты и не увидите нормального распределения. Да, есть некий слабенький ПГСЧ, но не более того.
Ну вот психологи с вами не согласится. И в тексте есть определенные произвольности, которая имеется ввиду в статье.
выбирайте в течение целого дня числа от 0 до 9 — т.е. сделайте из себя ГСЧЭто был бы некорректный эксперимент. Очень близкая аналогия: спрашивайте у прохожих, сколько денег они хотели бы получать в месяц. В таком «ГСЧ» будут отсутствовать числа до 10 000. Суть в том, что числа в человека вдалбливают с детства со школы, потом всякие «гороскопы», «счастливые числа» итд итп. Поэтому у людей особое отношение к некоторым числам. Я уж молчу про китайцев, которые ненавидят 4, но обожают 8. С буквами примерно то же самое, мало людей вспомнит про букву Ъ.
Проведенные мной эксперименты показали, что единственным выходом является наличие второй модели, которая моделирует первую и может ее менять, то есть действовать не со средой как первая, а с первой моделью, чтобы изменять ее.
Могли бы вы подробнее рассказать о своих экспериментах?
Конечно, но только в переписке. Напишите мне, чтобы я мог понять, с кем общаюсь.
Есть некоторые ограничения, я могу писать о теоретической части, но не о практической реализации. И в общем-то и цель моя была именно в изложении теоретической, чтобы ее покритиковали.
Что касается вашей статьи: интересна конкретика – например: как в вашем случае реализуется взаимодействие разноуровневых (?) моделей и т.п.
За ссылку на Амосова спасибо, почитаю. Обучение с подкреплением и LSTM не является двухуровневым. На это больше похожи сети с вниманием.
В статье же я пытаюсь психологическую "произвольность" как то определить для программируемости. Вот цель, не более. И показал какая может быть архитектура произвести. Эксперименты вообще имеют другую заплачу, конечно, мысли в статье — это побочный эффект так сказать )
Как происходит взаимодействие уровней вроде и написал — активированные фреймы первой идут на вход второй. Но даже есть варианты.
На мой взгляд, LSTM — по своей сути это развернутая во «времени» (а можно и понимать и в других смыслах) рекурсивная сеть в которой более «старые» уровни отвечают за управление / контроль более высокого уровня, уровень общности «растет» от уровня к уровню. LSTM-модуль уже, изначально — «по умолчанию» может иметь вентиль внимания (focus gate, attention gate).
но только в переписке
Почему? В чем цель вашей статьи? Или ваша статья — просто изложение собственных размышлений. Ок. Так сказать, для фиксации приоритета.
2. Вы сами поставили вопрос:
Чтобы могло сделать их поведение более произвольным, свободным?
Но ответа на него я думаю никто, из читавших вашу статью, не увидел. Далее идет ссылка на ваш эксперимент. Возможно, в его постановке и программной реализации содержится ответ.
Судя по всему, вы строите семантическую сеть и систему вывода на ней. Фактически «руками» «обучая» (не в прямом смысле) ее тому, что от нее требуется. Исходя из ваших же предварительных рассуждений – скорее всего это не то, что вы хотели получить. И полученный вами результат – артефакт (эффект, вызванный случайным или преднамеренным влиянием экспериментатора на ход эксперимента).
3.
Напишите мне, чтобы я мог понять, с кем общаюсь.
Гик, просто гик
По то, что могло сделать из поверните более произвели я как раз и пишу — про двухуровневую систему фреймов. Фреймы над фреймами ее и обеспечивают.
Не могу описывать всю реализацию (есть ограничения), но по способу это близко к FrameNet. Наполнение фреймов готовиться по статистике паркинга больших лит. текстов. Но вы правы, пока сами фреймы делаются ручными правилами. Здесь есть статье место (в продакт такое не запустить на произвольный домен). Проблемы пока сзади с созданием онтологий. Но мы надеемся из преодолеть )
Про то, что могло сделать поведение более произвольным я как раз и пишу про двухуровневую систему фреймов. Фреймы над фреймами ее и обеспечивают.
Не могу описывать всю реализацию (есть ограничения), но по способу это близко к FrameNet. Наполнение фреймов готовиться по статистике парсинга больших лит. текстов. Но вы правы, пока сами фреймы и граф делаются ручными правилами. Здесь есть узкое место (в продакт такое не запустить на произвольный домен). Проблемы пока такие же как с созданием онтологий. Но мы надеемся их преодолеть ) Извините за ошибки, пишу с телефона.
И вообще… Вы оперируйте нечеткими и необщепринятыми терминами произвольность, свобода поведения. Думаю, что нужно сделать следующий логичный шаг и назвать все это известным термином — свободой воли (корни слов — те же и смысл тот-же). Но думаю Вы этот шаг не сделайте, потому, что статья претендует на научность, а ученые боятся этого термина, как черт ладана :)
Таким образом главный вопрос, который следует задать — является ли свобода воли вычислимой функцией, или все-таки нет.
Хороший вопрос ) Я действительно избегал бы лучше такого определения, оно не определим алгоритмически. Но у меня есть статья на academia.edu о свободе воли, где поясняется, что это такое с точки зрения когнитивной психологии. Кратко, это проблема "черного ящика", который мы называем "я". Если его раскрыть, никакой проблемы как и "свободы" нет. Свобода — это ощущение, а не реальность.
Я как раз и пытаюсь определить произвольность и даже экспериментально проверить. Произвольность тоже ощущение, ака непредсказуемость. Алгоритмически это создание нового поведения "на лету". Я так определил это в статье. И прошу критики )
Действительно — сведение свободы воли к субъективному ощущению — это основная линия проводимая современной наукой в этом вопросе. Биология и психология уже давно пытаются, и иногда не безуспешно, низвести человека до биологического автомата, так как это основная их задача. Ваша статья — это еще одно ведро воды на эту мельницу.
Основная моя претензия — это использование в статье фраз «произвольное поведение» и «свободное поведение». Я думаю, что по смыслу Ваших исследований правильнее было бы использовать фразу «адаптивное поведение». Тогда бы все встало на свои места. Но конечно потерялся бы броский, цепляющий, противоречивый заголовок, и статья стала бы обычной публикацией по исследованию адаптивного поведения, коих со времен создания кибернетики вышло уже не мало.
Все животные, обладающие нервной системой, так или иначе содержат в ней модель среды, интегрированной с арсеналом своих возможных действий в ней. То есть это не только модель среды как пишут некоторые ученые, а модель возможного поведения в той или иной ситуации. И одновременно это модель предсказания изменений в среде в ответ на какие-либо действия животного. Это не всегда учитывают когнитивные ученые, хотя на это прямо указывают открытые зеркальных нейронов премоторной коре, а также исследования активации нейронов макак, в ответ на восприятие банана у которых активируется не только области банана в зрительной и височной коре, но и руки в соматосенсорной, потому что модель банана непосредственно связана с рукой, так как обезьяне интеерсен только тот фрукт, что она может взять его и съесть. Мы просто забываем, что нервная система появилась не для отражения мира животными. Они не софисты, они просто хотят есть, поэтому их модель – это в большей степени модель поведения, а не отражения среды.
Чтобы могло сделать их поведение более произвольным, свободным? Проведенные мной эксперименты показали, что единственным выходом является наличие второй модели, которая моделирет первую и может ее менять, то есть действовать не со средой как первая, а с первой моделью, чтобы изменять ее.В когнитивной психологии и нейрофизиологии сейчас набирает популярность подход основанный на предсказании восприятия и поведения, см. этот обзор. Упор именно на предсказании, причем изменение восприятия и поведения, которые определяет верхний иерархический уровень управления (или модель), корректируется только переменной частью (новизной) потока информации поступающего с сенсорного уровня. Для этого обычно используется байесовская процедура минимизации ошибок предсказания. Фактически это развитие представлений Бруннера о перцептивной готовности, и проверяемых гипотез Грегори, кот. появились еще в прошлом веке. Такой подход, вероятно, оптимален по критериям максимума эффективности механизма восприятия и управления поведением и минимума энергозатрат в мозге, как биологической структуре.
Но как именно происходит построение нового поведения в двухактной структуре сознания? У нас в распоряжении нет мозга и даже его правдоподобной модели. Мы стали экспериментировать с глагольными фреймами как прототипами моделей, которые содержатся в нашем мозге. Фрейм представлет из себя набор вариантов актантов глагола для описания ситуации, а комбинация фреймов может служить для описания сложного поведения. Фреймы описания ситуаций – это фреймы первой модели, фрейм описания своих действий в ней – это фрейм второй модели с глаголами личных действий. У нас часто они смешаны, потому что даже одно предложение – это смесь нескольких актов распознания и действия (речевого акта). А само построение длинных речевых выражений – лучший пример произвольного поведения.Это не семантические сети? Пусть даже иерархически организованные.
Нет, это не семантические сети в том виде как они приняты в психологии и семиотике. Тут нет связки слов со словами в прямом виде. Но есть алгоритм составления цепочек, если говорить коротко.
Я уже писал тут, что подход больше похож на FrameNet Филмора. Никаких смыслов и онтологий мы не придумываем ) Все очень конкретно — парсинг, фреймы, статистика.
Можно ли запрограммировать произвольность?