Comments 29
Спасибо за филосовского зомби — почитал про него, а то пример с болью показался очень противоречивым. И действительно, есть у такого подхода и критика.
Просто если рассматривать боль как сигнал для ответа на раздражитель, то даже в случае филосовского зомби получается, что он получил раздражение, получил сигнал об этом, и ответил на ситуацию. В таком случае не очень понятно, что значит «не чуствует боли». Возможно, его ощущения отличаются от моих, но такое можно сказать про всех, так как неизвестно, как чувствует боль другой человек.
Просто если рассматривать боль как сигнал для ответа на раздражитель, то даже в случае филосовского зомби получается, что он получил раздражение, получил сигнал об этом, и ответил на ситуацию. В таком случае не очень понятно, что значит «не чуствует боли». Возможно, его ощущения отличаются от моих, но такое можно сказать про всех, так как неизвестно, как чувствует боль другой человек.
Тут есть занятный момент. Люди при определённых неврологических повреждениях могут терять частично или полностью чувствительность тела к тем или иным раздражителям (боли, например). Однако иногда остаётся фантомная чувствительность в том случае, если человек верит, что должен чувствовать и видит подходящий раздражитель. Так же возможна просто имитация в аналогичной ситуации (вспомнилась серия Др. Хауса про девочку, у которой полностью отсутствовала чувствительность кожи к раздражителям, однако она неплохо притворялась при необходимости).
Куда эти варианты отнести?
Куда эти варианты отнести?
Насчёт фантомной чувствительности я не силён, там свои физические процессы наверное. А вот если имеет дело осмысленное притворство для достижения цели, то это уже не зомби.
Притворство не обязательно должно быть осмысленным. Машина точно так-же может притворяться, что чувствует боль хотя даже (например) физически неспособна на это (отсутствуют какие либо датчики в том месте).
Я не уверен, что тут есть притворство, если речь о машине. Либо получается, что машина преследует свои цели методом притворства, либо она запрограммирована на притворство, и тогда это выглядит как рефлекс — в таких-то условиях сделать то-то. Просто датчики другие работают, например, зрительные, и так она заявляет о контакте.
Вообще мы тут погружаемся в мутные дебри. Как бы рефлекс есть, и выглядит, как будто оно чувствует боль. Однако ни того, ни другого нет. Имитация наличия ощущений которые могли бы позволить имитировать чувство боли :)
По сути у зомби рефлексы тоже есть (или их имитация) однако зомби они быть не перестают.
По сути у зомби рефлексы тоже есть (или их имитация) однако зомби они быть не перестают.
Я к тому, что мне кажется не очень важным, чувствует ли существо боль прямо или опосредовано объявляет её наличие. Либо это корысть, а следовательно — не зомби, либо это зомби, но не имитация, потому что зомби не «притворяется», а такова его программа действий. Боль — всего лишь электрический сигнал, если заменить этот сигнал на сигнал глаза о столкновении с другой материей, и построить систему обработки столкновений на этом, то тоже будет работать.
Ну т.е. я к тому, что если это не преднамеренная мистификация, то можно назвать систему зомби тем же рефлексом, которого в общем случае зомби избежать нельзя. Как и человеку боли. В некоторых возможно преодолеть, если более высокоуровневые программы вмешаются (или технологии), но по сути боль — лишь средство познания мира и проверки целостности своей системы. Если, конечно, в неё не вкладывать некий высший смысл.
В каком то смысле вы правы. Терминатор, например, «чувствовал» ущерб, и даже неоднократно об этом сообщал окружающим. Чувством в человеческом понимании это назвать сложно. Но суть от этого не меняется. Если есть некий обособленный объект, который способен манипулировать абстракциями типа «боль», «ущерб» и т.д., что одно и то же в данном контексте, на действия некого раздражителя, и по определенной программе выдавать реакцию, т.е. как минимум «чувствовать» «боль», то все в прядке.
Тут конечно же надо добавить, что бывают сбои в программах, как у людей, так и у терминаторов. Программы работают исключительно в рамках «железа». Если «железо» начинает сбоить, то и программы выдают неверные результаты. Например, отпилите у человека ногу (это гипотетически, разумеется), и т.к. нервная система человека достаточно инертная и меняется не так быстро как хотелось бы (а точнее катастрофически медленно меняется), то и получите всяческие фантомные боли в том, чего уж нет давно…
Тут конечно же надо добавить, что бывают сбои в программах, как у людей, так и у терминаторов. Программы работают исключительно в рамках «железа». Если «железо» начинает сбоить, то и программы выдают неверные результаты. Например, отпилите у человека ногу (это гипотетически, разумеется), и т.к. нервная система человека достаточно инертная и меняется не так быстро как хотелось бы (а точнее катастрофически медленно меняется), то и получите всяческие фантомные боли в том, чего уж нет давно…
На самом деле не совсем понятно к чему был создан гипотетический философский зомби, по моему было бы удачнее рассматривать людей с аутизмом, синдромом Аспергера, психопатией. Они могут не понимать как вести себя в некой ситуации, так как для них все внешние раздражители, символы, словом вся информация равносильна китайским иероглифам, с которыми человек в изолированной комнате управляется посредством инструкций. Так же им требуются инструкции к неким ситуациям выходящим за рамки их понимания, иначе некая задача, условно, не будет выполнена. Но получив инструкции, они начинают действовать точно так же как нормальный человек, но фактически это и будет тот самый акт имитации.
"Философский зомби" был придуман для пояснения понятия "квалиа". Соответственно, в отрыве от квалии говорить о нём особого смысла нет.
А зачем там философский зомби? Просто представьте, что у вас нет квалиа зеленого. Смотрите, значит, вы на стену, и говорите: "Да, зеленая краска потускнела, надо перекрасить". Но квалиа зеленого у вас нет. Но отличить зеленый от не зелёного можете. Но квалиа нет. Восхититься яркостью зеленой травы весной можете. Но квалиа нет.
Примерно такая же история и с философским зомби.
У меня не было бы квалии зелёного, если бы я был слепым. Притом с рождения.
К теме "квалиа" и к связанной с ней теме "филозомби" у меня двойственное отношение. С одной стороны, лучше так, чем совсем ничего. С другой стороны, качество получившейся времяночки так себе.
У меня не было бы квалии зелёного, если бы я был слепым. Притом с рождения.
Да. То есть представить себе идентичного вам человека, у которого отсутствует часть квалиа, вы не можете.
В то же время многие считают, что представить философского зомби, у которого отсутствуют все квалиа, но который действует точно также как если бы они были, более того, который физически ничем не отличается от обычного человека — ничего сложного.
Из-за этого я и отношусь с подозрением ко всем рассуждениям с участием философского зомби.
В то же время многие считают, что представить философского зомби, у которого отсутствуют все квалиа, но который действует точно также как если бы они были, более того, который физически ничем не отличается от обычного человека — ничего сложного.Это потому, что бихевиоризм продолжает жить, здравствовать и загаживать всем мозги даже после того, как об него вытерли ноги все, кому не лень. «Что если объект а по всем имеющимся признакам принадлежит множеству А, но по факту он ему не принадлежит?» Что делать? Как быть? Куды бечь? Является ли такая постановка вопроса вообще корректной?
Бихевиоризм утверждает, что такая постановка вопроса некорректна, и если значения характеристик под А подходят, то мы обязаны утверждать, что а — это А баз разговоров. Но по жизни мы понимаем, что это чушь. Если я по всем приметам похож на разыскиваемого убийцу, то из этого ведь не следует, что я это он и есть, правда ведь?
Для любого человека можно привести пример с радиоактивным излучением, (или ядом) боли нет, но за минуты можно получить повреждения не совместимые с жизнью. Человек будет вести себя как философский «зомби», осознавая опасность, но без болевого сигнала.
Интереснее с тараканами, опасности нет, но инстинкты и фобии столь сильны, что многие люди предпочтут небольшую дозу радиации «общению» с тараканами или пауками, эксперименты и опросы такие были.
Тема ИИ интересна уже тем, что изучая ИИ, люди больше понимают самих себя.
Интереснее с тараканами, опасности нет, но инстинкты и фобии столь сильны, что многие люди предпочтут небольшую дозу радиации «общению» с тараканами или пауками, эксперименты и опросы такие были.
Тема ИИ интересна уже тем, что изучая ИИ, люди больше понимают самих себя.
Эти зомби чаше встречаются не на физическом а на морально-этическом уровне.Можно сказать я то-же зомби, когда кто-то умирает мне из приличия приходится притворятся, что мне жаль этого человека и эмулировать
сострадание.И такого полно в обществе.Взять те-же нормы и устои это обшепринятые наборы действий на определённые события.А мода, причёски, одежда и тд тп.Мы все зомби.Другое что быть зомби не так уж плохо в обществе таких же зомби, иначе съедят.
сострадание.И такого полно в обществе.Взять те-же нормы и устои это обшепринятые наборы действий на определённые события.А мода, причёски, одежда и тд тп.Мы все зомби.Другое что быть зомби не так уж плохо в обществе таких же зомби, иначе съедят.
Перевод отличной статьи, спасибо ;)
Можете ли вы доказать, что все окружающие вас люди обладают сознанием, или, может быть, они просто хорошо имитируют его наличие?
А в чем разница? В имитации либо не хватает деталей, либо есть погрешности. Если имитация также детальна как оригинал и точно его воспроизводит, то это уже не имитация, а копия.
«Если что-то выглядит как утка, плавает как утка, и крякает как утка — это утка и есть» (с)
Никогда не понимал ни концепцию «философского зомби», ни «китайскую комнату». Если что-то выглядит как сознание, и достаточно хорошо его имитирует, то оно обладает сознанием. Все эти имитации — просто лишние сущности.
Так что, по моему, никакой разницы нет.
Наверное, людям неприятно от того, что что-то еще может сознанием обладать.
Никогда не понимал ни концепцию «философского зомби», ни «китайскую комнату». Если что-то выглядит как сознание, и достаточно хорошо его имитирует, то оно обладает сознанием. Все эти имитации — просто лишние сущности.
Так что, по моему, никакой разницы нет.
Наверное, людям неприятно от того, что что-то еще может сознанием обладать.
Слова всё-таки имеют смысл, и понятие имитация нужно для простых систем, у которых поведение тоже простое. Или для того, чтобы отделить что-то, существуюшее в природе от подобного, созданного по другим принципам.
«Если что-то выглядит как утка, плавает как утка, и крякает как утка — это утка и есть» (с)А еще это может быть хорошая подделка утки, купленная на али…
Вы говорите об имитации не совсем верно… Если вы имитируете некий результат деятельности, т.е. получаете нечто, что вы и хотите получить на выходе, то это вовсе не значит, что получившееся нечто было получено в результате работы интеллекта, сознания и т.д. Примеров же полно, обезьяна может простой комбинаторикой «написать» «Войну и Мир». Все зависит от времени, и кол-ва обезьян. Но это же вовсе не значит, что обезьяны написали «Войну и Мир» сознанием, подобным сознанию Льва Толстого. При этом, конечно же, результат будет идентичен. Но какими путями достигается этот результат?
Разум сам по себе иллюзия. Все поведение, каждая мысль из глубин есть программный алгоритм "код в мясе" Имитация "я" как точка начала. Все есть уже, один вопрос "я" дата, время, это тело, метод цикл индивидуален или повтора.
Господа, интеллект — это что?
А почему считают, что у китайской комнаты нет интеллекта? Да, человек, сидящий в ней и исполняющий инструкции, не знает китайского. Но тот, кто создал эти инструкции — определенно знал китайский. И неправильно рассматривать только человека, надо рассматривать комнату в целом, включая и инструкции, и исполнителя — эта система, на мой взгляд, обладает сознанием.
P.S. Зомби — симпатичная :)
P.S. Зомби — симпатичная :)
Зомби — симпатичная :)
А как же! Тонкий расчет создателей фильма. У зрителя начинают возникать всякие неоднозначные ветвящиеся мысли…
А насчет философского зомби или «Китайской нации»… Тут недалеко и до идеи субъективного идеализма и, в частности, солипсизма. Интересная тема.
И еще. У Анатолия Днепрова есть рассказ «Игра» (давно написан, еще, наверное, в начале 1960-х), где множество людей, играя роль элементов ЭВМ, перевели фразу с португальского на русский, не зная, естественно, португальского.
— Какой самый важный орган в человеке?
— Мозг!
— А кто вас убедил в этом?
Чем дольше я занимаюсь исследованиями в области ИИ, тем больше мне кажется, что концепция Сознания очень похожа на концепцию Бога. Как древние люди, не зная законов природы, считали, что существует некий объект (бог), который управляет погодой, солнцем и всем прочим, так и сейчас, еще не зная полностью законов функционирования мозга, мозг сам себе придумал некую мифическую субстанцию (сознание), которое вроде как объясняет наши мыслительные процессы. Думаю, в ближайшие 10 ± лет данная концепция будет опровергнута и все окажется хоть и сложнее (алгоритмически), но куда приземленнее.
— Мозг!
— А кто вас убедил в этом?
Чем дольше я занимаюсь исследованиями в области ИИ, тем больше мне кажется, что концепция Сознания очень похожа на концепцию Бога. Как древние люди, не зная законов природы, считали, что существует некий объект (бог), который управляет погодой, солнцем и всем прочим, так и сейчас, еще не зная полностью законов функционирования мозга, мозг сам себе придумал некую мифическую субстанцию (сознание), которое вроде как объясняет наши мыслительные процессы. Думаю, в ближайшие 10 ± лет данная концепция будет опровергнута и все окажется хоть и сложнее (алгоритмически), но куда приземленнее.
Давно возмущает вот какой момент. Некоторые критики создания ИИ (типа мозговеда Сергея Савельева) опираются на арифметику — берут 100 миллиардов нейронов в человеческом мозге, тысячи синапсов каждого нейрона, десятки кодов в каждом синапсе, тот факт, что синапсы постоянно появляются-исчезают, т.е. связи между нейронами динамические, да ещё и аналоговые а не бинарные…
… и приходят к выводу, что смоделировать транзисторной двоичной логикой такой мегасложный организьм нереально — не хватит вещества во всей Вселенной на этот ИИ.
Но!
Позвольте полюбопытствовать — «вам шашечки или ехать?» Вам нужно эффективное транспортное средство — тогда вы берёте колесо, или вам нужна тупая имитация существующих в природе движителей и вы героически пытаетесь создать шагоход?
Если вам нужен ИИ, то разберитесь в корне вопроса — что такое Интеллект и создавайте его из эффективных инструментов, а не тупо моделируйте работу биологического мозга — у мозга человека помимо размышлений есть тонны сопутствующих проблем — от того, «что пожрать на сто рублей», до того, как справиться с инфекцией в среднем ухе… — ну то есть из сотен миллиардов нейронов в творческом интеллектуальном процессе дай бог участвует какой-то мизерный процент.
… и приходят к выводу, что смоделировать транзисторной двоичной логикой такой мегасложный организьм нереально — не хватит вещества во всей Вселенной на этот ИИ.
Но!
Позвольте полюбопытствовать — «вам шашечки или ехать?» Вам нужно эффективное транспортное средство — тогда вы берёте колесо, или вам нужна тупая имитация существующих в природе движителей и вы героически пытаетесь создать шагоход?
Если вам нужен ИИ, то разберитесь в корне вопроса — что такое Интеллект и создавайте его из эффективных инструментов, а не тупо моделируйте работу биологического мозга — у мозга человека помимо размышлений есть тонны сопутствующих проблем — от того, «что пожрать на сто рублей», до того, как справиться с инфекцией в среднем ухе… — ну то есть из сотен миллиардов нейронов в творческом интеллектуальном процессе дай бог участвует какой-то мизерный процент.
Sign up to leave a comment.
Искусственный интеллект и призрак в машине