Согласно распространенному мнению, технологическая сингулярность возникнет сразу после создания искусственного интеллекта, всецело превосходящего интеллект человека.
Наиболее очевидным шагом на этом пути является понимание принципов устройства уже работающего разума животных и человека.
Большинство функций нашего разума удается достаточно хорошо воспроизвести с помощью компьютера: компьютер умеет решать задачи по вложенному алгоритму, анализировать, распознавать зрительные образы, распознавать и генерировать речь, отвечать на вопросы и пр. Во многом еще хуже человека и животных, но прогресс есть.
Однако есть нечто, в чем компьютер бессилен – это способность к эмоциям. Речь не о внешнем их проявлении, а внутренней составляющей. Никакого прогресса, ни малейшей надежды на хоть сколь-нибудь примитивное их воспроизведение. Вообще ноль.
Почему это так важно? При решении исследовательской задачи нужно «бить по всем фронтам». Любая, даже не важная на первый взгляд деталь, может послужить зацепкой и помочь понять цельную картину, разрешить загадку.
Согласно формальной модели эмоций ОСС, простейшими видами эмоций являются радость и горе. Иначе сказать, наслаждение и страдание.
Итак, постановка цели: создать устройство, способное к ощущению боли и/или наслаждения. При этом вовсе не нужно, чтобы эта боль или наслаждение как-либо проявлялись для внешнего наблюдателя.
В данной статье собраны 7 гипотез о том, как это можно сделать, включая наиболее бредовые. Можно считать это мозговым штурмом, так что буду благодарен за новые взгляды в комментариях.
Но сначала разбор мифов:
Всякий раз, когда обсуждаю этот вопрос, находятся люди, которые глубоко убеждены, что природа эмоций давно известна – это всего лишь химия, а именно гормон дофамин. Такие рассуждения, сказанные с уверенностью Шарикова, повергают меня в уныние.
Дофамин является нейромедиатором. Нейромедиатор – это вещество, посредством которого происходит передача нервного импульса. Все! Ничего более он не делает.
Нейромедиаторы, в том числе дофамин, лишь передают сигнал. Запускают некий механизм. Сами по себе нейромедиаторы не являются этим механизмом, и колба с дофамином никаких эмоций ощущать не будет. Механизм можно запустить и иным путем, к примеру, подключив электрод к определенной области мозга.
Это вполне годится для внешнего проявления, к примеру, для роботостроения. Вы можете создать робота, который будет улыбаться, когда pleasure примет положительное значение больше n, или плакать, когда pleasure примет отрицательное значение.
Но внешнее проявление ничего общего с внутренним ощущением боли или наслаждения не имеет. Актер может кричать от боли, но на самом деле ему не будет больно.
Итак, если мы уберем внешнее проявление, что же у нас останется? А ничего. Значение, которое никакого объективного значения к боли или наслаждению не имеют. Лишь в вашей голове останется ассоциация, что положительные значения – это наслаждение, а отрицательные – боль. С точки зрения механизма не будет никакой разницы между болью и наслаждением, а, следовательно, их не существует.
Приведу аналогию. Вы включили компьютер, запустили программу SETI@home. Откуда вы знаете, что программа действительно производит полезные вычисления, а не просто нагружает процессор и отображает мнимый прогресс? Как отличить настоящую программу, которая действительно выполняет вычисления, от той программы, которая лишь делает вид вычислений? Это можно сделать, к примеру, изучив исходный код программы.
Некая версия программы может вовсе не отображать прогресс (никак себя не проявлять для внешнего наблюдателя, разве что нагружать процессор). Однако и в этом случае есть возможность отличить настоящие вычисления от мнимых.
Нечто похожее с эмоциями. Зная их устройство вы можете сказать испытывает ли тот или иной механизм эмоции, или же лишь отображает их проявление («мнимый прогресс», в рамках примера выше).
Дело в том, что все базовые понятия невыводимы. Один из примеров – математическое множество. Даже такая точная наука как математика использует термины, не имеющие формального определения.
Попробуйте определить время или пространство в физике, число в математике и т.д.
Итак, теперь варианты как гипотетически можно сделать простейшее устройство, способное испытать эмоции.
Классическая теория описывает нейрон как некое вычислительное устройство, функции которого возможно воссоздать на классическом компьютере (вплоть до того, что заменить живой нейрон его искусственным аналогом).
Разум состоит из нейронов. Стало быть, и искомые боль или наслаждение – это некая программа (пусть и очень сложная). Именно при исполнении этой программы возникает чувство боли или наслаждения.
Тогда задача примет вид: найти минимальный алгоритм, при исполнении которого у исполняющего устройства возникнет чувство боли. Если, конечно, природа боли является обработкой данных.
Направление поиска уже задано: создание модели Blue Brain Project, Human Brain Project и пр. Безусловно, проекты многообещающие и очень важные. Если вдруг ничего не выйдет, можно будет обратиться к маргинальным гипотезам.
Эмерджентность – наличие у какой-либо системы особых свойств, не присущих её подсистемам и блокам. Одно дерево — не лес, скопление отдельных клеток — не организм.
В таком случае задача примет вид: найти минимальное количество подсистем, необходимых для создания системы, способной ощущать боль или наслаждение. Вопрос о природе каждой подсистемы остается открытым (все ли подсистемы суть компьютеры).
Среди отцов-основателей этой гипотезы Роджер Пенроуз. Он не какой-нибудь фрик, а вполне авторитетный ученый.
Поскольку квантовые вычисления – это тоже вычисления, задача целиком аналогична той, которая определена для гипотезы 1. Разница лишь в том, что квантовый алгоритм на классическом компьютере выполнить не удастся. Но это ничего не меняет: если боль — это исполнение алгоритма, пусть и требующего квантового компьютера – приведите мне этот алгоритм.
Вытекает из электромагнитной теории сознания.
В принципе, ничем не отливается от гипотезы 1, лишь является ее вариацией (кроме синапсов и аксонов добавляется электромагнитное взаимодействие).
Почему магнит притягивает гвоздь на расстоянии? Таково его свойство. И оно вытекает из свойств электрона: электрон является минимальным магнитом. Можно намагнитить стальной предмет – для этого нужно упорядочить его электроны с помощью сильного магнитного поля. Более глубокого объяснения нет.
Быть может некая элементарная частица обладает и способностью к ощущению, однако эта способность требует особых условий для ее проявления.
Почему светлячок светится? Конечно, он испускает фотоны, элементарные частицы. Но для этого необходимы определенные условия.
В таком случае задача примет вид: найти условие при котором материальное тело становится способным ощущать боль или наслаждение.
У каждого физического тела есть длина, ширина и высота. Есть время. Их можно назвать базовыми свойствами нашего мира.
Можно предположить, что базовым свойством нашего мира так же является способность ощущать. Но как для обнаружения течения времени нужны определенные условия (к примеру, наличие часов), так и для обнаружения такого свойства мира как ощущение – нужны некие условия.
Задачей будет: создание таких условий, при которых обнаруживается способность мира ощущать.
В некоторых случаях физика уходит на второй план… Вы можете изучать как работает транзистор, собрать генератор электромагнитных колебаний. Однако, если ваш генератор с куском провода в качестве антенны будет работать на частоте 156,8 МГц (не самый плохой вариант), в скором времени могут появиться незнакомые люди и отправить вас в плохое место.
Кроме физической величины есть еще и законы государства. С точки зрения физики частота 156,8 МГц ничем не примечательна, а с точки зрения законов государства – эта частота очень важна в морском деле.
Если предположить, что кроме нас в огромной вселенной существует другая разумная жизнь, находящаяся на более высоком уровне развития, то, вполне вероятно, что тайна устройства эмоций (а, следовательно, и сознания) является наиболее охраняемой. И мозг – не более чем фронт-энд, а самое интересное спрятано в другом месте, как золото в неприступном Форт-Ноксе.
В таком случае задача примет вид: как удается передавать сигнал выше скорости света. Быть может используется некий эффект, о котором мы еще не знаем (или вариации с квантовой запутанностью).
И хотя это не отменяет того факта, что природа эмоций воспроизводима, играть с огнем никто не захочет.
Можно предположить, что каждая частица нашего мира – это лишь компьютерная симуляция. В таком случае, если сознание (и эмоции) возникает в рамках компьютерной модели, то изучение его устройства не изменяется (т.е. для нас разницы нет).
Если же сознание (и эмоции) находятся в не эмулируемом мире, а в наш мир перебрасываются с помощью некого моста, то существует вероятность принципиальной невозможности их изучения. Возможно даже, что сознание не реализуемо в рамках нашего мира.
В таком случае задача примет вид: найти мост, через который передается информация между компьютерной симуляцией (нашим миром) и реальным миром. Этим мостом может быть, к примеру, генератор случайных чисел.
Для разработчиков очень легко представить идею открытого индивидуализма. На вашем компьютере может быть 1 процессор (и 1 ядро), но при этом открыто с десяток окон и каждое из них работает независимо, создается впечатление, что все они работают одновременно. Достигается механизмом прерываний.
По аналогии, каждый человек – как открытая программа, а некое вселенское «Я» – как процессор, который поочередно «находит» себя в одной из программ.
Это согласуется с гипотезами 6, 7, 8 (т.е. открытый индивидуализм возможен в рамках этих гипотез, но не обязательно следует из них).
Статья написана в стиле мозгового штурма без применения веществ. Некоторые идеи можно сразу отбраковать, но для полноты не будем этого делать. Будет интересно услышать альтернативные гипотезы, которые вам известны.
Наиболее очевидным шагом на этом пути является понимание принципов устройства уже работающего разума животных и человека.
Большинство функций нашего разума удается достаточно хорошо воспроизвести с помощью компьютера: компьютер умеет решать задачи по вложенному алгоритму, анализировать, распознавать зрительные образы, распознавать и генерировать речь, отвечать на вопросы и пр. Во многом еще хуже человека и животных, но прогресс есть.
Однако есть нечто, в чем компьютер бессилен – это способность к эмоциям. Речь не о внешнем их проявлении, а внутренней составляющей. Никакого прогресса, ни малейшей надежды на хоть сколь-нибудь примитивное их воспроизведение. Вообще ноль.
Почему это так важно? При решении исследовательской задачи нужно «бить по всем фронтам». Любая, даже не важная на первый взгляд деталь, может послужить зацепкой и помочь понять цельную картину, разрешить загадку.
Согласно формальной модели эмоций ОСС, простейшими видами эмоций являются радость и горе. Иначе сказать, наслаждение и страдание.
Итак, постановка цели: создать устройство, способное к ощущению боли и/или наслаждения. При этом вовсе не нужно, чтобы эта боль или наслаждение как-либо проявлялись для внешнего наблюдателя.
В данной статье собраны 7 гипотез о том, как это можно сделать, включая наиболее бредовые. Можно считать это мозговым штурмом, так что буду благодарен за новые взгляды в комментариях.
Но сначала разбор мифов:
Миф 1: удовольствие — это гормон дофамин
Всякий раз, когда обсуждаю этот вопрос, находятся люди, которые глубоко убеждены, что природа эмоций давно известна – это всего лишь химия, а именно гормон дофамин. Такие рассуждения, сказанные с уверенностью Шарикова, повергают меня в уныние.
Дофамин является нейромедиатором. Нейромедиатор – это вещество, посредством которого происходит передача нервного импульса. Все! Ничего более он не делает.
Нейромедиаторы, в том числе дофамин, лишь передают сигнал. Запускают некий механизм. Сами по себе нейромедиаторы не являются этим механизмом, и колба с дофамином никаких эмоций ощущать не будет. Механизм можно запустить и иным путем, к примеру, подключив электрод к определенной области мозга.
Миф 2: для воспроизведения наслаждения и страдания, нужно всего лишь ввести переменную pleasure
Это вполне годится для внешнего проявления, к примеру, для роботостроения. Вы можете создать робота, который будет улыбаться, когда pleasure примет положительное значение больше n, или плакать, когда pleasure примет отрицательное значение.
Но внешнее проявление ничего общего с внутренним ощущением боли или наслаждения не имеет. Актер может кричать от боли, но на самом деле ему не будет больно.
Итак, если мы уберем внешнее проявление, что же у нас останется? А ничего. Значение, которое никакого объективного значения к боли или наслаждению не имеют. Лишь в вашей голове останется ассоциация, что положительные значения – это наслаждение, а отрицательные – боль. С точки зрения механизма не будет никакой разницы между болью и наслаждением, а, следовательно, их не существует.
Миф 3: невозможно узнать испытывает ли механизм боль или наслаждение, если он никак их не проявляет
Приведу аналогию. Вы включили компьютер, запустили программу SETI@home. Откуда вы знаете, что программа действительно производит полезные вычисления, а не просто нагружает процессор и отображает мнимый прогресс? Как отличить настоящую программу, которая действительно выполняет вычисления, от той программы, которая лишь делает вид вычислений? Это можно сделать, к примеру, изучив исходный код программы.
Некая версия программы может вовсе не отображать прогресс (никак себя не проявлять для внешнего наблюдателя, разве что нагружать процессор). Однако и в этом случае есть возможность отличить настоящие вычисления от мнимых.
Нечто похожее с эмоциями. Зная их устройство вы можете сказать испытывает ли тот или иной механизм эмоции, или же лишь отображает их проявление («мнимый прогресс», в рамках примера выше).
Миф 4: пока не будет приведено формальное определение боли/наслаждения – нет смысла о чем-либо говорить
Дело в том, что все базовые понятия невыводимы. Один из примеров – математическое множество. Даже такая точная наука как математика использует термины, не имеющие формального определения.
Попробуйте определить время или пространство в физике, число в математике и т.д.
Итак, теперь варианты как гипотетически можно сделать простейшее устройство, способное испытать эмоции.
Классическая теория: компьютерная программа
Классическая теория описывает нейрон как некое вычислительное устройство, функции которого возможно воссоздать на классическом компьютере (вплоть до того, что заменить живой нейрон его искусственным аналогом).
Разум состоит из нейронов. Стало быть, и искомые боль или наслаждение – это некая программа (пусть и очень сложная). Именно при исполнении этой программы возникает чувство боли или наслаждения.
Тогда задача примет вид: найти минимальный алгоритм, при исполнении которого у исполняющего устройства возникнет чувство боли. Если, конечно, природа боли является обработкой данных.
Направление поиска уже задано: создание модели Blue Brain Project, Human Brain Project и пр. Безусловно, проекты многообещающие и очень важные. Если вдруг ничего не выйдет, можно будет обратиться к маргинальным гипотезам.
Гипотеза 1: эмерджентность
Эмерджентность – наличие у какой-либо системы особых свойств, не присущих её подсистемам и блокам. Одно дерево — не лес, скопление отдельных клеток — не организм.
В таком случае задача примет вид: найти минимальное количество подсистем, необходимых для создания системы, способной ощущать боль или наслаждение. Вопрос о природе каждой подсистемы остается открытым (все ли подсистемы суть компьютеры).
Гипотеза 2: квантовые вычисления
Среди отцов-основателей этой гипотезы Роджер Пенроуз. Он не какой-нибудь фрик, а вполне авторитетный ученый.
Поскольку квантовые вычисления – это тоже вычисления, задача целиком аналогична той, которая определена для гипотезы 1. Разница лишь в том, что квантовый алгоритм на классическом компьютере выполнить не удастся. Но это ничего не меняет: если боль — это исполнение алгоритма, пусть и требующего квантового компьютера – приведите мне этот алгоритм.
Гипотеза 3: Электромагнитное поле
Вытекает из электромагнитной теории сознания.
В принципе, ничем не отливается от гипотезы 1, лишь является ее вариацией (кроме синапсов и аксонов добавляется электромагнитное взаимодействие).
Гипотеза 4: базовое свойство материи
Почему магнит притягивает гвоздь на расстоянии? Таково его свойство. И оно вытекает из свойств электрона: электрон является минимальным магнитом. Можно намагнитить стальной предмет – для этого нужно упорядочить его электроны с помощью сильного магнитного поля. Более глубокого объяснения нет.
Быть может некая элементарная частица обладает и способностью к ощущению, однако эта способность требует особых условий для ее проявления.
Почему светлячок светится? Конечно, он испускает фотоны, элементарные частицы. Но для этого необходимы определенные условия.
В таком случае задача примет вид: найти условие при котором материальное тело становится способным ощущать боль или наслаждение.
Гипотеза 5: базовое свойство нашего мира
У каждого физического тела есть длина, ширина и высота. Есть время. Их можно назвать базовыми свойствами нашего мира.
Можно предположить, что базовым свойством нашего мира так же является способность ощущать. Но как для обнаружения течения времени нужны определенные условия (к примеру, наличие часов), так и для обнаружения такого свойства мира как ощущение – нужны некие условия.
Задачей будет: создание таких условий, при которых обнаруживается способность мира ощущать.
Гипотеза 6: мозг как приемо-передатчик
В некоторых случаях физика уходит на второй план… Вы можете изучать как работает транзистор, собрать генератор электромагнитных колебаний. Однако, если ваш генератор с куском провода в качестве антенны будет работать на частоте 156,8 МГц (не самый плохой вариант), в скором времени могут появиться незнакомые люди и отправить вас в плохое место.
Кроме физической величины есть еще и законы государства. С точки зрения физики частота 156,8 МГц ничем не примечательна, а с точки зрения законов государства – эта частота очень важна в морском деле.
Если предположить, что кроме нас в огромной вселенной существует другая разумная жизнь, находящаяся на более высоком уровне развития, то, вполне вероятно, что тайна устройства эмоций (а, следовательно, и сознания) является наиболее охраняемой. И мозг – не более чем фронт-энд, а самое интересное спрятано в другом месте, как золото в неприступном Форт-Ноксе.
В таком случае задача примет вид: как удается передавать сигнал выше скорости света. Быть может используется некий эффект, о котором мы еще не знаем (или вариации с квантовой запутанностью).
И хотя это не отменяет того факта, что природа эмоций воспроизводима, играть с огнем никто не захочет.
Гипотеза 7: наш мир – компьютерная симуляция
Можно предположить, что каждая частица нашего мира – это лишь компьютерная симуляция. В таком случае, если сознание (и эмоции) возникает в рамках компьютерной модели, то изучение его устройства не изменяется (т.е. для нас разницы нет).
Если же сознание (и эмоции) находятся в не эмулируемом мире, а в наш мир перебрасываются с помощью некого моста, то существует вероятность принципиальной невозможности их изучения. Возможно даже, что сознание не реализуемо в рамках нашего мира.
В таком случае задача примет вид: найти мост, через который передается информация между компьютерной симуляцией (нашим миром) и реальным миром. Этим мостом может быть, к примеру, генератор случайных чисел.
Бонус: открытый индивидуализм
Для разработчиков очень легко представить идею открытого индивидуализма. На вашем компьютере может быть 1 процессор (и 1 ядро), но при этом открыто с десяток окон и каждое из них работает независимо, создается впечатление, что все они работают одновременно. Достигается механизмом прерываний.
По аналогии, каждый человек – как открытая программа, а некое вселенское «Я» – как процессор, который поочередно «находит» себя в одной из программ.
Это согласуется с гипотезами 6, 7, 8 (т.е. открытый индивидуализм возможен в рамках этих гипотез, но не обязательно следует из них).
Вывод
Статья написана в стиле мозгового штурма без применения веществ. Некоторые идеи можно сразу отбраковать, но для полноты не будем этого делать. Будет интересно услышать альтернативные гипотезы, которые вам известны.
