Comments 59
Вот это важный момент, который многие почему-то не понимают, по умолчанию «очеловечивая» искусственный разум.
его природа изначально другая
А что это за "природа" у людей, которая позволяет на испытать боль, а ИИ — нет? Можно подробнее? Это что-то измеримое (хотя бы в теории) или вы о душе?
весь наш разум — тонкая обертка вокруг нервной (и не только) системы животного
Надстройка, а не обертка. Это принципиально другая вещь.
У компьютера совершенно другая природа
У компьютера — да. Но компьютер не ИИ.
У него нет миллионов лет отбора, сформировавшего опыт боли, страдания, страха и других эмоций.
Эмоции — не эволюционное наследие. Как минимум, эмоции — это продукт рефлексии и саморефлексии нашего разума по разнообразным биохимическим поводам, включая эволюционное наследие.
Откуда взяться страху у ИИ, у которого нет вообще никакого естественного отбора?
Пока совершенно неясен минимальный набор функциональности для создания человекоподобного (а другого у нас для вас нет, как говорится) разума — это остаётся риторическим вопросом. Возможно, без этого просто ничего не взлетит.
У него нет миллионов лет отбора, сформировавшего опыт боли, страдания, страха и других эмоций.
Ну и что? Если сделают ИИ и он скажет, что испытывает боль — вы ему ответите, что он врёт, потому что не было миллионов лет отбора? Это не довод.
Если вы спросите, откуда возьмётся боль — люди сделают. Просто потому что могут (когда смогут). И когда он попросит не причинять ему боль, вы что ответите? "Ты не живой"? Как вы это обоснуете? Ну кроме происхождения, конечно. Тут-то просто — если сделали на фабрике, сочувствия не достоин. Но не все люди с этим согласятся.
вы ему ответите, что он врёт, потому что не было миллионов лет отбора? Это не довод.А как определить, что он действительно не врёт? Это же такой удобный способ манипуляции людьми: делай, как я сказал, иначе мне будет больно, а ты будешь иметь проблемы с коммисией по защите чувств роботов )))
Как и с людьми — надёжно — никак. Вот только комиссии по защите чувств людей не существует, можно и для роботов такую тоже не делать )
Там можно ответить за причинение боли, или оскорбление чувств.
Суд, он по закону. Это не комиссия по этике. Если потребуется суд для роботов — сделают. И если робот захочет манипулировать — пусть в суде робосудье докажет свои страдания )
Суд решает и моральной этические вопросы. Оскорбление, моральный ущерб, репутация и прочее. В основном по формальным признакам, прописанным в разных кодексах. Надо будет — и робосудья признаёт моральный вред ИИ от юзера. Если таковой вред наказуемым согласно законодательства.
Согласен. Я это к тому, что принципиально новых вызовов не возникает. Принципиально новое только одно — будем ли мы считать, что робот может испытать боль, при условии, что он очень убедительно это показывает. Если да — верить ему или не верить, можно решать через кодексы (или ещё как). Если нет — мы можем запретить создание роботов, показывающих негативные эмоции. И уголовно наказывать тех, кто будет пробовать таких создавать.
У него нет миллионов лет отбора
Эти миллионы лет можно симулировать быстрее
habr.com/post/415461: На данный момент боты наиграли около 180 лет
У особей, которые не боялись, было больше шансов быть сожранными хищниками, чем у тех кто боялся и принимал меры предосторожности
А кто мешает учить систему ценить выживаемость? Ставите как цель и система обучается принимать решения, которые повышают шанс выживаемости. Представьте простого бота, который убегает от игрока, если оценивает событие встречи с ним, как снижение вероятности выживаемости. Добавляем опцию «убить игрока». Добавляем опцию «оценить группу игроков». Получаем: выгоднее «убить одинокого игрока», чтобы уменьшить вероятность события «встреча с группой игроков».
Эти миллионы лет можно симулировать быстрееГораздо больше — 180 лет он наигрывал за 1 сутки.
habr.com/post/415461: На данный момент боты наиграли около 180 лет
И вот мы подходим к тому, о чем говорится в статье. Насколько этично делать группу ботов, которые способны чувствовать боль и страх, и заставлять их сражаться друг с другом в стиле "останется только один"? Или дать им возможность объединяться в группы и сделать цель уменьшать вероятность нападения других групп?
С другой стороны, боль можно заменить прагматичным страхом повреждений, когда бот знает, что если он ранен в руку, то будет хуже махать мечом, хоть ничего и не чувствует. Это то же самое, что и боль, или нет? Или дело только в коэффициенте влияния?
А для людей? В чем отличие? Желательно надёжное. Утверждение, что человек "чувствует боль" — не отличие, робот тоже может так сказать.
Именно химическое воздействие — настоящая боль, а электрическое — не настоящая? Так и вижу борьбу за права электрических. "Электрическая боль — тоже боль!"
На практике, мы не знаем, что же такого особенного в ощущениях. Чем они отличаются от сигналов. А если не знаем, то требовать от ИИ подчинения у нас может не получиться. Он может не согласиться просто так (по неизвестному сбою, например) и чем это закончится — не ясно.
И в-вторых — если мы напрямую возбудим нейрон отвечающий за ощущение боли — то это ненастоящая боль, хотя подопытный разницы не поймёт.
У биологических людей — да. У обсуждаемых роботов будет, вероятно, именно электрическое.
это ненастоящая боль, хотя подопытный разницы не поймёт.
Аргументируйте. Что значит не настоящая? В смысле, такую боль можно игнорировать? А сможете?
не связанная с нанесением реальных повреждений
Неожиданное название. Моральная боль — тоже не настоящая? Впрочем, это уже очень далеко от изначальной темы.
Подданные этого негодяя Экзилия действительно подвергаются пыткам и казням, хнычут, дерутся, целуются, но оттого и потому, что я соответствующим образом сочетал параметры, а о том, чувствуют ли они что-нибудь при этом, ничего неизвестно, Клапауций, потому что ничего тебе об этом не скажут электроны, пляшущие в их головах!
– Если б я тебе голову разбил, тоже ничего не увидел бы, кроме электронов, это верно, – ответил тот. – Ты, наверное, представляешься, будто не видишь того, на что я указываю: я отлично знаю, что ты не так глуп! Граммофонную пластинку ты ни о чем не спросишь, пластинка не будет просить у тебя пощады и на колени не станет! Неизвестно, говоришь, стонут ли они от ударов лишь потому, что так им подсказывают электроны, которые при движении рождают звук, либо вправду кричат от нестерпимых мук? Тоже мне разница! Да ведь страдает не тот, кто свое страдание может дать тебе в руки, чтобы ты его мог ощупать, надкусить и взвесить, а тот, кто ведет себя как терпящий муки! Вот докажи мне, что они не чувствуют ничего, не мыслят, что они вообще не существуют как создания, сознающие, что они замкнуты между двумя безднами небытия – той, что до рождения, и той, что после смерти, – докажи мне это, и я перестану к тебе приставать! Вот докажи мне, что ты только имитировал страдание, но не создал его!
Узнаем ли мы, если ИИ будет опасно перестраивать таблицу машрутизации, с риском отключиться от какой-либо важной для функционирования системы, чтобы получить новый опыт или какую-то другую «радость»? :)
Очень интересная статья! Вспомнил http://moralmachine.mit.edu/hl/ru
Сильный ИИ (true, general, настоящий)
Неудачная калька с английского.
Есть более правильный по смыслу вариант — «искусственный разум» (любимое детище фантастов)
Соответственно «Слабый ИИ (narrow, поверхностный)» — просто «искусственный интеллект»
(в русском языке «слабый интеллект=дурак» )
Что любопытно, североамериканские ученые считают, что ИИ превзойдет человека через 74 года, а азиатские — что всего через 30.
очевидно же — превзойти среднеазиатского ученого, например из Пакистана в среднем намного проще, чем среднесевероамериканского — из шатов или Канады.
Этические вопросы искусственного интеллекта