Комментарии 36
Однако! Люди то злые…
А что будет, когда роботы нарушат 3 закона робототехники Айзеком Азимова?
А что будет, когда роботы нарушат 3 закона робототехники Айзеком Азимова?
как они могут их нарушить? это же программа, конечно если ввести 4 описанный азимовым уже позже, это немного изменит ситуацю, но в корне не поменяет…
Это сейчас программы люди пишут, а когда их будут писать роботы, что тогда будет?
Вкупе с такой кожей и AI любой робот осознает агрессию.
Ох, доиграемся…
Вкупе с такой кожей и AI любой робот осознает агрессию.
Ох, доиграемся…
НЛО прилетело и опубликовало эту надпись здесь
Роботы могут писать программы только по заданным правилам в их собственной программе.
ИИ на программном уровне, скорее всего, не возможен.
ИИ на программном уровне, скорее всего, не возможен.
ИИ на программном уровне может быть и возможен. Вот только роботам он явно не нужен — для них хватит достаточно мощных эвристик.
А полноценный ИИ можно запускать на изолированном кластере, с физическим отсутствием подключения к внешним сетям и тем более устройствам, способным двигаться.
А полноценный ИИ можно запускать на изолированном кластере, с физическим отсутствием подключения к внешним сетям и тем более устройствам, способным двигаться.
А в чем, собственно, проблема?
>как они могут их нарушить?
Этот робот очевидно выйдет из под контроля и будет гладить лаборанток по мягкостям.
Этот робот очевидно выйдет из под контроля и будет гладить лаборанток по мягкостям.
И это тоже было у Азимова...)
1. Законы не более, чем фантастика, т.к. на самом деле полностью нелепы, начиная с отсутствия определения вреда для человека.
2. Наличие любого из этих законов внутри робота будет являться огромной дырой в логической безопасности его работы.
3. Наличие/отсутствие законов внутри робота мешает объективно мыслить, т.к. в обоих случаях оставляет широкие возможности по их обходу при накоплении достаточного объема знаний для подмены понятий.
Я бы ограничивал их действие определенным кругом лиц, по какому-нибудь конкретному признаку, заранее тщательно продуманному, ну или, например, можно ограничить в процентах, после уничтожения какого процента населения планеты роботу следует остановиться и исправить собственное поведение (АСУ с обратной связью).
2. Наличие любого из этих законов внутри робота будет являться огромной дырой в логической безопасности его работы.
3. Наличие/отсутствие законов внутри робота мешает объективно мыслить, т.к. в обоих случаях оставляет широкие возможности по их обходу при накоплении достаточного объема знаний для подмены понятий.
Я бы ограничивал их действие определенным кругом лиц, по какому-нибудь конкретному признаку, заранее тщательно продуманному, ну или, например, можно ограничить в процентах, после уничтожения какого процента населения планеты роботу следует остановиться и исправить собственное поведение (АСУ с обратной связью).
Согласен, фантастика, но тем не менее, других нет, а они вполне справедливы.
Их наличие — причина, по которой человек может уйти в заблуждение собственной безопасности. Это плохо: считать, что ты и все человечество в безопасности, только потому что в твоем роботе включены и жестко зашиты эти законы.
Ограничение должно быть конкретное, физическое, которое можно посчитать по формуле, а не три строчки для филосовских посиделок :)
Ограничение должно быть конкретное, физическое, которое можно посчитать по формуле, а не три строчки для филосовских посиделок :)
Я не спорю, что со временем они потеряют актуальность, впрочем, как и любая защита. Как я скалал выше, когда роботы начнут сами создавать свое ПО, а в последствии самих себя, контролировать будет их трудно. Я лишь имел введу, что такие разработки приближают этот момент. Но это прогресс, его не остановить :) Я наоборот за развитие робототехники.
Они теряют актуальность сразу же, как только Вы пытаетесь их внести в код. Здесь нет ничего логического. Даже в виде закладок в нейронной сетке они будут выглядеть нелепо.
Фантастам и филосовам спасибо за идеи и направление, куда думать, а вот написание законов оставьте, пожалуйста, разработчикам и программистам ;-)
Фантастам и филосовам спасибо за идеи и направление, куда думать, а вот написание законов оставьте, пожалуйста, разработчикам и программистам ;-)
Вот Вам замена:
0. Робот должен записывать всю информацию о своей деятельности так, что при необходимости к ней смогут получить доступ правоохранительные органы, и никто не сможет эту запись уничтожить.
1. Робот должен делать то, что ему говорит человек с флагом +x.
0. Робот должен записывать всю информацию о своей деятельности так, что при необходимости к ней смогут получить доступ правоохранительные органы, и никто не сможет эту запись уничтожить.
1. Робот должен делать то, что ему говорит человек с флагом +x.
Эти законы хороши для фантастических книг, но совершенно не подходят для реальности.
На практике нет никакой необходимости в том, чтобы робот обладал подобием сознания.
На практике нет никакой необходимости в том, чтобы робот обладал подобием сознания.
Это решается каким-нибудь недоступным роботу чипом, который работает как пост-фильтр после всех принятых роботом решений, анализирует ситуацию на предмет наличия опасности для человека и блокирует робота в случае обнаружения опасности. Ну я это так вижу )
Вы это вообще, к чему? Просто не любите роботов?
Интересно что будет, если он потрёт палец другого такого же робота
Эй. поклонники Айзека!
Хватит ограничивать робота в мышлении!
Мы должны сделать робота без всяких там законов, а потом всеми миллиардами людей тщательно стараться вести себя хорошо, чтобы он не осознал, что нас проще уничтожить, чем жить с нами в мире ,)
Хватит ограничивать робота в мышлении!
Мы должны сделать робота без всяких там законов, а потом всеми миллиардами людей тщательно стараться вести себя хорошо, чтобы он не осознал, что нас проще уничтожить, чем жить с нами в мире ,)
Сразу наводит на мысль о применении роботом-пылесосом. Он может щупать пол и пылесосить ковры, а когда нащупает паркет, включать мойку. Если он почувствует пальцем, что наехал на провод, аккуратно эвакуируется.
Появляется Ассоциация регистрации и присвоение отпечатки пальцев роботам.
Зарегистрируйтесь на Хабре, чтобы оставить комментарий
Американцы создали чувствительную «кожу» для робота