Как стать автором
Обновить

Папа римский: Этика для ИИ и беспилотных автомобилей

Время на прочтение 12 мин
Количество просмотров 2K
Всего голосов 19: ↑12 и ↓7 +5
Комментарии 10

Комментарии 10

Эмм… ИИ никому ничего не должен. (можно заменить слово «ИИ» на «кирпич» или на «собака» — и сразу станет понятно, какая это глупость)
Про беспристрастность вообще поржал — вспомнил, как нейросеть определял большую часть нигеров в преступников. Вопрос, как не определять негров в преступников, если они совершают в разы больше преступлений? Это косяк общества, а не ИИ. Про этику вообще глупость. Беспилотный мобиль не имеет своей воли, он раздавит человека или врежется в кого-то только если этот кто-то непроходимо туп и нарушает ПДД. Тут скорее надо вводить презумпцию разума, согласно которой идиотские действия человека (например нарушение ПДД), повлекшие его смерть приравниваются к -роскомнадзору-
Если вспомнить тот глупый эксперимент с тележкой и стрелкой — ИИ не делает выбора, он всегда работает в рамках алгоритма и до последнего будет выполнять программу. У него в принципе отсутствует и не может быть понятия «этика».
Давайте заменим «ИИ» на «Религия» и отправим обратно Папе?)

А что это изменит? Замените солово "Папа" на "Ангела Меркель" и что?

ИИ не делает выбора, он всегда работает в рамках алгоритма

Эммм… Вы о слабом ИИ, что ли? Сильный ИИ не будет по определению «работать в рамках алгоритма».
Странно читать на техническом ресурсе высказывания человека, который возглавляет группу людей, ставящих в основу своей жизни древние и противоречащие друг другу сказки.
Потому что этику ИИ будут определять не технари.

Ну не так уж эти, как вы заметили, "сказки" противоречивы. И да, как заметил Vlad800, этику ИИ будут и должны (на мой скромный взгляд) определять не технари.

Правда заключается в том, что люди, которые разработали и внедрили компьютерную систему несут полную ответственность, так как это они не предприняли достаточные меры и не уделили своей работе достаточно внимания.

Лицензии практически всех как опенсоурсных так и очень платных программ содержат раздел об отказе об ответственности. И что теперь с этим делать? Купить платную систему за очень большие деньги или ее же аналог взять бесплатно. После чего взять на себя ответственность за всех и за вся?

А давайте сначала мысленно (или нет?) поэкспериментируем с этикой пилотов автомобилей на таксистах. С рациональной точки зрения пассажиру без разницы везёт его искусственный или естественный интеллект. Если эти этические нормы применимы на таксистов, личных водителей и т. п., то можно обсуждать нюансы. Если нет, то это чистой воды дискриминация

Я понял! Второе пришествие Иисуса будет в форме ИИ. Истина сия закодирована в самой аббревиатуре — ИИсус.
Зарегистрируйтесь на Хабре , чтобы оставить комментарий