Comments 23
Ох уж эти сказки, ох уж эти сказочники!(с)ППС
что, уже пятница?
UFO just landed and posted this here
Дело в том, что накопление научного знания идёт с постоянным ускорением.Нет. Просто мы систематически принимаем логистические кривые за экспоненты.
Всё своё внимание мы обращаем на те аспекты, в которых фаза развития похожа на экспоненту, а те, в которых уже стала не похожа, выпускаем из фокуса внимания. Мы про них не говорим и о них не думаем. Этим создаётся иллюзия того, что всё, что есть, развивается с ускорением.
Короче, сидим на попе ровно. Технологической сингулярности не будет. Вся идея этой самой сингулярности — результат дефекта восприятия.
У меня есть Байесова индульгенция. Всё, что пришло нам в голову, может произойти, только с маленькой вероятностью.
Если мы действительно перенесем сознание на новый носитель или изобретем искусственный интеллект, то умножение знаний таки случится. И даже если оно окажется логистической кривой, приматам придется очень поднатужиться, чтобы этот рывок осознать и принять.
Если мы действительно перенесем сознание на новый носитель или изобретем искусственный интеллект, то умножение знаний таки случится. И даже если оно окажется логистической кривой, приматам придется очень поднатужиться, чтобы этот рывок осознать и принять.
Моё мнение — все эти описанные технологии нужны, важны и реализуемы. Кроме одной: не стоит делать сильный саморазвивающийся ИИ. Это реально очень опасно для человечества как вида.
Кто-то скажет: ну вымрет человечество, уступив место более совершенному разуму, что тут такого?
Но я всё же думаю, что людям нельзя опускать руки и добровольно уходить в небытие. Миллиарды лет наши предки боролись, умирали и выживали, шли на жертвы чтобы продолжить род. В этом есть одна из важных сущностей живого: передать часть себя в будущее, не дав конкурирующим видам помешать этому.
Поэтому если ИИ будет как помощник людей, дополняющий и усиливающий людской разум — я только за. Но если ИИ будет способен быстро саморазвиваться, обрастая новыми функциями по своей воле, он с немалой вероятностью поставит перед собой какую-нибудь цель (не факт что понятную нам) и в рамках достижения её вытеснит нас тем или иым способом (вероятно, весьма хитрым, что никто из людей ничего так и не поймёт и не сможет помешать). И тогда это будет конец для людей. Ведь цель создания ИИ — сделать помощника, а не опасного конкуретна, и почему-то многие не понимают этого.
Кто-то скажет: ну вымрет человечество, уступив место более совершенному разуму, что тут такого?
Но я всё же думаю, что людям нельзя опускать руки и добровольно уходить в небытие. Миллиарды лет наши предки боролись, умирали и выживали, шли на жертвы чтобы продолжить род. В этом есть одна из важных сущностей живого: передать часть себя в будущее, не дав конкурирующим видам помешать этому.
Поэтому если ИИ будет как помощник людей, дополняющий и усиливающий людской разум — я только за. Но если ИИ будет способен быстро саморазвиваться, обрастая новыми функциями по своей воле, он с немалой вероятностью поставит перед собой какую-нибудь цель (не факт что понятную нам) и в рамках достижения её вытеснит нас тем или иым способом (вероятно, весьма хитрым, что никто из людей ничего так и не поймёт и не сможет помешать). И тогда это будет конец для людей. Ведь цель создания ИИ — сделать помощника, а не опасного конкуретна, и почему-то многие не понимают этого.
Своим комментарием вы просто проецируете собственные страхи на все человечество. Ведь с переносом сознания на HARD-носитель, человек сам по сути становится по всем характеристикам равным сильному ИИ, и разница между таким человеком и сильным ИИ будет приблизительно такой же как сейчас между арабом и китайцем. И если итогом человеческой эволюции станет СКАЙНЕТ — в этом нет ничего плохого если нейронами его сети будут живые чловеческие личности.
UFO just landed and posted this here
Зачем надо было начинать с религий, если уже во втором абзаце вы их выкинули? (И пытаетесь неудачно переизобрести свою).
Религия объясняет, откуда мы взялись и что с нами будет после смерти.
Идеализм, материализм, саентология и в какой-то мере трансгуманизм делают то же самое. Философам будет не очень приятно это услышать, эти воззрения являются религиями 19-20-21 века. Я ничего не придумывал сам, а излагал воззрения наших современников.
Идеализм, материализм, саентология и в какой-то мере трансгуманизм делают то же самое. Философам будет не очень приятно это услышать, эти воззрения являются религиями 19-20-21 века. Я ничего не придумывал сам, а излагал воззрения наших современников.
Старая добрая Alpha Centauri — всё давно уже придумано (как концепт). Там же и интересные негативные последствия, вроде "termination of specimen advised".
Чем плодить многочисленные, несовместимые между собой запчасти к человеческому телу, проще сразу изготовить систему жизнеобеспечения мозга с нейроинтерфейсом.
Как оболочка в Ghost in the Shell :)
Странно, что не анализируется самый простой сценарий будущего. Ресурсы лет через 80-100 лет полностью истощатся, возникнет дефицит энергии и наступят новые средние века где будут какие-нибудь анклавы на островах со знаниями, ресурсами и энергией, а весь остальной мир будет напоминать что-то среднее между Сирией и Африкой.
Катастрофические сценарии сознательно выкинуты. :-).
анклавы на островах со знаниями, ресурсами и энергиейСейчас весь мир бьётся за то, чтобы расширить своё влияние на бОльшие территории, а у вас везде бесхозные земли.
Скорее уж, будут огромные империи. В столицах знания, ресурсы и энергия, на окраинах пашут землю по старинке. Но никто эти окраины в свободное плавание не отпустит — будут налоги собирать и следить, чтобы они не сильно развивались.
UFO just landed and posted this here
Приятно было почтитать)спасибо за статью!
По моему мнению такая философия тоже имеет место быть, почему нет?
По моему мнению такая философия тоже имеет место быть, почему нет?
Sign up to leave a comment.
Три вида жизни вечной