Comments 79
Главный страх, что ИИ не нужны будут человеки в принципе, что верхние, что нижние, и он всех уничтожит (реалистичность этого сценария оставим за скобками). И он ярче выражен в странах первого мира, потому что они ближе к реализации хоть какого-то ИИ, чем остальные.
Но вообще-то мысль моя была обратной — зомби не умнее людей, но зомби-апокалипсис страшен. Следовательно, страх уничтожения (не всегда) основан на концепции «кто умнее, тот главнее».
(который можно ужать до двух фраз: «белые рабовладельцы боятся порабощения ИИ. Остальные не боятся ИИ, потому что они в рабстве у белых рабовладельцев» (с) Стивен Кейв)
Почему только часть человечества боится ИИ? Потому же, что и часть человечества боится третьей мировой. А другая часть — не боится (т.к. либо просто идиоты, либо буйные идиоты «пусть сильнее грянет буря»)
И что за глупость:
«белые рабовладельцы боятся порабощения ИИ. Остальные не боятся ИИ, потому что они в рабстве у белых рабовладельцев»— вы видимо читаете между строк то, чего там нет.
И какая связь между боязнью доминировании ИИ над человечеством и третьей мировой войной. Оч. интересно, реально)
Давайте я вам цитатой из статьи отвечу:
Если для нас естественна мысль о том, что сливки снимают умнейшие и что одна более развитая нация может колонизировать другую, мы вполне естественно боимся потенциального порабощения со стороны сверхумных машин. Искусственный интеллект представляет для нас экзистенциальную угрозу.
Для нас — это для белых европейских мужчин. Миллиарды других людей прошли через века подчинения, а многие продолжают сражаться с агрессорами и по сей день, поэтому для них угроза порабощения искусственным интеллектом остается фантастическим сюжетом.
Здесь имеем:
- "Мы" боимся потенциального порабощения со стороны сверхумных машин
- "Мы" — это белые европейские мужчины
- "Другие" (видимо, не белые европейские мужчины) — порабощения не боятся
- "Другие" не поятся порабощения потому, что:
- либо прошли через века подчинения (видимо, привыкли и уже не боятся?)
- либо считают угрозу порабощения машинами фантастическим сюжетом, так как у них есть дела поважнее — а именно, сражения с агрессорами. Хотя тут неявно и не говорится про личности агрессоров, но так как агрессоры не машины, то это либо другие «другие» (например, порабощение африканцев какими-нибудь арабами), либо «мы» — то есть, белые европейские мужчины.
Упрощая пассаж из списков наверху мы и придём к фразе:
белые рабовладельцы боятся порабощения ИИ. Остальные не боятся ИИ, потому что они в рабстве у белых рабовладельцев
Для этого нам всего лишь потребуется проигнорировать фазу борьбы одних "других" против других "других", и сосредоточиться только на сражении "других" против "мы". Основания для игнорирования нам даёт в целом позиция различных расовых активистов, согласно которой расизмом называют только расизм со стороны "белых" по отношению к "цветным" — а "цветные" по отношению к "белым" расистами быть не могут, так как "белые" это всё "заслужили веками колониализма".
основан на (ложной) концепции
Вы хорошо описали, откуда она взялась. Но никак не обосновали, что эта концепция ложная. Если вы имеете ввиду практику, что глупые часто бывают выше умных — то да. Тем не менее ум многим позволяет подняться выше. Это реально работает. Не из-за нашего философского отношения, просто умный может придумать способы.
ИИ точно так же придумает способы просто для того, что бы реализовать свою цель (если она у него будет).
Зима ИИ — это когда оказалось, что используемые тогда подходы не масштабируются и с коммерческим внедрением проблемы.
Сейчас: глубокое обучение и другие нейросетевые подходы используется в распознавании изображений, речи, переводах, синтезе речи, изображений, играх с полной информацией, играх с неполной информацией в реальном времени, робототехнике, системах автоматического вождения и т.п. Доступные компаниям вычислительные ресурсы намного ближе к оценкам вычислительных ресурсов человеческого мозга.
Что похоже: ещё не создали универсальный искусственный интеллект.
запах настоящего ИИ уже витает в воздухе (ждемс)(с)
Причем наличие вычислительных ресурсов «близких к оценкам вычислительных ресурсов человеческого мозга» не гарантирует того, что не найдется очередного «не масштабируется\оценки пересмотрены» и будет еще одно «похолодание ИИ»…
а вот зато следующая волна работ над ИИ (когда будет теория генерализации лучше чем BoW & CNN) — вот тогда все попляшем.
(т.е. это все где-то примерно на уровне атомной бомбы в 30ых годах — когда общая идея есть, но нет конкретной теории и практических наработок)
Для нас — это для белых европейских мужчин. Миллиарды других людей прошли через века подчинения, а многие продолжают сражаться с агрессорами и по сей день, поэтому для них угроза порабощения искусственным интеллектом остается фантастическим сюжетом.
Белые европейские мужчины же настолько привыкли находиться на вершине по праву принадлежности, что появление возможного соперника в нас отзывается хтоническим (иррациональным) ужасом.
???
Или вот — вообще клевета на Канта:
Иммануил Кант — пожалуй, самый влиятельный философ морали с античных времен — считал, что моральная воля свойственна только мыслящим существам: «лицам» и «вещам в себе». Немыслящие существа, по его мнению, имеют «только относительную ценность как средства и называются поэтому вещами». С ними можно делать то, что нам заблагорассудится.
Согласно Канту, разумное существо обладает достоинством, а неразумное, немыслящее к нему неспособно.
Такие умозаключения впоследствии превратились в краеугольный камень колониальной политики.
Логика такова: не белые люди менее умны; они не могут самостоятельно управлять собой и своими территориями. И это не только оправданный шаг, но и моральный долг любого белого человека — войти в их страну и уничтожить их культуру.
Эта же логическая конструкция отлично срабатывала на женщинах, которые считались слишком легкомысленными и хрупкими, чтобы разделять привилегии человека разумного.
Это больше похоже на проекцию, а не на высказывание про Канта и его философию
Изобретение колеса, огнестрельного оружия и акционерных обществ — они использовались для колониальной политики или нет? Так как по-вашему — виноваты ли они в этой политике? Правы ли были европейцы, что изобрели вот это вот все?
Может, надо срочно от этих ужасных инструментов колониализма отказаться и предать их анафеме?
Немного того как происходило.
С развитием человечества значимые умы, предлагающие философские и моральные концепции, оказывали значительное влияние на прогрессивное общество. Тогда не всегда точка зрения: что-то новое — это забытое старое была правомерна. Тогда не было интернета и не существовало в «быстром доступе» огромного информационного массива в котором терялось многое. Именно по этому труды, особенно в области философии и морали, оказывали особое значение на политическую элиту того времени. Тогда было мейнстримом присутствие Императора или высшей элиты на всяких вечерах королевского научного общества и т.д.
«что-то новое — это забытое старое», это постоянная тема. (Недавно перечитывал об пелопонесской войне Фукудида, 4 век до нэ, и там о том же). То что она не всегда правомерна — это до сих пор так же. Так что если хотели сказать «масло — масляное», то вам это удалось.
Политическая элита не сидела на диване, и по вечеринкам не рассиживалась — эти ребята плавали, набегали по соседям разной степени близости (со словами «теперь это мое»), а труды по философии использовали для подтверждения своих жизненных целей (Как в одной басне: «ты виноват, потому что мне хочется кушать»), подтасовывая факты и используя гипотезы как доказательства (точь-в-точь как у автора сего опуса Стивен Кейв переходя от Канта к т.н. «колониализму и патриархату»). Любые достижения науки, культуры, философии и технологии использовались ими для личного доминирования.
Так что дело не в философах и философии, а в тех, кто ее использовал.
«тогда» — это когда? До какого это года?— колониализм в Новом времени.
Ну я как бы и пытался это доказать другим комментаторам. Многие идеи не всегда верно толкуются широкой публикой, а иногда и вовсе диаметрально искажаются ради чьих-то интересов. И статья была написана в разрезе искажения идей. Давались не оценки трудам философов и их интерпретации, а мнение о том какое наследие в пропаганде власть имущих они оставили.
OpenAI обыграл профессионального игрока в Dota2 мощно — но наверное не очень.
Вообще не мощно, учитывая, какими беспомощными показали себя боты в игре 5х5 на последнем интернешнеле.
Куда сильнее звучит то, что разработчики бота потрудились и он показывает неплохие результаты в командных играх
О каких неплохих результатах идет речь, можно пруф?
За то, что мы воспринимаем отношения доминирования по праву умнейшего как совершенно естественные, нам стоит поблагодарить Аристотеля.
Воспринимаем, да. Но по факту самое значительное доминирование идёт по праву силы, стаи, собственности. Это более справедливо, на ваш взгляд? Вряд ли.
Ещё рассмотрите ситуацию, когда более умный говорит, давайте делать А, а менее умный — Б. Предположим, что разница между ними видна многим и она существенна. А дело такое, которое требует усилий многих человек и не может быть на 100% проверено заранее (например, это схема ракетного двигателя, его можно рассчитать, но испытания всё равно нужны).
И тут приходите вы и говорите — доминирование по праву умнейшего неправильно! Хорошо, но как вы предложите выбрать? Какую схему проверять первой?
Речь идет об отношении мемлексов о неизбежном доминировании умнейшего, как объяснении боязни ИИ. Понимаете?
Лично я считаю, что да, если люди доверяют управление собой и решение каких-то вопросов кому-то, то это должен быть кто-то достаточно умный и желательно непредвзятый. Но это совершенно другая история и не касается данной темы.
мемлекс? Это опечатка? Не смог распознать слово.
Но теперь вроде понял. Вы полагаете это чем-то вроде культурной особенности. Мол, азиаты не будут бояться доминирования ИИ, потому что у них философия немного другая. Вот только я не понял, они будут доминированию ИИ радоваться или вообще не верят в его доминирование?
Оценка больше дана именно через западные мемплексы. В азиатской культуре, как я понимаю, немного иное к этому (умнее, не значит де-факто стремящийся к экспансии) отношение.
Это как если бы вы приехали в глушь и местной бабке
— уж так уж и всё зохватит, внучок?
— всё.
— так что, и нашу деревню тож?
— и ее.
— а для чего эт ему?
— ну, доминировать будет, управлять всеми.
— как начальник какой?
— ну почти. Он будет самый главный — всем начальникам начальник.
— а, как царь значит. И что, никто-никто ему ничего не сможет сделать?
— никто. Он будет очень умный, всех будет видеть и слышать.
— ухты, хороший значить царь!
А это не так? Физик ядерщик менее умен чем строитель?
Но из этого не вытекает, что хороший физик-ядерщик = хороший руководитель. Не так ли?
И да, библии тоже коснулся.
Прочтите, плиз, последние предложения статьи. Вы додумываете идеи. Они касаются боязни ИИ, а не того что хорошо, а что плохо.
Статья не позиционируется как доказательство, а как точка зрения по поводу роботофобии.
Ее идея проста: некоторая часть прогрессивного человечество боится ИИ, потому что интуитивно предполагает, что более умный ИИ, с не похожим на человеческое мышление, должен обязательно нести угрозу экспансии, так как увидит для себя угрозу в человечестве.
При этом вывод: Точка зрения выше не является адекватной, потому что вытекает из предположения — умный, значит обязательно стремящийся к доминированию, за счет порабощения и почва этого вытекает из истории развития той части прогрессивного человечества (западной), как получения этих мемплексов.
А на самом деле нужно просто осознать, что умный — это значит стремящийся урегулировать без насилия. Насилие — это форма животного проявления (эволюционная модель), которая не может быть экстраполирована на машинный ИИ.
Есть идеи получше? Велком
Если критерии эффективности не включают полную формализацию того, что люди считают этичным, то полученные решения вполне могут включать действия, которые люди будут расценивать как насилие.
Скажем, полное удаление людей из производственных процессов и обеспечение защиты производства от недовольных и от самих конструкторов, пытающихся восстановить контроль над производством.
Ну производство должно иметь цель. Чтобы разбирать этот пример, мы должны понимать мотивы и цели ИИ, по экспансии конкретного производства (с позиции рационализма)
у нас большинство умных людей
Вопрос границы. Проведите её пониже и тогда да, большинство умные.
А вообще это не похоже на "мемлекс/мемплекс". Это похоже на что-то генетическое или интуитивное. В Китае тоже экзамены тысячу лет на должности чиновников. Не будете же вы говорить, что и там Декарт повлиял? В итоге теория у вас интересная, но не убедительная.
Проблема большинства споров в том, что человек слышит только себя и не хочет слушать собеседника
Азия НЕ = Китай. Это важно понимать) Более того — они развивались более обособленно и Декарт на них вряд ли повлиял. Поэтому возвращаясь к азиатской культуре — этот стереотип (описанный в статье), слабо коррелируется с их мемплексами. Поэтому я и говорю — статья эта, как вывод западной культуры.
Азия НЕ = Китай
Предположим. Так Китай не боится доминирования ИИ или верит, что может держать его под контролем?
Если вы считаете, что ожидание доминирования ИИ — это именно западный стереотип, вам стоит сказать, какие стереотипы в Азии и Китае/не-Азии. Тогда можно будет понять причину-следствие.
Есть ведь обратный вариант — философы просто отразили уже имеющиеся социальные законы.
Главное, что бы он увидел выхлоп тратить на нас электричество. Речь ведь не о том, что он будет расистом. Наоборот, если он не будет видеть в нас конкурентов, но захочет использовать энергоресурсы для своих целей, это будет конец. Загнёмся без всякой войны. Или сами развяжем бунты в попытке отбить нефть/газ, которые он просто купит для своих нужд.
Почему бы и не потратить, да. Вот только именно это и считается негативным сценарием. Вряд ли кто-то, кроме маньяков, считает позитивным смерть 7 миллиардов людей (что б осталось сотня тысяч).
Принудительная стерилизация? Если нет, то эти 7 миллиардов родят своих потомков. Предположение, что все откажутся от детей в обмен на "удобных и послушных" абсолютно нереальное. Часть — без проблем согласится, но это не повлияет на общую численность. А ещё часть (очень большая часть) захочет себе продление жизни. Либо ИИ будет мешать исследованиям, либо продление будет. Это тоже помешает оставить 100 тыс через 100 лет.
А ещё часть (очень большая часть) захочет себе продление жизни.люди и сейчас это хотят. Спроси кого угодно: «вы хотите продление жизни?» — как много ответит «нет»?
Но сколько над этим реально работает людей?
принудительная чипизация детей
Я так и не понял, рожать можно будет или нельзя?
одна семья — один ребенок
Через пять поколений (150 лет) будет 210 миллионов детей. Далековато от озвученной вами цели в сотню тысяч
Но сколько над этим реально работает людей?
Вопрос не в этом, вопрос, будет ли ИИ мешать исследованиям? Если нет, то продление будет.
Да, а еще 10 поколений и будет 200 тысяч. Причем все это — без войн и геноцида.
Исследованию мешать не будет. Помогать с внедрением тоже не будет (и в первую очередь — асоциальным элементам). То что кто-то сможет по 5мг лекарств синтезировать в своей лаботатории, не будет иметь большого значения. Пусть продолжает опыты на мышках. А чтобы сертифицировать для людей? — нет, это долго и дорого, продолжайте исследования.
чип (временно) выключится
Ну то есть принудительная стерилизация в раннем возрасте. Вы это назвали другим словом, ваше право, тезис это не меняет.
Повторюсь, именно это я и имел ввиду под негативным сценарием. Честно говоря, вообще не понял, к чему вы ведёте. Вы хотите назвать этот сценарий позитивным или что?
кто-то сможет по 5мг лекарств синтезировать
Что значит "кто-то"? Куда делись исследовательские институты? Фабрики? ИИ их все закрыл? А люди сказали, "ой, ну ладно, пойду домой"? Принудительное закрытие всех фармакологических заводов — это тоже часть негативного сценария.
его суждения будут нести рациональный характер
Кроме как минимум одной базовой цели. Базовая цель не может быть выведена рациональными рассуждениями, т.к. они всегда опираются на одну или несколько аксиом. И если, вдруг, базовая аксиома будет "размножайся", человечеству места может просто не найтись.
Никогда этого в истории не было.
КМК, люди боятся ИИ по 2 причинам:
1. Потеря работы. Этим страхам уже века, но сейчас ситуация серьезнее, чем раньше. Тут ключевое слово не «интеллект», а производительность труда. Луддизм.
2. Ну и у кого-то страх потрери контроля человечеством над своей жизнью. Машины будут проектировать и изготовлять устройства, создавать новый софт и т.д. В какой-то момент никто не будет знать, как все вокруг работает. И в какой-то момент все навернется, потому что у машин не хватило фантазии предвидеть слишком сильную вспышку на солнце или еще что-нибудь.
А интеллект дело туманное.
Почему мы боимся роботов?