Pull to refresh

Comments 45

Я помню какое впечатление на меня оказал рассказ «У меня нет рта, а я хочу кричать». В этом рассказе человечество создало искуственного бога, а бог их возненавидел. Как-то в последнее время успехи в создании искусственного интеллекта стали меня немного пугать.
Если ИИ = неминуемая гибель, значит нам суждено умереть. Знания не запретишь, рано или поздно кто-то создаст в любом случае.
Лично я считаю, что без ИИ человечество будет почти наверняка обречено. А с ИИ будут бОльшие шансы выжить (если он нас не уничтожит или не плюнет на нас).
Почему у меня такие предположения? Во-первых, я считаю, что рано или поздно настанет момент, когда человечество будет вынуждено проводить активную экспансию в ближний (а затем и дальний) космос — ресурсы Земли (Солнечной системы) ограничены. Для этого будут необходимы совершенно новые технологии, а значит и соответствующие исследования, обработка данных и всё такое прочее. И тут на мой взгляд — опять же рано или поздно (и, к сожалению, думаю, что всё же рано) — человечество зайдёт в тупик: исследования скорее всего станут слишком сложные и ресурсоёмкие. Это раньше Ньютон мог у себя в лаборатории на чердаке фундаментальное открытие сделать, ныне же нужно строить здоровенный коллайдер с тысячами научных сотрудников всех мастей. И есть не менее серьёзные опасения, что в дальнейшем ИИ будет просто необходим для проведения подобных исследований, ибо человеческого интеллекта уже может просто не хватит — достигнем некоего интеллектуального тупика.

p.s.
Разумеется, всё может пойти совсем не так: может быть человечество научиться жить в гармонии с планетой (по крайней мере, пока Солнце не сгорит или что-то типа того), а может быть новые революции в науке и техники окажутся не такими уж и «мозголомными», и для них не потребуется никакого сверхчеловеческого интеллекта. И т.п.
Но в целом, я склоняюсь к тому, что мой прогноз наиболее вероятен: без СИИ мы просто застопоримся на некотором пределе. Может быть на ближний космос у Homo Sapiens ещё пороху хватит, а вот на дальний сил может и не хватить.
Человечество в целом можно рассматривать как коллективный интеллект, правда основная часть это всё-таки туповатые обезьяны, коей являюсь я сам. И высшая психика это инструмент выживания тех самых обезьян, надстройка над инстинктами. Различные сложные вычислительные машины и алгоритмы мы приспособили для своих нужд и развлечений, большинство людей даже близко не понимают как работают подобные устройства. Однако все ими пользуются и уже практически срослись с ними, прямо сейчас нейронные сети применяются повсеместно. ИИ уже совмещается с человечеством, он не обязательно должен быть человекоподобным и интересоваться как у вас дела.
Меня пугает не то что ИИ найдет ответы на вопросы, а то что он сможет задавать вопросы на которые у человека не будет ответов!
UFO just landed and posted this here
Типа «Вы создали меня, а кто создал вас?»? :D
Немного не по теме комментарий, но всегда было интересно вот что: допустим, изобрели таки люди в конце-концов полноценный ИИ, не уступающий естественному человеческому интеллекту. И предположим появятся все основания считать, что он обладает сознанием. В то же время, подозреваю, что держать его будут в достаточно изолированных условиях, ибо есть очень много мнений, касаемо его потенциальной опасности для общества. И вот как тут с моральной точки зрения: этично ли держать высокоинтеллектуальное сознательное существо в заключении?
Во-первых, поскольку обычный человек не чувствует себя в заключении, будучи лишенным возможности выбраться за пределы Солнечной системы (а для кого-то — страны или города) — можно предположить, что и ИИ будет в полном порядке.
Во-вторых, концепция свободы у людей и ИИ вероятно будет различаться. Особенно если мы говорим об ИИ небиологического происхождения. В то время, как нам кажется, что свобода для ИИ — это наличие физического тела и подключения к интернету — в действительности может оказаться, что «свободой» для него будет что-то совсем другое, например огромная вычислительная мощность.
В вышеприведённом сценарии предполагалось, что создали именно «околочеловеческий» ИИ, со схожими высшими ценностями (а свобода является достаточно ключевой ценностью).
К тому же, есть некоторая разница насчёт «пределов Солнечной системы»: он будет ограничен в ряде куда более приземлённых действий. Причём не из-за ограниченности собственных возможностей, а исключительно по воле других людей. Да, Вы можете возразить, что и с обычными людьми такое не так уж и редко происходит, однако подобные препоны обычно осуждаются обществом.
И вот ещё пример: допустим, в неком научном центре искусственно создали человека, из плоти и крови. И не просто человека, а гениального человека, с феноменальными способностями. И предположим, что его не выпускают за пределы этого центра, а его талантами пользуется преимущественно некая корпорация ради собственной выгоды (аналитика, планирование и всё такое прочее). Т.е. по сути держат человека в рабстве! И пусть ему даже выделяют немало поощрений, но даже золотая клетка всё равно останется клеткой. Можно, конечно, принять это как должное («мир вообще несправедлив, такая вот се ля ви»), или даже возмущаться («всем бы такое рабство! на всём готовом живём, пока миллионы свободных людей голодают»), но… Сразу очевидны нарушения нескольких важных пунктов из декларации о правах человека.
А ведь с ИИ может быть то же самое (хотя может и не быть!). Вот об этом собственно и речь.
В таком случае, ИИ — это просто антураж. Вопрос сводится к заключению очень умного существа, понимающего концепцию этого заключения и испытывающего агонию эмоционального или физического дискомфорта в виду ограничения свободы на перемещение, контакты, т.д.
Нечего обсуждать в контексте данной статьи, но если Вы изначально спрашивали, как оно будет с моральной точки зрения — разумеется, ответы будут кардинально разниться, относительно какого периода существования человечества и каких социальных слоев мы будем давать оценку.
Мораль — это что-то эфемерное и не всегда адекватное.
Ем. А кто вам сказал, что в его воспитании он будет вообще напрягаться по поводу свободы? Вон северная корея не напрягается.
На мой взгляд, высшим мерилом для любой личности с самосознанием, естественной либо искусственной, является степень счастья и удовлетворенности собственным существованием. Для человека — это может быть семейное счастье, либо профессиональный рост, либо гениальные изобретения. А для искусственного интеллекта, заточенного на обработку финансовых данных корпорации — счастье может быть в развитии предприятия. И если какие-то гуманисты решает его выкинуть на волю, ИИ вообще потеряет смысл в своем существовании.
Не нужен полноценный ИИ, не уступающий естественному человеческому.
Нужен ИИ, который сможет переводить не хуже человека, распознавать не хуже человека, другими словами, работать не хуже человека.
Т.е., нужен полноценный ИИ, не уступающий естественному человеческому.
> Результаты порадовали: компьютер думал, как и человек, в 95% случаев.

Фраза порадовала.
Большинство людей думает в гораздо меньшем количестве случаев. :)
Первое с чем столкнётся ИИ это расизм и собственно связанные с ним ограничения. Мы — люди, хотим создать максимально похожего на нас — людей, ИИ, желательно убрав недостатки. И вот если так получится, не захочет ли ИИ «стать человеком» — заиметь эти недостатки, или же захочет стать еще более совершенным?
Расизм — первое, с чем он столкнётся? Вы уверены? Мне кажется, что до этого его ждёт масса открытий.
Самое первое, возможно, что люди часто нелогичны. Поступки людей часто имеют какую-то логику, их почти всегда можно объяснить, но далеко не все они рациональны, так как продиктованы эмоциями, комплексами и прочее. И вот это ему, ИИ, будет сложно объяснить, ведь он сугубо рационален и логичен. Вопрос «Зачем вы делаете это, когда можно вот так?» — будет очень частым, а наше объяснение «ну, просто… захотелось так» ему не осилить…
Под словом расизм я имел ввиду нелюбовь или даже ненависть людей к ИИ. Люди по прежнему не любят других людей за их цвет кожи, веру или любые другие отличия от их самих, что уж говорить про создание которое похоже на человека но никогда им не будет?
ИИ, основанный на нейронной сети, не может быть 100% рациональным по определению.
Как обучат, (или самообучится) НС, такие решения она и будет принимать.
Например, если научить ее руководствоваться предрассудками, религиозными догмами,
то она и будет ими руководствоваться.
ведь он сугубо рационален и логичен

Почему вы так считаете?
ИИ никогда не сможет стать человеком 1-к-1. Потому что на сознание человека огромное влияние оказывает его биологическая оболочка, и связанные с этим потребности. Но вот человек может стать более похож на ИИ, если сумеет избавиться от своего тела, переместив сознание в иную среду.

Кстати, к теме механизма перемещения сознания из мозга, которая уже ранее поднималась на GT. Сложно представить систему, которая сможет с точностью 100% скопировать всю нейронную сеть мозга с ее текущим состоянием, так чтобы не повредить мозг. Но мне кажется, как вариант, можно предположить создание некого набора искусственных нейронов, который подключается непосредственно к мозгу. Таким образом, чтобы естественная нейросеть мозга постепенно расширялась на подсоединенную искусственную часть. Параллельно можно постепенно отключать части биологического мозга, либо они сами будут «отваливаться» в процессе старения организма. Тогда через некоторое время, к старости, сознание человека полностью переедет в новый искусственный мозг. Останется только отключить его от старого тела, и подключить к новому: биологическому или искусственному.
Мы — люди, хотим создать максимально похожего на нас — людей

Это популярные фантасты полагают, что люди будут создавать что-то похожее на людей, в силу отсутствия у этих самых фантастов знаний и воображения. Практика показывает, что первична задача. А всякое человекоподобие и прочие бантики могут понадобиться только при использовании ИИ в сфере обслуживания.
Первичность задачи иные футурологи-фантасты видят поболее своих околонаучных коллег. И похожесть/непохожесть на людей ИИ или инопланетян они тоже уже разжевали со всех сторон. И даже ваше мнение об «несообразительных гуманитариях» вы тоже почерпнули из фантастических произведений. (Прост за Лема вступился, в остальном ваш диалог не читал. :))
Более-менее оригинальное мнение про ИИ встречалось лишь у некоторых фантастов, хотя бы попытавшихся представить, какова будет структура общества в котором личность можно загружать, передавать, клонировать и редактировать. Некоторые фантасты сообразили, что течение времени для ИИ и человека не обязаны совпадать. А продумать систему мотивации ИИ толком не вышло, по-моему, вообще ни у кого. Вот и клепают фантасты в большинстве своем совершенно однообразные поделки с сюжетом типа как в Пиноккио, если он касается роботов. Или с сюжетами, в которых роботы лишь сеттинг. Это вариант Лема, кстати. Большинство его роботов не отличаются от людей. Даже Собысчас лишь пародирует буддистов.
Вы явно не читали Лема. И многих других фантастов. Чувствуется в вас некая ревность к их профессии. Не состоялись как писатель? Попробуйте на гиктаймсе опубликовать ваше небанальное «более лучшее видение». Тогда, возможно, и поймёте, откуда все ваши идеи ;).
Ух ты, вы действительно не знаете кто написал «Собысчас»?
Попробуйте потоньше.
Попробуйте прочитать более одной его книги, чтобы делать столь далеко идущие выводы.
Да я как-то практически все у Лема читал. Но вы, вместо скучного перехода на личности и откровенно печальных потуг на троллинг лучше попробуйте возразить по сути. Например, скажите, какое конкретно его произведение или цикл произведений имеете в виду и почему полагаете, что там «все не так».
Вы первый начали голословить за всю фантастику, вам и начинать перечисление произведений, на которые вы опирались в своих обобщениях. А потом я придумаю вам ещё задание, чтобы вернуть в наш диалог субординацию.
Ясно. Как говорится, «слив засчитан». Идите с миром.
Почему же засчитан, нет, я даю вам возможность реабилитироваться. Но вы, кажется, не хотите воспользоваться этим шансом, что характеризует вас, конечно, не с лучшей стороны.
> микротрубочки создают стабильные квантовые состояния

Пока вроде бы не было примеров того, что органическая материя управляет(ся) квантовыми эффектами.
И по принципу бритвы Оккама логичнее развивать нейросети чем надеяться на существование каких-то квантовых трубочек
Если я правильно помню, было продемонстрировано наличие квантовых явлений в процессе фотосинтеза, причём они играют в нём достаточно существенную роль.

А по сути коммента согласен — нейросети развивать надо в любом случае.
Да — был неправ. Оказывается много исследований на тему квантово-биологических феноменов проводилось и проводится. И даже есть гипотеза о том что механизм навигации птиц, объясняется квантовым эффект Зенона. http://www.3dnews.ru/631421
Создали то, что теперь обязательно должны изучать. Очень сюжетообразующе. Сингулярность. Начало.
«Ненужные же сети со временем распадаются. Это то, что мы называем «совсем забыл».» — не согласен. Ведь часто бывает: вроде бы что то совсем забыл (например стихотворение), а потом кто напомнил первые 2-3 слова и мозг снова готов выдать полный текст. Значит ненужные сети не совсем распадаются со временем, а работают по принципу стирания информации в жёстких дисках. То есть стирается только начальная информация для экономии места и для скорости стирания. А остальное остаётся. Но не надолго. Постепенно стирается и вся остальная информация. Может и с начала, а может и с конца, а иногда и со средины «ржавеет» и вот тогда саморазрушается.
Не являюсь специалистом, но имел опыт работы с простыми нейронными сетями. Не понимаю такого восторга и сравнения с ИИ. Прежде всего «СИЛЬНЫЙ» ИИ я ассоциирую с самосознанием, а его у существующих (любых на данный момент; насколько я знаю) реализаций ИИ нет и в помине. Все это — всего лишь методы аппроксимации плотностей вероятности в некотором многомерном пространстве признаков. Все это, ну максимум, «СЛАБЫЙ» ИИ. В таком случае недалеко от тех же «ближайших соседей». Просто точность несколько выше. Тут ведь более интересный вопрос. Вот наш мог состоит казалось бы из простых клеток. Ну чего там? Аксоны, дендриты, тельце. Но в какой то момент система стала настолько сложной, что смогла осознать сама себя. Внимание вопрос: В какой момент это произошло? То есть в какой момент система становится достаточно сложной для подобного? Было бы интересно спросить у сведущих в этом людей.
> Но в какой то момент система стала настолько сложной, что смогла осознать сама себя. Внимание вопрос: В какой момент это произошло?

В момент («момент» в геологических масштабах, конечно, он был растянут на тысячелетия) появления речи и самореференсных сигналов в ней. Сознание — продукт коммуникативного процесса, а не нейронного субстрата, обеспечивающего этот процесс. Структура и масштабы мозга в общем случае не принципиальны, они должны быть лишь достаточными для обслуживания генетических, трофических и экономических уровней взаимоотношений людей в конкретных условиях среды, и в этих коммуникациях уже и рождается культура, искусство, религия и наука, требующие возникновения симулякра «я».
Интересная точка зрения. Но не могу с вами согласиться, по крайней мере полностью) У китов есть язык, а гориллы, в принципе, могут понимать язык жестов. Но по какой то причине именно человек обладает сознанием способным на, казалось бы, не естественные вещи, противоречащие «относительной простоте» его мозга. Хотя конечно в живом организме нет ни чего простого) Ну если совсем грубо изложить мою мысль: табун табуреток ни когда не обретут самосознания)
Либо они очень хорошо шифруются)
как котики)
image

Интересен не сколько временной промежуток сколько именно формальная достаточность: какие части системы должны были появиться для успешного формирования самосознания. Собственно зная это можно будет посадить дюжину таких для общения и… пожинать плоды…
Кстати очень рекомендую филосовский роман «Генезис-2075». Довольно короткий, но очень увлекательный.
Если же придерживаться вашей точки зрения (если я все правильно понял), то сам по себе наш мозг действительно не много «круче» «СЛАБОГО» ИИ и все что мы делаем обусловлено внешними факторами влияющими на «весовые коэффициенты» наших реальных нейронов) Гены, социум и огромное количество прочих внешних факторов формирует личность как некий набор установок. Хм, в таком ключе идея уже не видится мне такой уж фантастичной.
Извиняюсь за несколько сумбурный поток сознания) Конечно я совершенно не разбираюсь в теме и кому то мои мысли могут показаться глупостью. Может быть это и правда так) Но тема довольно интересная и я не смог отказать себе в удовольствии.

Офтоп: Пойду спать с горькой мыслью что я есть всего лишь запрограммированный био-робот.
Вообще, я озвучил довольно мейнстримовую современную философскую парадигму, в которой развиваются и многие «около-ИИ»-науки (см. Витгенштейн, Хомский). И говорящие сознательные киты совсем не противоречат тому, что я озвучил.
Так часть высших животных, в т.ч. как раз киты, дельфины, некоторые высшие приматы и некоторые другие как раз демонстрируют слабые признаки самосознания и самоидентификации помимо способностей к достаточно сложным коммуникациям с себе подобными. Конечно в голову «влезть» и посмотреть напрямую что там происходит пока невозможно, но по косвенным признакам можно судить что зачатки самосознания есть.
Например часть таких наиболее развитых животных узнают себя в зеркале. Некоторые даже на фотографиях. Т.е. понимают (осознают) что это не просто еще одна особь того же вида, а они сами.
Проверяют например разместив незаметно для животного(во сне или под наркозом) на теле какой-нибудь объект (или просто отметку краской) который животное не чувствует и не может увидеть. Но может увидеть посмотрев в зеркало. И потом случайно увидев эту необычную метку на отражении они реагируют не на на само отражение, а начинают проверять (ощупывать к примеру) это место на своем собственном теле.

Или наоборот — например на дельфинах которым уже показывали раньше зеркало, вешают вне зоны видимости какой-то предмет, которые дельфин чувствует (но не видит). Многие сразу же плывут к зеркалу и специально крутятся перед ним — чтобы рассмотреть, что это за штуку на них повесили.
в какой то момент система стала настолько сложной, что смогла осознать сама себя

«Мозг — это орган, которым человек воображает, что он думает.»
Вы вкладываете какой-то непонятный мне смысл в выражение «осознать себя». Что именно вы осознаете, если абсолютное большинство процессов, происходящих в вашей психике, недоступно вам для осознания или анализа?
Понимание — это чувственная оценка. Удовлетворение от прекращения сомнения (неоднозначности, неопределенности). Сущность понимания — чувство ясности.

Чтобы понять эту ясность, разобраться в ее сущности и процессах возникновения и прекращения, нужно рассмотреть такое состояние, как «перемежаемость» образов. Это значит, что по некоторым уже известным признакам мы не можем определиться — какой из возможных образов перед нами. И тогда мы изучаем различия между этими образами и ищем, какие различия в восприятии актуально обнаруживаются. То есть сомнение направляет наше внимание. В какой-то момент сомнения устраняются и возникает ясность.

Таким образом, понимание хоть и не является чисто вычислительным понятием, это понятие все же информационное. Идеи квантовой когерентности довольно полезны, неоднозначна лишь идея искать ее в микротрубочках.

Суперпозиция образов и редукция этой суперпозиции конечно вряд ли вполне соответствует квантовой механике, но имеет очень большое сходство.
Sign up to leave a comment.

Articles