Pull to refresh

Comments 67

Познавать можно что-то исключительно внешнее, а не внутреннее, вы не находите? Попробуйте-ка отследить движение нейронов в своем мозгу при попытке отследить движение нейронов в своем мозгу при попытке отследить движение нейронов в своем мозгу … и так далее до бесконечности.


Ну не знаю. Отладчики возвращают значения регистров процессора в точке останова. При этом для вывода значений регистров используются вычислительные мощности этого самого процессора.
Ну, тогда попробуйте отладчиком отладить BIOS.
Только, чур, эмулятором не пользоваться, иначе система раздвоится на внутреннюю и внешнюю.
Но и внутренняя и внешняя по прежнему пользуются ресурсами одной хост-системы.
Внутри некоторых систем мета-системы невозможны по каким-либо ограничениям, внутри других — они вполне реализуемы.
Разговор почему-то плавно перетёк от человека (создателя) к процессорам (творению).
Историю про барона Мюнхаузена — как он сам себя из болота вытаскивал — помните?
Так вот, как это называется)
Боюсь после такого откровения, ребёнок не захочет слушать сказки в моём исполнении.

Если представить, что на земле был бы только один человек, смог бы он себя познать до нашего уровня познания, имея в наличии только себя для исследования?
А главное — захотел бы?
Люди есть. В контексте ИИ они его пинками готовы гнать. Проблема не актуальна, в общем.
Хотя будучи один — да оно так не заработает. Это основа различимости для абстрактной системы: должен быть либо другой объект или должна быть операция его получения из существующего.
Так было не всегда. Еще каких-то 40 лет тому назад, для того, чтобы отслеживать значения регистров процессора в точке останова вокруг оснвоного процессора строилась довольно сложная схема, зачастую, по сложности сравнимая с основным процессором. Например, был вариант, когда для отладки программы рядом с основным (отлаживаемым) процессором ставили еще один такой же процессор с захардокоженной программой «отладчик». То есть, отладчик был аппаратный.

В современном процессоре функции поддержки отладки программы внесли в основной процессор. Но я Вас смею заверить, что когда Вы видите в Вашем любимом отладчике значение регистра EAX A5A5A5A55A5A5AFFH это не значит, что прямо сейчас, в этот момент времени в регистре EAX находится это значение. Это значит, что в момент срабатывания точки останова там было такое значение. И перед тем Вы продолжите выполнение Вашей программы значение регистра будет восстановлено.

То есть, говоря образно, в процессоре есть небольшой патчик, который позволяет Вам отлаживать Вашу программу. Внести такой патчик всвой мозг, не заня в точности схемы его работы имхо проблематично. А чтобы узнать схему его работы нужен такой патчик. Замкнутый круг :)
Разумеется я это и сам понимаю. Просто не все задачи решаются в лоб. И раскрасить фломастером сам фломастер все же можно. Просто потребуется что-то еще. Вспомогательное (промежуточное).
Признаться, не вполне понял, что значит «возвращают значения регистров процессора в точке останова», не моя область. В любом случае, в процессе познания всегда имеется познающее (субъект) и познаваемое (объект). Они разделены, поэтому познать самого себя (субъекта как субъекта, а не как объекта ) невозможно в принципе.
Мне кажется, никогда не будет создан ИИ, обладающий сознанием и самопознанием. Будут созданы псевдосознательные (псевдоЯ) компьютеры, и роботы. Будет казаться что они обладают сознанием. Но они не посмотрят на тебя, не послушают тебя, не подумают о тебе, на самом деле они обработают видео и аудио сигналы и информацию о тебе по очень сложным алгоритмам, учитывающим многие аспекты поведения людей, речи, культурных традиций, огромный массив информации. Нового «наблюдателя» («наблюдатель» не в смысле физических экспериментов с щелями и электронами) не появится. Почему? Ответ чувствует каждый из нас. Может быть не знает, но чувствует.
Согласен, что нового «наблюдателя» не появится, и даже догадываюсь, почему. Потому что каждый из нас пребывает в своей шкуре и в своем сознании. Допустить существование искусственного разума равносильно согласию с тем, что вы тоже машина. А против этого любой человек внутренне предубежден.
Вы хотите сказать что это в принципе невозможно по техническим соображениям (т.е. согласны со мной)? Или вы имеете ввиду что ученые не смогут его создать, т.к. будут подсознательно избегать положительного результата избегая приравнивания себя к машине?
Если человек — машина, то создать машину аналогичной сложности возможно. Такие машины давно созданы, хотя не комплексные, а специализированные, например умеющие играть в шахматы. Если же человек — информационная система «в себе», создать мыслящую машину невозможно, т.к. невозможно дать конечное определение разуму. Самого себя познать невозможно. Так как человек психологически склоняется ко второму варианту, искусственный разум невозможен. Более того, данное понятие противоречиво, как я попытался показать в статье.
Как вы думаете, остается ли при этом вариант случайного создания? Лично я считаю что создать невозможно, ввиду некоторой нематериальной составляющей сознания. Ну, т.е. да, я говорю о существовании «души» или нечта подобного.
Что значит «случайного создания»? Я вот своих детей случайным образом создал — в том смысле, что заранее не планировал, так получилось. А по поводу нематериальной составляющей сознания категорически не согласен. Различайте информацию и материальный носитель. Информация всегда нематериальна, а носитель всегда материален. Интеллект — информация, а носитель — мозг. В этом отношении создать интеллект можно только из материи, никак иначе.
Случайное создание, это когда ученые вроде бы и хотят создать ИИ, но психологически противятся этому. А в результате, у них таки получается. Т.е. они пошли нужному пути случайно.

Какая такая информация объясняет наличие «наблюдателя»?
Да нет, что вы, кто же этому психологически противится?! Наоборот, это застарелая мечта человечества, вроде мечты о всеобщем счастье, вот только вряд ли достижимая в такой формулировке.
«Наблюдатель» — это информационная система извне наблюдаемой. Тот, кто извне (собственно наблюдатель), наблюдает за тем, что внутри (подвергается наблюдению). Так как информация существует лишь на материальном носителе, обе системы вполне материальны. Если я правильно понял вопрос.
Значит я неправильно понял вас. Я все таки склоняюсь к некоторой нематериальности системы с наблюдателем, не нахожу другого объяснения.

Какая интересная штука, подобные разговоры. Иногда фиг поймешь и фиг сформулируешь.
Вы сомневаетесь в материальности собственного мозга? Уверяю вас, он материален, для доказательства не нужно даже гвоздиком черепную коробку проковыривать. Вот только ваша «точка наблюдения» — не мозг, а закодированная в нем информация, ваше «собственное я», которое гвоздиком не проковыряешь. «Собственное я» вообще ничем не возьмешь, данная точка непознаваема (а не тривиально нематериальна).
В материальности мозга не сомневаюсь. Но думаю что только мозга недостаточно. Т.е. «собственное я» не является продуктом мозга, или только мозга.
Непознаваемость и есть отличие вашего «собственного я» от «собственного я» других людей и устройства механизмов. Если разобрать какую-нибудь механическую игрушку или как следует покопаться в мозгах другого человека, возможно установить их устройство? В принципе да, признайтесь! Трудно, но теоретически допустимо. А познать устройство собственного мозга (если не допускать мысли, что ваш мозг устроен по образцу других людей)? Познать собственный мозг нельзя в принципе! Этим ваше «собственное я» и отличается от «прочих я», отсюда уверенность, что существует что-то помимо и поверх мозга. Конечно, существует — вы сами, ваше непознаваемое сознание, точка наблюдения.
Как вы думаете, остается ли при этом вариант случайного создания?
Оставьте в ангаре детали и приходите через надцать тысяч миллиардов лет за готовым СУ 35.
В идеале, конечно, было бы неплохо и детали не оставлять: а вдруг не те окажутся?
Сложность СУ 35 и человека несопоставимы.
Я наверное не точно выразился. Под случайным созданием я не подразумевал что ученые накидают в кучу пару тысяч процессоров, а на утро это будет с ними разговаривать и рассказывать анекдоты. Я имел ввиду что, несмотря на психологическую склонность человека, о которой говорилось выше, можно сказать психологическое сопротивление.
>Так как человек психологически склоняется ко второму варианту, искусственный разум невозможен.
Вообще-то компьютер играет в шахматы совсем не так как человек. Человек смотрит на доску и «видит» лучший ход без явного перебора вариантов (ну может анализ нескольких ходов).
В компьютере же в обычный перебор ходов + сложная система оценки позиции + библиотека дебютов и эндшпилей.
У кого лучше откалиброваны коэффициенты и формулы оценки позиции, тот и выиграл
А какая разница, как играет? Или мыслящая машина — обязательно человек? Что такое искусственный разум, алгоритмы или результат? Если результат, тогда шахматная программа — специализированная мыслящая машина. Если алгоритмы, тогда опишите алгоритмы человеческого мышления — думаю, их несложно будет воплотить в шахматной программе. Правда, не факт, что такая программа будет обыгрывать человека в шахматы. Но ведь в этом случае важен не результат, а алгоритмы, не так ли?
Вообще, мнение, что искусственный разум — не результат, а алгоритмы, весьма странный и неожиданный. Надо будет обдумать.
На мой взгляд, разум не результат, а процесс. Результат вообще не важен.
Один и тот же результат можно достичь абсолютно разными путями. И факт достижения результата никак не указывает каким путем он достигнут.
Лично я не вижу никаких фундаментальных препятствий по созданию искусственного разума. Просто существующие технологии еще и близко не подобрались к этому моменту.
«Один и тот же результат можно достичь разными путями», но лишь один из путей — разумный. Следовательно, остальные пути разумными не являются, хотя, возможно, они достигают лучшего результата или достигают его раньше? Тем самым искусственный разум предполагает полное человекоподобие? Извините, в это сложно поверить. Я уж не спрашиваю, на кой ляд сдался такой «мыслящий» мозг, «немыслящие» конкуренты которого более эффективны.
Какие странные выводы из моих слов.
Где я писал, что только один путь разумный? Разумных путей может быть бесконечно много. Например теорема пифагора имеет 367 доказательств.
Где я писал что разум предполагает человекоподобие? Да, я полагаю, что разум проще воссоздать в биологическом организме, а не в механическом организме. Но только потому, что организм (мозг) меняется с течением жизни (времени), а механизм (электронная схема) нет.
Вы написали: «разум не результат, а процесс. Результат вообще не важен». Отсюда следует, что разумной может быть только машина, копирующая человеческий процесс мышления, то есть человекоподобная (в смысле схемы мышления) машина. Если к этому приплюсовать, что, как Вы пишете, «результат вообще не важен», получается, что существует единственный разумный (он же человеческий) путь решения проблемы. Строго говоря, таких путей может быть 367, не важно. Ваши слова предполагают наличие нечеловеческих путей решения проблемы, причем из примера с шахматами ясно, что эти пути могут быть более эффективными (раз шахматная программа обыгрывает человека).
Я всего лишь сделал выводы из заявленного Вами.
Отсюда следует

Вовсе не следует. Откуда Вы это берете?
Может просто дадите определение разума? Похоже мы говорим о разных категориях.
Или Ваше утверждение о невозможности создания искусственного разума строится на невозможности дать четкое определение разума?
Во-первых, следует. Я всего лишь продолжил Ваши утверждения. Ладно, о том, насколько получилось логично, пусть судят другие. Со стороны видней.
Во-вторых, если разум — это определенная реакция на определенные внешние раздражители, тогда создание искусственного разума возможно. Введя в систему случайные числа, легко даже сделать систему неопределенной (непредсказумой). Если реакция робота станет неотличима от человеческой, робот будет мыслящим или не будет? Можно посчитать так, а можно иначе.
Относительно моего доказательства невозможности создания искусственного разума, оно строится на противоречивости данного понятия. «Искусственный» — сделанный человеком, «разум» — нечто, находящееся за пределами человеческого понимания. Таким образом, искусственный разум — холодная теплота, или горячий холод, как больше нравится. В этом смысле создать искусственный разум нельзя.
Все же хотелось бы определение разума. В моем понимании определенная реакция на внешние раздражители не является обязательным признаком разума.
Чувствую, что мы обсуждаем совсем разные понятия.
Да, не исключаю, что разные. Мое понимание разума выражено в статье. Если у Вас иное мнение, дайте свое определение, а я с ним соглашусь или нет.
Полностью с Вами согласен.
Ожидать от ИИ любви, жалости, жертвенности, любопытства и т.п. — всего того, что присуще живым существам — не приходится.
Ответ чувствует каждый из нас. Может быть не знает, но чувствует.
Вы бы не могли уточнить каким именно на Ваш взгляд органом чувств (глаз, ухо, ...) мы это чувствуем?
А то здесь уверяют, что это не более чем просто «определённые механизмы мозга».
Это такой, особый «орган» чувств. =) Это чувство, осознание и понимание «Я существую». Можно закрыть глаза, заткнуть уши и погрузиться в ванну с температурой жидкости равной температуре тела. Т.е. можно отключить органы чувств, но вы все равно будете знать что вы есть.
А если в таком положении провести достаточно долгое время — в депривационной камере — то можно словить достаточно количество глюков, чтобы в этом засомневаться (разум потеряет опору в ощущениях и засомневается). Не аргумент, в общем.
Вероятно, кто-то там и умом тронется, наблюдая глюки. И будет наблюдать глюки, но все равно он будет что-то наблюдать.
Так они — порождение сознания. Силипсизм же.
Так а мы и говорим о сознании. Чувство/осознание/понимание существования ведь останется.
Опять какое-то чрезмерно антропоморфное восприятие разума — и, судя по беглому анализу, еще и с попыткой саморефлексии автора, уж не знаю насколько осознаваемой. Достаточно понять простую вещь: мы в состоянии адекватно сказать о наличии разума по реакции (и неважно, сколько слоев передатчиков будет за этим стоять — это вообще не задача, это контекст) — наличие «души», «эмоций» и прочего антропоморфного и психологического хлама вроде непредсказуемости совершенно ни на что не влияет. С помощью разума их, наконец, можно эмулировать, если объяснить разумному существу что и как делать — и вуаля, по реакции мы не сможем отличить наличие от эмуляции.

Сошлюсь на авторитет вчерашней ночи: ailev.livejournal.com/1049684.html — и повторю вслед за ним, так как сам так во многом считаю — что когда-то слишком часто кричали «волки», а теперь они почти пришли.
Если посмотреть, как развивалась наука до сих пор, можно заметить явление «точки фокуса». Это небольшая область знания, где внезапно оказываются сосредоточены титанические усилия всего человечества.
В начале XX века бурно развивалась химия. Открывались новые классы химических веществ, новые виды реакций. Люди творили то, что казалось невозможным. Впереди уже замаячили вещи, способные перевернуть мир — искусственная мышца и полная теория катализа…
И вдруг всё резко кончилось.
Химия развивается и сейчас, но как-то бледно.
Куда же сместилась точка фокуса? В физику. С 30-х годов там началась «эпоха бури и натиска», когда человечество узнало о строении материи больше, чем за всю предыдущую историю своего существования. Открыли радиоактивность, изучили строение атома, начали открывать новые виды взаимодействий. Создали атомную бомбу, циклотрон и атомную станцию.
Впереди замаячило нечто такое, что способно было перевернуть мир — термояд, этот потенциальный источник неограниченной энергии.
И вдруг всё как обрезало. Работы вроде и шли, но уже без прежнего пыла. Титаны мысли куда-то исчезли, практический выхлоп исследований стал микроскопическим.
А просто точка фокуса опять сместилась. Теперь в область космонавтики.
За двадцать лет люди узнали о космосе больше, чем за всю предыдущую историю существования человечества. Человек вышел в космос и добрался до Луны. Люди дотянулись своими инструментами почти до самого горизонта событий.
Развитие космической техники шло столь бурно, что у многих даже сомнений не было: уже наши дети будут жить на Марсе и строить гигантские межпланетные города.
И вдруг всё кончилось. Резко, внезапно. Вроде даже и работы идут, спутники пускаются, МКС создана и функционирует. Но вот ушли куда-то великие герои, и ни о каких прорывах даже нет и речи. Все понимают, что ближайшие 100 лет нам даже Луны не видать, а до Марса хорошо если просто пилотируемый корабль доберётся. Куда уж там базы и города…
Куда же сместилась точка фокуса? Где собрались лучшие умы человечества?
В IT. Началась эпоха сверхскоростного развития вычислительных технологий. Создавались невероятные, фантастические вещи, не предсказанные ни одним фантастом. Возник феномен интернета, компьютеры становились всё мощнее. Развились системы синтеза и разпознавания как речи, так и изображения. Впереди уже маячат титанические вещи, способные перевернуть весь мир — 3D-принтеры, Wearable computers, дополненная реальность, а в перспективе ещё и «загрузка сознания».
Так вот, глядя на то, что творилось в других областях науки, можно с уверенностью сказать: развитие IT очень скоро резко «кончится». Думаю, у нас есть лет 10-15, не больше. И будет как с химией, физикой и космонавтикой: внезапно прорывы прекратятся, уникальные технологии, до которых, казалось бы, рукой подать, так и останутся нереализованными.
А точка фокуса сместится ещё куда-нибудь. И уже там будут невиданные прорывы, которые даже и не снятся писателям-фантастам.
Здорово подмечено!
Хотя, по моему мнению, «точка фокуса» — не вечный процесс, а направляемый Создателем (его не запрещено здесь упоминать, нет?). Нынешняя цивилизация — техногенная. Назначение — создание какого-то технического устройства, которое обеспечит достижение человечеством конечной цели. Понятно, что для создания устройства Z (назовем его так) требуется определенный уровень химии, физики и т.д. Когда человечество достигает уровня знаний, потребных для создания устройства Z, его интересы перемещаются на следующую науку в списке. В этом смысле компьютерные технологии не последний этап, конечно, но наиболее вероятно, что новое научное направление будет информационным и отпочкуется от этой ветки.
Прошу прощения, ошибся с комментарием. Он должен был попасть вот в эту тему:
habrahabr.ru/post/163655/
Вот что бывает, если держать сразу несколько браузеров с открытым Хабром.
Вижу частично вашу правоту, но с другой стороны, не могу согласиться: в физике, химии, астрономии до сих пор такие события происходят, что дух захватывает. Просто они не во внимании общественности — одной из причин чего является очень кропотливая командная работа, притом команды там тоже немаленькие. А для внимания общественности нужны герои — Эйнштейн был героем, например Торвальдс тоже герой (не будем аналогичных стереотипных примеров приводить). А вот когда таких людей не остается — общественности и прессе прежде всего становится неинтересно. Ну может нобелевку когда вручают — так ведь кроме политиков и писателей — кто-нибудь без гугла вспомнит как зовут прошлогодних лауреатов по физике? Не гуманитарный это подход.

Плюс сюда налагается, что после стремительного развития большими крупными «мазками» остается прорва областей с одной стороны небольших — уж не настолько впечатляющих по крайней мере, как термоядерное оружие — но которые гораздо более способны к синергии между собой. И эта кропотливая работа дает зачастую больше, чем все «крупные мазки» вместе взятые.

И последнее. В отличие от вышеперечисленных областей, IT почти не потребляет объекты физического мира. По химсоставу мой полугодовалый системник не слишком сильно отличается от тех, которые были 20 лет назад. А вот сделать с его помощью можно вещи на взгляд 20-и летней давности вещи просто запредельные. Стоимость топового ЦОДа по сравнению с LHC тоже мизерная. Из этого следует, что вероятность синергии разных областей, которая не случилась в физике и химии, в IT значительно больше.
Заглянул в профиль — и не ошибся. Лучше бы вам писать сказки.
Сказки я тоже пишу, Вы угадали.
Знаете такое понятие — профессиональный идиотизм? Так вот, толпу профессиональных идиотов полезно иногда разбавлять любознательным дилетантом. Чтобы профессионалы могли осознать, насколько идиотскими выглядят их попытки со стороны.
Извините, ошибся. Это же Вы не ко мне обратились.
Все правильно, к вам. Только один вопрос. Ваша цель — указать на бессмысленность их труда или дать новый толчок к развитию? (Вот теперь уже я мимо.)
Извините, в иерархии комментариев запутался.
Первичная цель — сформулировать, как обстоит «на самом деле», самому разобраться, для себя. Интересно же понять, как мир устроен. Цель вторичная — испытать концепцию на публике, узнать, как ее воспринимают и есть ли сильные аргументы против. Ну и посмотреть, что такое Хабр, заодно отрекламировать собственные взгляды (писатель, что с меня возьмешь? мне ж без читателей смерть).
Фраза в первом Вашем комментарии предполагает знакомство с моим творчеством. Не нравится, да? Что не нравится, обидно, но приятно, что узнают, заглянув в профиль.
Крайне художественное представление такой острой, специфической темы. Нравится, не нравится — дело десятое. От себя скажу только, что видел посты и подлиннее, но с гораздо более комфортным изложением.

з.ы. Ко всему прочему, тема подобных топиков до ужаса измыта. Я вообще не вижу смысла писать о том, что человек, решивший взяться за создание чего-либо в данной области, сможет понять самостоятельно.
з.ы.ы. Беседы, как ни странно, у вас выходят гармоничнее.
Более комфортное изложение легко представляю: людей, обладающих литературным талантом, довольно много — процентов 10, по моим наблюдениям. На Хабре таких полно тусуется: многие, очень многие прекрасно пишут. Но я и не утверждал, что мой пост самый-самый.
Тема размыта, потому что такая тема: скорее философская, чем техническая. Философия вообще размытая наука, на любителя.
Если Вам ранее, до прочтения моей статьи, было известно о невозможности создать искусственный разум, Вам, конечно, не следовало читать материал. Но может, кому-нибудь пригодится: мне во всяком случае стоило усилий продумать аргументацию. Со своей стороны жалею, что лет пять назад, когда данная тема была для меня пустым звуком, не ознакомился с Вашим мнением: оно бы существенно сократило мне время поисков истины. Вообще, не припоминаю заявлений, что искусственный разум невозможно создать. Хотя я не специалист в данной области: наверное, всяких мнений хватало.
Спасибо хотя бы за «гармоничные беседы» в «з.ы.ы».
Тема не «размыта», а «измыта», что значит — исчерпывающе обсуждена.
Дальше нет смысла продолжать, ибо, вижу, вы в моем лице уже пытаетесь найти враждебные зачатки. Что не есть адекватно(не сочтите за личную обиду). Искренне желаю успехов в освоении новых знаний. ;)
Если исчерпывающе обсуждена, значит, я изобрел велосипед. Бывает.
Обид никаких, враждебных зачатков найти не пытался.
Всего хорошего, был рад поговорить с профи.
Удастся ли создать искусственное сознание зависит от того существует ли некий нематериальный объект, создающий наблюдателя, т.е. есть ли душа. Если души не существует, то живое и мертвое ничем принципиально не отличаются и создать умную машинку когда-нибудь ученые смогут.
На какой минуте среди биографии Юнга можно услышать его предположения о разуме и сознании?
Эм. Ссылка вроде с тайм-кодом на 31:05, не?
У меня сначала запускается. Дома буду на 31-05 перемотаю
Хотя даже в случае присутствия души остается возможность создания робота с интерфейсом подключения совместимом с интерфейсом подключения души к белковому телу
Соглашусь с тем, что понятие «искуственного интеллекта» весьма расплывчато и сложно определимо. Однако, с вашими креационистическими утверждениями — увы — согласиться не могу в силу своего мировоззрения.
В любом случае, чтобы не разводить холивары (ибо Хабр не место), могу предложить вам две интересные книги, чуть менее чем полностью посвященные вопросам разума и ИИ: Даглас Хофштадтер «Гёдель, Эшер, Бах: эта бесконечная гирлянда» и Роджер Пенроуз «Новый ум короля»
Спасибо, посмотрю при случае.
Я буквально недавно посмотрел интересную беседу по поводу того, что же такое сознание, где столкнулись диаметрально противоположные точки зрения. И, как бы странно это не звучало, я склонен придерживаться разных теорий представления сознания, интеллекта… Возможно, истина где-то посередине. Но, в любом случае, я убежден в возможности создания ИИ. Может кому-то тоже будет интересно послушать умных людей…

Видел как-то. До чего ж упорот тот, в очках. Интересного мало.
UFO just landed and posted this here
UFO just landed and posted this here
Sign up to leave a comment.

Articles