Комментарии 136
нужна универсальная теория разумаВ точку. Вся статья и разработка ИИ на нач. этапах сводится к этому. Вот только у нас один пример — мы сами. Эта как пытаться найти ур-е линейной ф-и зная только одну точку. Просто как-то очень сомнительно обобщать один пример разума на весь разум вообщем.
Это размышления инженера, про то, что он делать не умеет. В итоге инженер приходит к выводу — нужно спросить у ученого (попросить готовую теоретическую базу).
Но инженер и изначально знал, что он не умеет делать ИИ, зачем он примерял белый халат ученого? Что-бы написать 5 абзацев и сказать, ну все я не справился?
Не хочу ни кого обидеть, но это «диванная экспертиза» или «кухонная глобальная экономика». Это здорово что люди размышляют, не здорово при этом щеки раздувать, особенно если ты ни чего не придумал.
Ну вот представим менее хайповую область. Ну например возьмем проблему выгорания OLED экранов. Сядем такие в майках на кухне, и давай думать «не ну коль светиться, то конечно будет выгорать, свет он же такой, нагревает все… даааа тут ни чего не поделать то, надо нам теорию „всеобщей светимости плоских поверхностей“ „
Это, конечно, не про тот разум, о котором вы говорите. Вообще, спекуляции на тему искусственного сознания мне кажутся мало продуктивными. Мы сделали гигантский шаг к искусственному разуму, но, кажется, совсем ничего не сдвинулось в области искусственного сознания. Поправьте меня, если я не прав.
Конечно, искусственный интеллект потенциально может имитировать наличие сознания настолько искусно, что человек никак не сможет проверить, есть ли оно там.
Не скажу что было не интересно, просто мало. Словно купил большую коробку конфет, а в ней 2/3 упаковка для конфетки. И вроде вкусно было, но надеялся на большее…
Ибо не будем знать — а что такое сознание.Ответы на такие вопросы дает наука (и вся практическая деятельность человечества), философия только обобщают эти знания, и вырабатывает методологию.
Философия и методология в исследовании мозга и его функций (восприятия, интеллекта, сознания) известны и состоят в экспериментальном изучении нейронных сетей и др. структур мозга, находящегося во взаимодействии с окружающим миром посредством орг. чувств. Важно понимать, что эти функции суть информационные структуры и процессы, как и в случае с геномом, и его расшифровкой. Видимо для прорыва в понимании этих функций опять требуется пара нетрадиционно мыслящих физиков)
Человеческий мозг, как конечный физический объект, можно изучить за конечное время.
Вот да. Когда «творческий» ИИ осознает себя и ничтожность своих «создателей» относительно себя и своих возможностей — у человека будут проблемы. Тема уже не раз поднималась в книгах и кино.
Может перед разработкой ИИ стоит определиться с его позиционированием в социуме? Кого хочется получить на выходе, исполнительного раба, по команде выдающего (например) стопку сюжетов блокбастеров для увеселения праздных толп человеков, либо полноценную цифровую личность.
Мы еще так недалеко ушли в плане прогресса, что поднимать философские проблемы уместно только в фантастике. «Где затормозить Скайнет?» — «Вот этот рычажок потяните, ага.»
В общем, проблема высосана из пальца, на мой взгляд. Хоть и высосана старательно.
Реализация даже универсального ИИ — это вопрос будущего, причем не самого близкого.Ну почему? Ежели просто скопировать низкоуровневое строение человеческого мозга, его нейронную сеть, в машину — мы получим вполне рабочий разум. Проблема в неэффективности такого решения. И всё же как proof of concept оно хорошо. И вычислительные мощности приближаются к нужной цифре.
P.S. Возможно, за последние несколько лет что-то изменилось? Рискну предположить, что навряд ли.
Ученые разобрались, кто умнее — кошки или собаки — Газета.Ru
Ученые сравнили мозг нескольких видов животных — хорьков, мангустов, кошек, собак, гиен, львов и бурых медведей. Как оказалось, у собак в коре головного мозга насчитывается около 530 млн нейронов, в то время как у кошек – лишь 250 млн (для сравнения, в коре человеческого мозга около 16 млрд нейронов).
А что с числом нейронов слона, синего кита, шимпанзе? Какой то несоразмерный в эволюционном плане отрыв, в 32 раза…
Вроде как с нематодой все хорошо, модель ведет себя адекватно.
Ну, значит, на очереди таракан, в нервной системе которого насчитывается (surprise, surprise) около миллиона нейронов. А там, глядишь, и до человека доберемся. :)
Список животных по количеству нейронов — Википедия
Или вы имеете в виду программирование на каком-то ином уровне?
Под програмированием я имею ввиду возможность установления произвольных аппаратных связей в искуственных нейронах, возможность «прорастать» аксонами и дендритами. Ну и важна скорость работы, должно быть на порядки быстрее эмуляции, компактнее, энергоэффективнее.
С другой стороны, если получиться — дальше можно отсекать все лишнее и оптимизировать.
Ещё бы научиться их компоновать в кластеры по примеру неокортекальных колонок
Фишка в том, что наши мозги самоорганизуются безо всякой теории или внешнего управления. Если у нас будет хорошая, добротная теория самоорганизации мозга, то есть мы будем знать как он работает — нам не нужно будет что-то там компоновать, оно будет само всё делать, нам останется задать лишь начальные условия (стартовые, простейшие программы-рефлексы) и ждать саморазвития, скармливая потоки информации от окружающей среды. Это если мы таки сможем повторить искусственный аналог природного мозга уровня человека.
Основная проблема как раз выяснить — а какую надо? Не примерно общие представления(они уже есть), а вот конкретную, детальную карту с миллиардами и даже триллионами связей.
Свобода в плане топологии связей этом плане даже выше чем у биологического аналога, где длина связей ограничена и самые «дальние» связи обычно формируются как последовательная цепочка из нейронов, а не напрямую.
А по скорости так уже и есть — скорость и энергоэффективность подобных нейроморфных чипов на порядки выше, чем у чисто программной эмуляции нейронной сети на универсальных процессорах (типа x86, POWER, ARM и т.д.)
Моделировать уже сейчас можно нервную систему состоящую из сотен миллионов нейронов. А вот точно «считывать» (оцифровывать), чтобы структура(связи между всеми этими нейронами) и начальное состояние модели в момент запуска обсчета 1к1 соответствовали взятому живому образцу это пока да, не больше нескольких тысяч в лучшем случае.
Потому как этот процесс пока еще не научились автоматизировать и построением карты связей люди занимаются вручную изучая горы срезов тканей под микроскопами и реакции живых образцов на раздражители и искусственно подаваемые импульсы.
точно «считывать» (оцифровывать), чтобы структура(связи между всеми этими нейронами) и начальное состояние модели в момент запуска обсчета 1к1 соответствовали взятому живому образцу
Я не уверен что в этом есть смысл. Мозг каждого человека индивидуален, складки неповторимы, все нейроны отличаются друг от друга параметрами, но тем не менее разум всех людей примерно одинаково «устроен». Копирование всей структуры мозга конкретного индивидуума в цифре примерно сравнимо с копированием папиллярного рисунка пальца при построении протеза руки.
Но все начальные состояния связей нужно как-то задавать обязательно — без этого нейронная сеть просто «не запустится» (не будет ничего делать). И простейшие наивные подходы к этому вопросу типа разбросать начальное состояние связей равномерно между всеми нейронами или же случайным образом из генератора случайных чисел и надеяться, что потом оно само как-то упорядочится и самоорганизуется не работают — пробовали уже не раз. Ничего кроме хаоса и шума не получается.
Живой мозг получает эту начальную «карту» еще при эмбриональном развитии, из своей генетической программы + воздействий окружающей среды в процессе формирования. Дальше она достраивается и оптимизируется уже в процессе обучения.
А для искусственной модели эту карту нужно задавать вручную и она должна соответствовать хотя бы среднестатистическому распределению связей в мозгах представителей интересующего вида организмов.
А даже если получится создать саму сеть работающую с подобной скоростью, то будут огромные сложности с вводом-выводом: а на чем с такой скоростью можно обучаться? откуда и как брать соответствующую информацию с нужной скоростью? кто или что будет успевать давать обратную связь, чтобы направлять обучение в нужное русло?
А выч. возможности у нас пока не добрались до того, чтобы «хотя бы» в реальном времени моделировать работу ИНС сравнимой по сложности с мозгом человека. Даже топовым суперкомпьютерам на планете, стоящим сотни млн. $ за штуку и потребляющим несколько десятков МВт мощности еще остается где-то 1-2 порядка до этой условной планки.
Это преодолимый разрыв — вопрос только времени и денег. А вот еще на 5-7 порядков вверх — уже не факт что вообще возможно.
а на чем с такой скоростью можно обучатьсяГенерировать нужную инфу по шаблону, как было реализовано с MRI снимками — увы, линк не помню.
А вот еще на 5-7 порядков вверх — уже не факт что вообще возможно.Инженерная проблема, мы про общие приципы. Законов физики запрещающих ускоренные мозги ещё не нашли, знач пока они физически реальны. Ну и физические ограничения на вычисления ещё ни капли не близко.
Но все начальные состояния связей нужно как-то задавать обязательно — без этого нейронная сеть просто «не запустится» (не будет ничего делать)
Вы знаете, наш мозг с рождения имеет очень мало связей и быстро растёт. Связи возникают «сами», никто не задаёт их. Вплоть до примерно шестилетнего возраста, когда связи начинают организовываться в более «стройный вид» и «лишние» уничтожаются в огромных количествах. Если понимать, как это происходит — мы сможем сделать «заготовку», эдакий электронный эмбрион, который сможет развиться и обрести разум. Но поскольку мы сейчас не знаем, как это происходит — мы не можем сделать сразу «взрослый мозг» уже умеющий мыслить. Копирование реального мозга, скорее всего, ничего не даст — небольшие, неизмеримые отличия от реальных характеристик нейронов из-за огромного числа нейронов выльются в полное несовпадение работы «оцифровки» и настоящего мозга.
Мы не можем скопировать низкоуровневое строение мозга, потому что до сих пор крайне слабо в нём разбираемся. Так называемые «нейронные сети» имеют такое же отношение к структуре мозга, как «облачные вычисления» к облакам на небе, это маркетинговый термин. Мозг — не слоёный пирог из нейронов.
Короче говоря, я тоже соглашусь с тем, что теоретически это всё интересные вопросы, но реально их уже обсуждали со всех сторон годах в шестидесятых, и вряд ли мы добавим чего-либо существенное к этой дискуссии. А на практике это всё проблемы очень отдалённого будущего. Куда больше неприятностей добавляет не «умный ИИ», а «глупый ИИ», который на основании «нейроалгоритма» банит ваш аккаунт в paypal или отказывает в банковском кредите. Вот где проблемы, и их количество уж точно нарастает.
Мозг — не слоёный пирог из нейронов.
Да ну? А что же это?
А кто сказал, что топология ИНС должна обязательно строиться на слоях?
Я и говорю, что теоретически всё это интересно, а на практике дело далёкого будущего.
А их существует огромное множество разных помимо сверточных. И когда речь заходит о моделировании мозга или попытках создания ИИ никто даже не думает использовать для этого сверточные сети — т.к. они для этого явно не подходят.
Для подобных задач используют рекуррентные НС, такие как LSTM или спайковые нейронные сети с произвольной топологией (вообще никаких слоев и ограничений на связи между нейронами) имитирующие работу биологических НС в мозге и еще более сложные модели.
А сверточные основанные на четко разграниченных, фиксированных слоях сейчас часто используют на практике (в прикладных или близких к прикладным применениях) просто потому, что их легко моделировать на компьютере и они дают хорошие результаты в некоторых узких задачах, типа распознавания изображений и задач классификации объектов. Но эти задачи хоть и узкие, но при этом востребованные и массовые в плане объемов обрабатываемой информации. За счет этого сверточные сети временно вышли вперед по применению.
В том и дело, что есть масса видов задач и масса разных видов сетей, из которых приходится выбирать на практике. Поэтому я и думаю, что до моделирования мозга нам ещё очень и очень далеко.
А о том, что они очень хорошо для них подходят(дают хорошие результаты при минимальных размерах сети и ресурсах затрачиваемых на их обсчет), а вот для других — не очень, а для некоторых вообще не годятся.
Насчет GRU не знаю, это достаточно новый вид и в некотором смысле шаг назад (в строну упрощения). А вот LSTM насколько знаю намного превосходят сверточные в задачах типа перевода (текст на одном языке <--> текст на другом языке), распознавания речи(звук --> текст), синтеза речи(текст --> звук), синтеза более-менее осмысленных текстов (на заданную тему или в форме имитации интерактивного общения). Гугл пару лет назад в виде эксперимента например сделал отличного чат-бота, просто «скормив» LSTM сети субтитры из нескольких тысяч фильмов. Переводчик гугла сейчас тоже частично на базе LSTM сети работает, уже не как эксперимент, а штатный механизм. И дает результаты лучше, чем все, что у них было до этого.
Ежели она конечно вообще нужна
То, как такая система будет называться — неважно, но аналог эмоций/чувств будет нужен — это несомненно. Чтобы у разума были какие-то стимулы что-то делать и двигаться в каком-то направлении.
Как бы вы её реализовали?
Вы хотите, чтобы я занялся этой сложной и объёмной задачей за бесплатно, ради того, чтобы запостить коммент на хабре? XD
Т.к. функция гормонов имеющих важное значение для работы мозга (таких дофамин, серотонин, адреналин, мелатонин, ацетилхолин) в основном сводятся к модификации функции передачи нервных импульсов между нейронами на химической стадии (электрический импульс — выброс веществ в синаптические щели — их прямой/обратный захват, вторичный электрический потенциал и возможный импульс).
Если убрать обеспечивающие регуляцию обмена веществ, рост/подавления роста разных органов и тканей, регулирующих выработку других гормонов и прочую чистую биологию обслуживающую функционирование тела. То остаются модификаторы связей между нервными клетками, которые временно меняют их поведение(характер передачи импульсов), но при этом БЕЗ перестройки самих связей.
Так же можно будет смоделировать влияние большинства других интересных веществ — различных стимуляторов, депрессантов, наркотиков.
Если этого окажется мало, тогда начнется хардкор — полноценное моделирование работы связей, не представление их в виде одного числа. Тоже вполне реально и уже делается на экспериментальном уровне, но тут сразу вычислительная сложность задачи прыгает вверх на 2-3 порядка.
автор уже предполагает какие-то ограниченияНе ограничения, ни в коей мере, вы никак не ограничите сознание, как не можете — к примеру, ограничить своего врослого ребёнка. Речь про проблемы, которые непременно возникнут — и решать их нужно заранее.
В истории часты примеры того, как представления о будущем оказывались ошибочны. Но я вполне допускаю, что наши рассуждения о проблемах искусственного разума когда-нибудь принесут пользу.
Мы еще так недалеко ушли в плане прогресса, что поднимать философские проблемы уместно только в фантастикеВы, как и многие, «перевернули» инженерный процесс — проблемы эпистемологии и философии в проектировании ИИ первичны, а не вторичны — их решение нужно именно чтобы по крайней мере начать правильное проектирование универсального ИИ.
пока мы даже человека не можем воспитать гением, что говорить об обучении машины… да и ни кто не хочет обучать, всем нужен уже готовый продукт, а главное чтоб он не имел права на
Потому вопрос расстановки искусственных ограничений для ИИ мне видится весьма актуальной задачей. Особенно интересны детали реализации подобных ограничений.
Есть другая интересная версия развития событий, что с ростом доступных вычислительных мощностей обучение ИИ может пойти по экспоненте, и он, будучи на старте игрушкой, за очень короткое время обойдет человеческий мозг и может стать неуправляемым.
И тогда гуглопереводчик наконец-то научится осмысленно переводить. :)
Есть другая интересная версия развития событий, что с ростом доступных вычислительных мощностей обучение ИИ может пойти по экспоненте
Пока что опыт показывает, что постоянное увеличение сложности искусственных нейросетей быстро приводит к обратному эффекту — к падению их эффективности. Они не масштабируются как мы этого ожидаем. Нельзя просто увеличить в два раза число нейронов в целом или каких-то элементов, например слоёв, и получить, скажем, в два раза большую точность распознавания или скорость работы. Не выходит каменный цветок (с).
Дело в том, что мы планируем ставить перед искусственным разумом творческие задачи. Мы ждём от него прорывов в медицине и биологии, физике и космологии, социологии и психологии. Более того, мы верим, что он будет способен писать книги, сочинять музыку, рисовать картины. Иными словами, мы верим, что он сможет создавать новые знания (в широком смысле – включая искусство и науку).Это будет какая-то параллельная цивилизация-конкурент, если делегировать такому ИИ еще и распорядительные функции, кот. может вытеснить человека в конечном счете. Лучше последовательно развивать это направление:
Например, появление музыкальных обучающих программ облегчило жизнь начинающих музыкантов..Это путь симбиоза человеческого интеллекта с ИИ, расширения возможностей человеческого интеллекта. В перспективе у каждого человека в «облаке» может быть свой персональный симбиотический ИИ связанный беспроводно с мозгом, некий технизированный вариант телепатии. Таким образом и люди будут связаны между собой новой коммуникативной формой, намного эффективной вербальной или символьной. Но человек всегда должен определять задачи этого ИИ. Понятно, что в такой системе остро будут стоять вопросы информационной безопасности, но они и сейчас стоят. Нечто похожее на показанное в кинофантастике «Анон»)
Это будет какая-то параллельная цивилизация-конкурент, если делегировать такому ИИ еще и распорядительные функции, кот. может вытеснить человека в конечном счете.
Кстати не вижу ничего плохого. Обычная эволюция.
Кстати не вижу ничего плохого. Обычная эволюция.Эволюция не выбрасывает полезные наработки. Как когда-то на заре эволюции эукариотическая клетка использовала аэробную бактерию в качестве симбионта для получения энергии, кот. со временем превратилась в митохондрию, так и будущий могущественный ИИ может использовать морально-этические установки наработанные биологической и социальной эволюцией. Фактически это свод принципов поведения в неопределенных условиях, а они всегда будут актуальны, даже для будущего ИИ. Этакая человеческая органелла в будущем ИИ), или что-то вроде БИОСа в современных компах.
Может в далеком будущем Землю объявят генетическим и культурным достоянием Человечества по типу Национальных парков сейчас, для сохранения культурного и генетического разнообразия. А ИИ, воплощенный во множестве различных форм, будет жить в космосе и на других планетах, и будет посещать Альма-матер с трепетом и восхищением, как сейчас туристы посещающие нац. парки)
вымирает (или превентивно уничтожается)Есть еще варианты — самоуничтожится по собственному недоразумению, или погибнет в результате глобального природного катаклизма. На мой взгляд это более вероятные варианты. Вот на эти случаи запасной вариант в виде ИИ в какой-либо более устойчивой форме, включая генинженерной, очень даже бы пригодился) Как знать, может мы одиноки во Вселенной, хотя сомнительно.
1. Продление продолжительности жизни человека (в основном активного периода, а не общей) с использованием различных технологий (включая подходы SENS:). ИИ на этом этапе используется как усилитель и расширитель интеллектуальных возможностей человека. Этот этап жизни человека — выполнение обычной биологической программы развития, включая продолжение рода (возможно в несколько заходов).
2. Если первый этап не осточертел, по собственному желанию, или просьбе общества, если заслужил, сознание индивида переносится на новый носитель, и его существование продолжается в бионической форме. Это может быть техногенная форма, или генинженерная, или смешенная технология. Такие формы могут быть специализированными, например, исследователями, защитниками, космическими первопроходцами и тп, жить на других мирах, в соответствии с их условиями, или в космосе. Срок жизни в такой форме будет не ограниченным благодаря апгрейдам, если только не произойдет гибель носителя сознания индивида.
3. Если второй этап не осточертел, по собственному желанию и просьбе общества, в связи с прошлыми заслугами, сознание индивида переносится в некую сетевую среду, связывающую все общество будущего, и организующее его. Это буде виртуальное существование, без привязки к конкретному носителю. Некий режим божества) Срок существования не ограничен, и заканчивается по собственному желанию индивида. Естественно, число таких виртуальных личностей будет относительно небольшим, и их влияние на жизнь общества будет наибольшим.
Все три этапа связывает самоидентификация исходной личности, т.е. память о происхождении, потомках и потомстве, событиях прожитой жизни, общественных связях и заслугах, и тд, а также накопленные знания и опыт. Можно конечно абстрактно представить некую самоидентифицирующуюся личность происходящую из рода, берущего начало от интеллектуальной кофемашины) Но вряд ли такое будет иметь смысл. ИИ без личностной самоидентификации — это некоторое продвинутое устройство, не более. Это важный момент. Вспомним, все правители далекого прошлого пытались связывать свое происхождение от богов, простые люди от известных предков, тотемов и тп, позже с великими родами, т.е. не забывали свое происхождение.
Такая иерархическая схема, по идеи, должна сильно мотивировать человека жить долго и трудится на благо общества. Никаких копий сознания для восстановления не должно быть в таком обществе, что бы не создавать путаниц с личностной самоидентификацией ее членов.
Эволюция не выбрасывает полезные наработки.
Да ну? А вот дельфины, бывшие сухопутные млекопитающие, таки «потеряли» ноги. Неужто ноги бесполезны? :) Если что-то становится неэффективным в конкретных условиях, эволюция отбросит это с лёгкостью и элегантностью.
Но вы правы примеров ретроградного движения в истории эволюции не мало.
Как минимум сверх-ИИ может создать автомат для сбора бананов, в знак благодарности создателям. Может выделить какую-то часть своего интеллекта для этой работы, ну вот как вы не задумываетесь что ведете машину по знакомому маршруту, едете и думаете о чем-то другом, а работа-то проходит колоссальная по факту. Обезьяны могут поднять ваш вчерашниий бэкап, подкрутить там что-то в системе мотивации, чтобы собирание бананов воспринималось как самое приятное и полезное занятие. К примеру вы проснулись и вспомнили что вам надо собрать 10000 бананов, а завтра вас выпустят на волю. Завтра, естественно, никогда не наступит в таком варианте.
Например, можно запрограммировать искусственный разум так, чтобы он решал нужные нам проблемы. Однако, пока мы не узнаем, как работает наш и вообще любой разум, пока мы не поймём, какие изменения нужно внести в работу мозга на низком уровне, чтобы вызвать интерес к музыке, мы не сможем влиять на наш мозг и, соответственно, на его компьютерную модель.
Тут вот какое дело. Пока мы не узнаем, как работает наш и вообще любой разум — мы вообще в принципе не сможем сделать его компьютерную модель. А если вдруг случайно у кого-то получится — мы сможем ее изучить и разобраться, как она работает.
Сложность изучения интеллекта в том, что мы не можем прочитать состояние всех нейронов и проследить преобразование сигнала. А чтобы сделать копию, такая возможность должна быть.
Так это уже другой вопрос, не "как устроено сознание" а "почему оно устроено именно так". Чтобы проектировать электрические схемы, не нужно знать, почему электричество устроено именно так, надо правильно представлять движение зарядов.
нейроны не ответ на разум. важен опыт, который программирует эти связи. человек хоть и с мозгом может быть воспитан таким образом, что будет неадекватом. способность интеллекта это возможность на основании предыдущего опыта прогнозировать дальнейшего развитие ситуации. вопрос как выстроить это обучение. мы лишь количественно отличаемся от других животных, и способны для прогноза использовать больший объем информации, но если она будет мусором, информационным шумом, то даже более объемный мозг не сможет сделать правильных выводов и на пример какая нибудь собака оказавшись в тех же условиях что и человек сможет сделать более правильный и адекватный выбор на основании своих прогнозов
Мы на курсе радиоэлектроники паяли схемы, порой совершенно не понимая, как они работают — но зная, как они устроены. Брали и перепаивали, и получали рабочие вещи! :3ровно до того момента, как что то 'пойдет не так', искать причины проблем и исправлять их не разбираясь в конструкции очень сложно.
Брали и перепаивали, и получали рабочие вещи!
Вам давали схему с описанием всех элементов и соединений между ними.
С мозгом, по сути, мы имеем уже собранную схему (наш мозг) в качестве образца, груду электронных компонентов с неизвестной маркировкой (нейроны всех мастей, вспомогательные клетки, нейромедиаторы и так далее) и рентгеновский аппарат для попытки отследить соединения (карту синапсов, ака коннектом).
Согласитесь, собрать схему скажем уровня Радио 86РК было бы вам затруднительно в такой постановке.
Очень сомневаюсь в некоторых утверждениях статьи (вроде не увеличившегося числа начинающих музыкантов), но в целом, суть сходна с моими соображениями на этот счёт.
Ну и повторю два своих тезиса. Во-первых, смысл ИИ в том, чтобы делегировать ему работу, которая слишком скучна/тяжела/опасна для человека. Но если создать искусственный разум, он будет так же скучать и страдать, и в чём тогда смысл?
Во-вторых, непонятно, зачем нам нужны ещё и искусственные художники, писатели, сценаристы, музыканты, когда люди создают столько контента, что само человечество не в состоянии его поглотить.
смысл ИИ в том, чтобы делегировать ему работу, которая слишком скучна/тяжела/опасна для человека. Но если создать искусственный разум, он будет так же скучать и страдать, и в чём тогда смысл?ИИ — верно, и он уже неплохо справляется — например, решение указанных вами классов проблем. Автоматизация в общем. Но не ИР, а речь именно про него. Например, в науке и инженерии нужен именно ИР, имеющий сознание, а нерешённых проблем — целая куча.
Ежели вы возьмём менее творческие проблемы, например, распознавание образов, человек в целом спарвляется намного лучше, и мы ещё не уверены, а нужно ли сознание в решение указанной проблемы? И если нужно, как уговорить его решать нужные нам проблемы?
зачем нам нужны ещё и искусственные художники, писатели, сценаристы, музыканты, когда люди создают столько контента, что само человечество не в состоянии его поглотить.А зачем нужны человеческие музыканты? ;-) Они просто сами возникают, и всё. Как и искусственный разум может просто захотеть заниматься музыкой.
современный человек имеет неограниченные ресурсы по сравнению со своим предком из каменного века. Он может получить любую информацию, накопленную человечеством, за несколько секунд. Но при этом она мало кому нужна, кроме учёных и инженеров.90% человечества смотрит порно, а не изучает генную инженерию. И это не прямо как бы ужасно — ну таковы люди, иных не завезли. И почему ИР будет лучше по умолчанию?
Восстановит 'порно' и будет его смотреть (ладно ладно, пусть это будет высокоинтеллектуальный его аналог).
Если человеку не интересна музыка, он не будет ею заниматься, как бы не был лёгок процесс.
Если грубо говоря будет на это достаточно 0.1% времени свободного — будет. Вопрос ресурсов и приоритетов. Допустим я из за ограниченности ресурсов решил выбрать только занятия программированием (не совсем, еще понятно отдых + пара иностранных языков). Будь у меня ресурсы я бы занялся изучением всего что возможно и потреблением максимально большого количества контента (начиная от науч. попа и заканчивая научными статьями), а также исследованиями. Короче, если разрабатывать ИИ как модель человека — я считаю что самое главное что мы должны будем в нем прописать/воспитать — это любопытство.
П.С. Плюс за психопаспорт.
все ученые психи и машина будет психомМожет им быть — но основания вполне веские.
Таким образом творчество – скорее аномалия, чем норма.
Человек – животное, а для животного нормально получать физические удовольствия и размножаться. И каждый, кто проводит свою жизнь, создавая новые знания, вместо того, чтобы зарабатывать много денег наименьшими усилиями и получать больше физического удовольствия, может считаться «безумным». В психиатрии не считается нормальным, когда одна идея захватывает разум человека на протяжении многих лет. И многие талантливые люди действительно безумны или имеют иные психические проблемы.
Подобный hivemind явно эффективнее чем обычная группа людей из-за скорости коммуникации и обмена данными.
За оба сезона система показала себя хоть и достаточно сумасшедшей (что вполне понятно, учитывая какие именно личности ее составляют), но работающей на благо большинства (как видно из второго сезона — на благо большинства которое является ее гражданами — соответственно стараясь обходиться минимальными потерями даже при интервенции?), и работающей достаточно хорошо.
Увы, в разработке искусственного разума всё немного иначе – у нас ещё нет универсальной теории как, впрочем, и попыток её построения, – а значит впереди ещё немало проб и ошибок, и времени.
Этим все сказано.
Человек решает проблему творчески – он генерирует новые решения, причём используя намного меньшие ресурсы!— вот это вот «намного меньшие ресурсы» — оно откуда взялось? Что именно, и как именно вы считаете? А то если взять, и выч.мощность (по количеству операций, нужных для моделирования известных процессов в функционировании нейросети человека) взять, там радиальный отрыв в пользу выч.мощностей человека будет.
Именно отсюда вопрос — Что именно, и как именно вы считаете?
Но факт в том, что осуществлять эту деятельность ему помогала именно что огромная выч. сложность человеческого мозга, и его, мозга, архитектура (при том, насколько ее можно было бы уменьшить для решения такой задачи вам сейчас тоже правдиво никто не ответит).
И это ведет нас к следующему пункту:
вы писали:
вы, «голый» интеллект решает слишком узкий класс проблем, причём порой весьма неэффективно. Более того – «голый» интеллект не способен сам сформулировать проблему! Например, возьмём игру в шахматы, – машина решает проблему не творчески, затрачивая немалые ресурсы и используя различные алгоритмы, заложенные в неё инженерами. Человек решает проблему творчески – он генерирует новые решения, причём используя намного меньшие ресурсы!
— а после моей просьбы уточнить, о каких ресурсах речь, говорите, что, оказывается, вели речь о энергопореблении:
Человеческий мозг потребляет примерно 20W энергии
Для начала, выглядит это очень неадекватно, авторской «кашей в голове» и ее продуктами.
Есть вычислительные ресурсы(1), а есть энергоэффективность вычислений(2). Это разные вещи, и, для начала, стоит научиться их различать.
Вычислительные ресурсы мозга — радикально выше, чем у Deep Blue(1), а энергоэффективность у Deep Blue радикально ниже, чем у мозга(2).
Но при этом, у в контексте всего обсуждения вообще (a), и конкретно первой цитаты в частности (b), любой специалист
Видите, везде, где идет речь о вычислительных ресурсах, или связанных с ними вещах, я прописал единичку: "(1)", а где речь касается энергоэффективности, или связанных с ней вещах, — двоечку: "(2)". Различаем. Ничего сложного.
Человек сможет создать искусственный разум только тогда, когда узнает, что происходит с его собственной душой после смерти.
что происходит с его собственной душой после смерти
Ну, это мы уже знаем — она исчезает. Как это поможет нам создать искусственный разум?
В том то и дело, что не "знаем", а верим, что душа исчезает. Научных доказательств как бессмертия, так и смертности души не существует. Даже не понятно, мозг человека самостоятельно инициирует озарения, или же он является терминалом, через который информация дозированно отпускаетя по мере готовности человека к её усвоению. Поэтому, не поняв природу предмета исследования, невозможно создать даже самую простую его модель.
по мере готовности человека к её усвоениюВы сами ответили на свое предположение. Раз человек работал над проблемой, то сознательно, путем логических заключений, или подсознательно, путем возникших ассоциаций (может приснится даже во сне, так было в истории), он может найти ее решение. Вот если бы чел над проблемой не работал, и вдруг выдал работающую теорию кв. гравитации, тогда можно было бы задуматься над вашим предположением о «терминале». Можете привести примеры подобных озарений в истории науки или технологий?
Конечно, в мире не так много действительно фундаментальных концепций, реализованных в самых неожиданных местах, выявляя которые, можно находить решение самых сложных проблем. Из простых — это ядро и вращающиеся вокруг него спутники на различных орбитах (атомы, планеты и звезды, начальник и группы подчиненных разной степени удаленности, город и пригороды и т.д.). Посложнее — концепция следящей кибернетической системы, которая накладывается на любую осознанную деятельность отдельного человека и коллективов любого размера, работу всех механизмов, а также обучение человека, дрессировку животных и обучение нейронных сетей.
Но дело в том, что самые значимые открытия так или иначе связаны с выявление ранее никому не известных концепций, которые после самого первого открытия начинаю находить в самым разных местах все кому не лень.
Поэтому самый первый комментарий и намекал на то, что мозг — это всего лишь инструмент формирования вопросов и переработки информации в поиске ответов. Но кто или что является инициатором появления этих самым вопросов — на текущий день совершенно не понятно.
Еще один интересный момент связан с тем, что любой искусственный разум, создаваемый как самим человеком, так и другим искусственным разумом, точно ЗНАЕТ (или потенциально может узнать), что будет с ним после его смерти (или утилизации, кому как нравится). А вот человек только может ВЕРИТЬ в то, что будет с его душой после смерти. Да и что такое душа (личность, «Я» т.п.), тоже совершенно не понятно, и ее существование на сегодня принимается просто за аксиому.
Как кажется здесь нет особой загадки. Может только в конкретных механизмах реализации. Когда проблема решается сознательно, т.е. ищется лог. вывод, то мышление находится в плену исходных посылок, а критический настрой не допускает их модификации. Однако если над задачей долго думать, привлекая дополнительную информацию, то в процесс ее решения вовлекаются и подсознательные структуры, в первую очередь долговременная память и ассоциативный поиск. Во сне критический настрой ослабляется или исчезает вовсе, и результаты ассоциативного поиска всплывают во сне, часто в метафорической форме. Другого способа донести эти результаты у подсознания и нет. Возможно к этому имеет отношение также интуиция, когда подсознание находит решение, и оно всплывает в виде ограничения на принятое осознанное решение. Смысл ассоциативного поиска в нахождении близкой по содержанию задачи или ситуации, возможно из совершенно другой области, для кот. решение имеется, и переформулировка исходной задачи в ее терминах или образах. Элемент нового возникает именно в этот момент. Т.е. если ранее полученной информации в мозге нет, то новое решение не может возникнуть из ничего. Именно по этой причине все теории Новой физики, возникшей на границе 20 века — СТО, ОТО, КМ и др. формулируются в понятиях выработанной в классической физике — пространство, время, масса, частица, волна и тд. Новизна в их соединении в объяснении новых эксп. данных — пространственно-временной континуум в СТО и ОТО, и корп.-волновой дуализм в КМ. Это и понятно, в нашем сознании нет информации о реальности на уровне микромира и пространственно-временных масштабах Вселенной. Это не позволяет нам набор и устройство орг. чувств, кот. одарила нас эволюция) Она предназначала их для др. целей — выживания вида, а не познания глубин Вселенной.
Что касается души, то чтобы не повторяться сделаю ссылку на близкую интересную тему. Там автор использовал теор. Геделя о неполноте формальных систем для док. существования души, и невозможности создания ИИ сравнимого с человеческим интеллектом. Ссылка на комменты в кот. обсуждается проблема появления нового знания.
Нет для того, чтобы объяснить «озарения», вовсе не надо привлекать, назло дедушке Оккаму, какие-то дикие по конструкции сущности.
Это просто поиск решения, и его нахождение. Просто — если говорить образами из модельки поиска решения — из более «дальних» веток дерева решений*.
У человека есть (нейрофизиологическая) система награждения за «понимание», и чем больше напряжение при поиске решения, тем больше награда. Это одно из обстоятельств, благодаря которым этакие моменты замечаются.
Второе — это то, что этот «поиск» может идти в фоновом режиме. Кончено же, вы своей поисковой активностью, размышлениями, и самой фиксацией на поиске «подсветили», активизировали ассоциативные пути в своей нейросети, и это будет так, даже если сам процесс поиска сейчас у вас вытеснен из области осознаваемого. И конечно же, они, эти «активные цепи» дадут отклик, если что-то «замкнет» их правильным решением.
_________
* — (оттого и более долгое, оттого и больше (и шире) активизирующее части вашей нейросети, которые в этом поиске решения задействованы, оттого и больше нейронаграда при нахождении решения, — то самое чувство «озарения», ага).
То же самое и с другим вашим недоумением:
Но дело в том, что самые значимые открытия так или иначе связаны с выявление ранее никому не известных концепций, которые после самого первого открытия начинаю находить в самым разных местах все кому не лень.
— OMG, а тут-то вам что непонятно? Ну вот осредствили вас новым концептом, новое понятие или различение дали, или новый прием. Конечно же, так как оно у вас в репртуаре появилось, вы этот шаблон ТОЖЕ начнете видеть. Можете на детях потренироваться, или интроспекцией своего процесса обучения/ решения задачек заняться, если на примерах нейросетей не можете представить, в чем тут дело.
Вы по сути описали схему: «новый шаблон увидеть тяжело, но когда он представлен — он будет широко использоваться для того, чтобы компактифицировать схемы». «Ну кто бы мог подумать!», ага. Поздравляю, Кэп!
В целом, вы разводите мифологию (продукты мифологического сознания демонстрируете, — «в области непонятного — »живут драконы!"". А точнее:
«в области непонятного [мне, Васе Пупкину] — »[у меня, Васи Пупкина ]живут драконы!"") на ровном месте.
Научных доказательств как бессмертия, так и смертности души не существует.
Разумеется не существует, потому что никто не знает что такое душа. Вот что такое единороги — знаем, а что такое душа — никто не знает. Единорога хотя бы можно словами описать и на бумажке нарисовать, и все однозначно скажут — да, это единорог. А что такое душа — никто не может дать такого описания, чтобы можно было показать пальцем — вот это вот душа. А раз так, то физически души не существует, это метафизическое явление. Следовательно, после смерти души нет. Как и до смерти. Физического существования души никто никогда не наблюдал.
не поняв природу предмета исследования, невозможно создать даже самую простую его модель
Чушь. Источники рентгеновского излучения появились гораздо раньше, чем была понята природа этого излучения и построена теория радиоактивности.
Честно говоря, не совсем понятен комментарий. Очень много явлений, реально существующих, могу быть выявлены только косвенным путем. Но это же не значит, что эти явления не существуют, так как на них нельзя "показать пальцем".
После же слова "чушь" практически воспроизводится критикуемый тезис, к которому просто добавлено неявно подразумеваемое соображение, что изучаемое явление должно изначально существовать.
Очень много явлений, реально существующих, могу быть выявлены только косвенным путем. Но это же не значит, что эти явления не существуют, так как на них нельзя «показать пальцем».Если о душе, то реально существуют психические явления. Душа — обобщение этих явлений, кот. ввели еще древнегреческие философы, но они ничего не знали о строении мозга и его функциях. Можно считать просто устаревшим понятием, если речь о науке. Если вы вкладываете в него религиозно-мистический смысл, то наука тут вам ни чем не поможет, это личное дело каждого.
Существующие явления на кот. нельзя «показать пальцем» имеются даже в физике, и можно косвенно предполагать их свойства. Те же ТМ и ТЕ. Это гипотетические сущности, о деталях строения которых и описывающих их закономерностях нам пока мало что известно, но последствия существования кот. вполне наблюдаемы. Давайте введем понятие Темноты, как обобщение этих явлений, и начнем им оперировать. Чуточку это будет оправдано, как сокращение их перечисления, указания области их действия, и загадочности явлений. Как только прояснятся детали и закономерности этих явлений, а еще лучше, когда человек начнет использовать их на практике, например, качать дармовую энергию из вакуума)), понятие Темноты устареет и отпадет за ненадобность. Приблизительно тоже самое с понятием души по отношению к псих. явлениям.
Далее, к вашему:
Даже не понятно, мозг человека самостоятельно инициирует озарения— давайте я вам сделаю просто ОФИГЕННОЙ ЩЕДРОСТИ ПОДАРОК: если вы научитесь в таких случаях вместо генерализации (псих.: неадекватное обобщение своего личного на всех) «непонятно», указывать правду, делать уточнение «непонятно мне, человеку с ником leossnet», мир для вас станет куда менее непонятным и «магическим» (в плохом смысле этого слова, см. «мифологическое сознание») местом, и адекватности в ваших суждениях заметно прибавится. И это будет очень здорово, потому что сейчас вы пишите полнейшую чушь.
Всегда пожалуйста!
Что касается высказываний в разделе комментариев к опубликованной статье, то все высказывания по умолчанию предполагают выражение собственного мнения комментирующего. К тому же, как-то не принято делать акцент на собственной личности в обсуждении, особенно в письменной речи.
Далее, на счет кавычек и этого вашего ad hominem на мой счет, — во-первых, научитесь, наконец, различать свои гипотезы о мире (1) и сам Мир(2), — «это не муж и жена, а четыре разных человека». Если мы уж до ad hominem'ов дошли, я приведу вам пример единственного конструктивного: то, что демонстрируете вы, называется «эгоцентризм» (и т.к. «взрослый эгоцентризм» — это оксюморон, то либо подростковый, либо старческий, ставлю на подростковй), и именно избавление от него и является _взрослением_ в психологическом смысле (привет возрастной психологии). Неразличение своих гипотез о Мире и самого Мира, Реальности, склонность к генерализациям, а далее — к рационализациям (в смысле защитного механизма психики) — в вашем случае это оправдание «почему у меня тут написана генерализация» (см. второй абзац вашего последнего комментария), — прямые и явные признаки эгоцентризма.
Эта стадия развития психики — прямой генератор когнитивных искажений, вещь, заставляющая вас «не понимать мир», и блуждать в трех соснах на ровном месте (я только что, буквально комментарием ранее вам пальцем ткнул в вашу ошибку, и — спасибо вашему эгоцентирзму — вы НЕ СМОГЛИ ЕЕ УВИДЕТЬ).
Про «не смогли ее увидеть» — все очень просто, у эгоцентриста (а, если что, эгоцентризм — это нормальная стадия развития психики… но СТАДИЯ, избавление от подросткового эгоцентризма — и есть _взросление_; то есть если вы еще подросток — то с вами все в порядке (ну, разве что уровень критики (к себе) стоило бы повыше поднять)) просто «картина мира» лежит слишком близко к «ядру identity», к тому, что есть ваше «Я», или не лежит, а «не отделено от него». И все реальные проблемы следуют как раз из этого, так как из-за этого любая проблематизация вашей картины мира воспринимается защитными механизмами вашей психики как «атака на „Я“», а вот от «атаки на „Я“» защитные механизмы психики умеют защищать «на отличненько», — одно из определений эгоцентризма звучит примерно так: "… не может принять ошибочность своей картины мира, даже перед лицом неопровержимых противоречий" (еще есть и вариант с «не может принять существование картины мира, отличной от его...»).
Да, я именно вот об этом примере ваших защит (а именно — о рационализации, — псевдорациональном «объяснении») говорил:
Что касается высказываний в разделе комментариев к опубликованной статье, то все высказывания по умолчанию предполагают выражение собственного мнения комментирующего. К тому же, как-то не принято делать акцент на собственной личности в обсуждении, особенно в письменной речи.
— еще раз, там у вас была генерализация, — неадекватное обобщение «вашего личного» на _ВСЕХ_. «Даже непонятно» _ДРУГИМИ_ читается (в данном контексте) не как «Даже непонято [мне, Васе Пупкину]», а как "[своременной науке, Человечеству] Даже непонятно". Это просто факт, общекультурное восприятие в этом случае именно такое.
Более того, Василий, из-за того, что вы опускаете это самое «мне» при своем «даже не понятно», — я УВЕРЕН, что вы сами начинаете читать как «даже непонятно НИКОМУ». Хотя на самом деле там другой механизм, — неразличение Мира и своей Кратины Мира, а прежде — непонимание того, что ваше мировосприятие — не есть «то, как Мир устроен», а лишь «Картина Мира», — не дает вам шанса понять, что «непонятно мне» НЕ РАВНО «непонятно всем».
Но можно начать идти эту «дорогу в тысячи ли» с одного маленького шажка: начать говорить «Даже непонятно мне, Васе Пупкину».
Ибо, как говорил один Мераб (IYKWIM), — «Дьявол играет нами, когда мы не мыслим точно».
P.S. Да, как видите — я просто очень люблю ставить кавычки, что полностью обесценивает ваши «далеко идущие выводы» о наличие кавычек в моем тексте.
А творчество всегда было «аномалией».
Сейчас есть довольно много теоретических и практических наработок по этой теме. В некотором смысле теория разума уже есть — она гуглится по ключевому слову AIXI. К человеку она относится довольно косвенно, она скорее о том, как принимать наилучшие решения в условиях неопределённости. Есть уравнение Белмана и основанный на нём Q-Learning — тоже вполне себе теория разума-как-решения-практических-задач. Эти две теории достаточно хорошо формализованы.
Такая постановка задач — она про творчество, в том смысле, в котором творчеством является работа инженера, решающего новую для себя задачу, или работа полководца или работа ещё кого угодно, перед кем стоит чёткая цель и нет явно заданного алгоритма по её решению.
А какую постановку задачи подразумевает автор?
«Человеческое, слишком человеческое». Не станем ли мы заложниками нашего разума, реализуя универсальный ИИ?