Комментарии 38
ИИ находится в самом начале своего развития
Лет 50 назад во время очередного всплеска интереса к ИИ можно было прочитать очень похожую статью.
Уже тогда было ясно, что одна из главных проблем ИИ это проблема целеполагания. Пока оно внешнее, мы получаем только инструмент.
Естественный интеллект — СВОЙСТВО биологического объекта, повышающее его шансы на выживание и воспроизводство в потомстве.
По аналогии ИИ — свойство технической системы. Служащее для чего? Пока он решает чужие задачи, он не угроза и не наследник человечества.
Выжили те, кто с целями (инстинктами?), потом у них появился интеллект.
Вопрос цели – безусловно важный, и есть разные подходы, что считать целью ЖИВОГО, чтобы этой цели было достаточно. Мы знаем, что у человека и животных есть набор базовых инстинктов. Самое простое – заложить их.
Например, используя указанное Вами определение «интеллект — СВОЙСТВО биологического объекта, повышающее его шансы на выживание и воспроизводство в потомстве» — можно изначально указывать ИИ именно такую цель: выживание и размножение.
Есть и более тонкие идеи, как все инстинкты заменить всего ОДНОЙ целью. Согласен с мнением учёных, которые предлагаю в качестве такой ЕДИНОЙ ЦЕЛИ – стремление к свободе, к увеличению возможностей. Здесь «свобода» имеет более технический смысл, как «степени свободы» в механике.
Пример: если мы (или ИИ) не умели кататься на велосипеде, и научились — это хорошо, это увеличивает наши возможности. Если мы месяц учим испанский и понимаем, что такими темпами до приемлемого уровня нам идти ещё два года, а времени уходит слишком много, то мы тратим время, которое могли бы потратить на изучение, к примеру, бизнеса. Таким образом, изучая иностранный язык неэффективно, мы теряем в возможностях получить другие навыки. Поэтому исходя из того же стремления к свободе есть смысл прекратить обучение и попробовать другое.
Мы хотим полететь в космос, увеличить нашу свободу перемещений, но у одного человека (или робота) недостаточно ресурсов, а собравшись вместе – эта цель достижима. Значит важно иметь управленческие навыки, чтобы организовать общество для достижения данной общей цели. Важно что все вышеуказанные цели, от навыков катания на велосипеде до полётов к звёздам можно не задавать специально заранее, они сами по себе – следствие других более общих инстинктов. Которые в свою очередь, также могли (и могут) появится в следствие случайных изменений и дарвиновской эволюции.
можно изначально указывать ИИ именно такую цель: выживание и размножение.
Пока у нас ИИ существует исключительно в виде программного кода.
Выживание и размножение предполагают наличие «тела» и его четкого осознания.
Если такое осуществить, то да — это уже будет наследник человечества. И угроза т.к. начнется борьба за ресурсы.
Если такие роботы делают заводы по производству себе подобных, то этого достаточно для первого «замкнутого цикла» размножающегося ИИ. Далее добавится постепенное улучшение эффективности, борьба между роботами за территории и ресурсы. Наиболее умелые и надёжные роботы с «наиболее эффективной» продолжительностью жизни «вытеснят» других — запустится обычный алгоритм Дарвиновской эволюции.
Человека в этой системе вообще нет. Скорее наоборот — сейчас люди — это боги, а будущее может поставить высшую исключительность человека под сомнение.
Развивать ИИ человек будет, потому что это приносит пользу: нужно все меньше услий, чтобы выращивать продукты, шить одежду, строить дома и машины. Роботы-слуги, которые убираются готовят, глядят и стирают — разве это плохо? Роботы-хирурги, использующие опыт сразу миллионов подобных случаев, что позволяет им проводить операции эффективнее человека. Люди от такого не откажутся. Разумный ИИ не самоцель, а следствие обьяснимых законов прогресса.
Человек — крайне универсальное существо, поэтому имеет такой развитый интеллект. Но с самого зарождения цивилизации прогресс идет по пути специализации и кооперации. Очень часто оказывается, что для определенных работы человеческая универсальность не только избыточна, но и вредна.
Производственные и бытовые задачи не требуют создания универсального ИИ.
И большинство интеллектуальных задач тоже. Картины будет рисовать один ИИ. В шахматы играть другой. Откуда возьмется соизмеримый с человеком?
Производственные и бытовые задачи не требуют создания универсального ИИ.
Скорее так: конкретные шаблонные, часто встречающиеся задачи проще решить через специализированные технологии. Проще сделать за 10 млн долларов робота, который прикручивает двери к автомобилям и это экономически выгодно, чем потратить 10 млрд на универсального робота, которого можно научить ставить те же двери, но и на обучение надо потратиться.
Проще — не значит лучше.
Когда-то у нас был телефон для разговоров, калькулятор для расчётов, фотоаппарат для съёмок, компьютер для интернета… а теперь всё внутри телефона. Так удобнее, хотя уместить всё в одном сложнее.
Безусловно именно универсальные роботы , которых можно будет научить различным работам — это важное направление развития ближайшего будущего. Купили робота, а далее либо покупаем для него программы либо сами учим — и суп варить и цветы поливать и плитку укладывать. Робот один — задач бесконечно много. Как с компьютером.
А я вот все не могу понять. Как к эмулятору старых пк прикрутить нейро сеть на самообучение для прохождения игрушек. Мож кто подскажет?
Вот что пишет, к примеру, Wikipedia: “На текущий момент нет единого мнения относительно понятия жизни, однако учёные в целом признают, что биологическое проявление жизни характеризуется: организацией (высокоупорядоченное строение), метаболизмом (получение энергии из окружающей среды и использование её на поддержание и усиление своей упорядоченности), ростом (способность к развитию), адаптацией (адаптированы к своей среде), реакцией на раздражители (активное реагирование на окружающую среду), воспроизводством (все живое размножается)……
Существует более ста определений понятия «жизнь», и многие из них противоречат друг другу. ”
Представьте себе цивилизацию, которая строит заводы и космические корабли, которая летает на далекие звёзды и создаёт там колонии, которые, в свою очередь, развиваются, делают корабли более эффективные и летят ещё дальше. Появляются государства, которые дружат и враждуют. Появляется экономическая деятельность, позволяющая обмениваться ресурсами и технологиями. И всё это делают роботы, без какого-либо участия человека в течение тысячи лет. Роботы, чьи далёкие «предки» были созданы людьми. Можно ли такую
цивилизацию считать жизнью?
Если взять за критерий саморазмножение, то на тут же поставит в тупик такое явление как огонь. Огонь «саморазмножается», но мы понимаем, что это не жизнь. А может и наоборот — мы не понимаем, что это жизнь.
Если взять за критерий способность чувствовать, то мы сразу выкидываем всех живых существ, которые не обладают нервной системой. И добавляем компьютеры, обладающие физическими датчиками. Можно конечно поспорить, что компьютеры чувствуют не по настоящему, но ведь дело в том, мы не знаем достоверно что кто-то чувствует кроме нас. Мы делаем допущения, что поскольку я человек и чувствую, то другие человеки тоже чувствуют. Но чем дальше мы уходим от человека, тем сомнительнее становятся эти допущения. Например, чувствует ли клетка? А вирус? А молекула метана (органическая молекула, между прочим).
Можно попробовать подступиться к вопросу с другой стороны и задаться вопросом «каков смысл жизни» Если получится ответить на вопрос о смысле жизни, можно ответить на вопрос, что такое жизнь: жизнь — это то что имеет смысл жизни :)
Двигаемся дальше и попытаемся выяснить, а что такое смысл жизни. Так сказать смысл смысла жизни :) Тогда возникает вопрос о субьекте этого смысла. Тот для кого жизнь имеет смысл, или выражаясь юридическим языком, конечном бенефициаре. Здесь мы имеем двух субъектов — само живое существо и создатель этого живого существа. Допустим это Бог.
Поскольку понять Бога мы не в состоянии, значит мы не в состоянии понять какое вещество он организовал нужным образом и вложил смысл жизни, а в какое не вложил. Может на самом деле в огне с точки зрения Бога больше смысла чем в человеке (я лично так не считаю, но Бог может думать иначе).
И второй вариант — спросить о смысле жизни у самого живого существа. Это одновременно и просто и невероятно сложно.
Ок, я спрашиваю у себя, в чем смысл моей жизни. Может быть это следование своим желаниям, а может это выполнение какой-то миссии, за которую меня спросят после жизни. Я точно не знаю, означает ли это что я неживой? Думаю, что не означает, я живой, просто не знаю смысла жизни в глобальном контексте. Однако внутри этой жизни у меня огромное количество смысла.
Если попытаться спросить у других веществ (я специально использовал этот термин, чтобы подчеркнуть, что не собираюсь ограничиваться живыми существами в обычном понимании). Это будет проблематично, поскольку непонятно как вообще общаться с тем, в чем даже не видишь признаков жизни. Возможно жизнь есть, но она проявляет себя не так как мы привыкли. И даже если получиться установить контакт и вещество поймет наш вопрос, то непонятно, как это вещество расскажет нам про свою жизнь, если у нас в языке даже нет слов для описания этих процессов…
Я попытался ответить на вопрос о том, что такое жизнь. Не получилось. Однако, я не ставил цель получить ответ, я всего лишь хотел попытаться.
В статье не хватает определения ИИ. Кажется, что большинство тезисов относится к экспертным системам, а не ИИ.
Одно дело когда термин "ИИ" употребляют как синоним в далеких от ИИ дискуссиях (например "ИИ помог решить задачу прогнозирования"), и совсем другое, когда этот термин упоминается в рассуждениях об осознанности и стадии развития явления.
Это какое-то недоразумение — считать, что существует какой-то особый интеллект у человека (с сознанием, самосознанием). Это философская бредня!
Если бы у человека был особый интеллект, то колесо и молоток изобрел бы Адам, а компьютер — его правнук.
А так удел среднего человека — это поддержание устоев своего отца и деда, что-то делать лучше, а что-то хуже. И так было 100 тысяч лет существования человечества. И лишь в последние века мы имеем системы образования, но это не интеллект человека.
Сравнить не с чем. Других интеллектов, кроме человеческих, не наблюдается.
Можно сравнить с обезьянами)))
Критерии для сравнения непонятны. В человеческие игры (технический прогресс, экономика, спорт, искусство) обезьяны не играют. Есть мнение, что обезьяны (и дельфины) скрывают интеллект, чтобы не пришлось работать.
В обезьяньи игры человекам неинтересно.
Если проанализировать, что начало меняться буквально примерно 2000 лет назад, то можно сделать вывод: люди начали получать образование, т.е. появилась система образования. И это никак не связано со способностью отдельного человека как-то особо думать и мыслить, что-то там осознавать. Если у кошек появится система образования, то они тоже испытают качественный скачок развития. Наличие системы образования не означает, что мы все от рождения стали вдруг талантливы и чем-то сильно отличаемся от наших предков 2000 лет назад и даже 10000 лет назад. Если человека оторвать от системы образования он вырастет как маугли.
Если пойти дальше, то можно заявить, что мы находимся чуть выше уровня обезьяны, но система и только система выводит нас в люди. Система — это не заслуга личности и не может быть аргументом для доказательства значительного превосходства.
У человечества в течение 100 тысяч лет не было спорта, прогресса, искусства.
Возможно.
Тут утверждают, что 40 000 лет назад уже были музыкальные инструменты.
Думаю, что и до того люди находили способы себя развлечь.
система образования
Вы безусловно правы. Система образования способствует развитию талантов. Правда, талант все равно должен присутствовать.
Но никто, кроме людей, до образования не додумался. Поэтому странно даже пытыться сравнивать интеллект человека (любого, хоть маугли, хоть нобелевского лауреата) с интеллектом дельфина. Причем сами люди не разобрались, как этот интеллект у них работает и как его измерить.
Да, человеческая система образования заработала на основе письменности. До этого тоже нужно было додуматься.
А потом уже про всякие таланты говорите. Вы оперируете стереотипными псевдофактами типа «таланты изредка рождаются» и при этом не утруждаетесь в перепроверке адекватности этого факта. С чего вы взяли, что талантливыми рождаются? Причинно-следственная цепочка неверно раскрыта. Вот раньше (до внедрения глобальной системы образования) талантов меньше было. А ещё: в Америке больше талантов, чем в Испании. Почему????
Чтобы рассуждать правильно, вы должны убрать систему образования. В этом случае индивид будет самостоятельным и сопоставимым с обезьянами. Чтобы убрать систему образования, откатитесь на 50000 лет назад и рассуждайте. Можете рассуждать про талантливого кроманьонца и талантливую обезьяну.)
Я не утверждал про наличие или отсутствие интеллекта у кого бы то ни было.
Для предметного обсуждения, необходимо иметь единую терминологию, или хотя бы пример.
Например, понятие экспертной системы — попадает под определение ИИ, или нет?
Лучше всё-таки найдите общее между человеческой нейросеткой и искусственной, больше ничего не нужно.
Давать словам определения — то же самое, что и наоборот.
Дело в том, что естественный язык используется в качестве чуть ли не единственного универсального носителя информации в ходе её обмена во время дискуссии и разговора между людьми. Я не беру в расчет узко специализированные строгие нотации вроде математических формул, это всё покрывает лишь малую долю определений.
К сожалению, я не могу влезть в мозг другого человека и извлечь оттуда определение, которое он имеет ввиду.
Всё, что мне остается — это обмениваться словами, которые описывают сущности (определения). И вот тут начинается — слова и так придуманы, что описывать определения. Но, так уж сложилось, что у каждого человека свой набор опыта и знаний, и услышав один и тот же термин могут представлять разные вещи.
Поэтому, чтобы присвоить термину определение, мне нужно его назвать словом и только потом описывать.
Или в нашем случае, уточнить что же вкладывает автор статьи в слово "ИИ", т. к. у меня, например, в голове всплывает слишком широкий спектр сущностей, что приводит к непониманию о какой именно из них ведет речь автор.
А то получается, вы сейчас враскоряку встали и не можете ни о чем договориться.
Про какие вы там ИИ и экспертные системы говорите? Их много разных.
В самую точку. Именно эту мысль я и озвучил в корневом комментарии
В статье не хватает определения ИИ.
И именно в этом месте мне непонятна граница между ИИ и всякими алгоритмами поиска/классификации. Где заканчивается программа и начинается ИИ? Если я написал программу с одним if-else, считать ли эту программу интеллектом? А нейросеть на 2 нейрона? А на 3 миллиона нейронов?
В статье автор рассуждает и об искусственном разуме (сразу приходит на ум аналогия с т.н. сильным ИИ) и об алгоритмических программах вроде поисковых систем или вирусах. Мне кажется, что даже эти две сущности довольно далеки друг от друга, что бы их описывал один термин.
Если бы на вход статье задать границы что автор имеет ввиду под ИИ — развитие мысли было бы понятнее.
P.S. Что касается экспертных систем — то я в исходном комментарии указал ссылку на Википедию, где вполне развёрнуто даётся определение этому термину
Дублирую в явном виде:
https://ru.wikipedia.org/wiki/%D0%AD%D0%BA%D1%81%D0%BF%D0%B5%D1%80%D1%82%D0%BD%D0%B0%D1%8F_%D1%81%D0%B8%D1%81%D1%82%D0%B5%D0%BC%D0%B0
Искусственный разум — новая форма жизни?