Comments 48
Аппроксимация необработанных данных — то, что делается сейчас.
Аппроксимация обработанных данных — StarTrek.
Аппроксимация обработанных данных — StarTrek.
Вот и Ноам Хомский со мной согласен:
Хомский раскритиковал сферу ИИ за принятие подхода, похожего на бихевиоризм, только в более современной, вычислительно сложной форме. Хомский заявил, что опора на статистические техники для поиска закономерностей в больших объемах данные маловероятно даст нам объяснительные догадки, которых мы ждем от науки. Для Хомского новый ИИ — сфокусированный на использовании техник статистического обучения для лучшей обработки данных и выработки предсказаний на их основе — вряд ли даст нам общие выводы о природе разумных существ или о том, как устроено мышление.Нет интеллекта в нейронах, нет интеллекта у животных, нет интеллекта в машинном обучении, нет интеллекта даже у человека при рождении. Только когда человеческая психика встречается с человеческой культурой, внутри человеческого мозга начинает расти интеллект. И если эта встреча впервые происходит после 14 летнего возраста, либо вообще не происходит, то интеллект у такого индивидуума никогда не возникнет.
Ноам Хомский со мной согласен
Big man in a suit of armour. Take that off, what are you?
Тут главное о первом законе Кларка помнить.
Если я правильно понял, он критикует подход к ИИ именно научного сообщества.
К инженерам у него претензий нет ).
К инженерам у него претензий нет ).
Инженеры не занимаются ИИ(маркетинговый термин) — они занимаються машинным обучением.
ИИ это совсем не маркетинговый термин. Просто сейчас его украли и массово используют для «легкого обмана» «неспециалистов». А «инженеры» под видом «ИИ» занимаются элементарным статистическим машинным обучением. Да и само «машинное обучение» на 90% состоит из банальных давно известных статистических методов.
Нынешний способ проектирования ИИ — как если бы у человека вырезали кусок мозга и заставили решать алгебраические уравнения.
Ага, а теперь, всего лишь, дайте определение слову «интеллект».
это спор о терминах, он безблагодатный
давайте лучше спросим, чего мы ждем, как это измерить (оценить) и тогда быть может, появится понимание, как это делать
на базовом уровне зрение живых существ работает как современные нейронные сети. Есть нейроны, которые участвуют в распознавании границ объектов, есть нейроны, которые участвуют в распознавании прямых линий. Кроме того, есть огромное количество первичных датчиков, которые были открыты очень давно
«Есть, например, поля ганглиозных клеток, которые впервые были обнаружены американским физиологом X. Хартлайном, впоследствии Нобелевским лауреатом. В 1932 г. он исследовал сетчатку лягушки и с удивлением увидел, что каждое волоконце в ее зрительном нерве несет сигналы не от одного фоторецептора, а от нескольких. Одни «линии связи» передавали сигналы, когда на подключенное к ним поле падал свет. Другие, наоборот, когда освещение сменялось тьмою.» (с) книга "Как мы видим то, что мы видим" Вячеслав Демидов
При этом есть куча более высоких слоев, отвечающих за дальнейшую обработку информации от зрения. Вот еще одна цитата из той же книги:
начало цитаты — «А при поражениях теменной коры правого полушария исчезает – из-за потери механизма оценки пространственных отношений между подобразами – возможность «склеивания» из зрительных фрагментов полноценного образа того, что видит глаз. Сами фрагменты человеку видны, а формирование сложных признаков в левом полушарии оказывается ущербным (описание по Меллину, как мы помним, требует «перекачать» в левое полушарие конкретный образ из правого), нет прохода по «дереву признаков» и речевой ответ выглядит случайным, гадательным. «Это гусь», – говорит больной, увидев на картинке, как акробат стоит вверх ногами. Торчащие накрест лыжи превращаются в ножницы, а висящее на длинной ножке яблоко – в кастрюлю.
Речь как таковая не нарушена, однако восприятие страдает грубыми отклонениями от нормы: попытки зрительно представить себе что-либо оканчиваются для пациента неудачей. «Больная, хорошо объяснявшая на словах, как пройти из палаты в лабораторию, не могла запомнить коридор, по которому много раз ходила… Она узнавала комнату не по конкретному пространственному образу – определенному расположению предметов, а лишь по отдельным словесно описываемым признакам (например, лабораторию – по красной папке в стеклянном шкафу, свою палату – по номеру и т.д.)», – фрагменты не сцеплялись в образ.»
— конец цитаты
Ясно, что каждый из этих этапов — это не могучий интеллект, с которым можно беседовать, как с личностью. Но если вы хотите получить сущность, с которым можно беседовать, который может подсказывать, который может сам придумывать новые сущности — в идеале даже программировать по придуманным им ТЗ! — то такую формулировку и следует произнести вслух громко и отчетливо.
При этом следует помнить о «классовом аргументе» — разные категории людей по-разному способны к разным видам интеллектуальной деятельности. Есть риторики, которые задавят любого оппонента в беседе, даже не имея сильного представления об области спора. Есть композиторы, менеджеры, программисты, дизайнеры, архитекторы. Каждая из этих категорий может выдвинуть свои определения «искусственного интеллекта». Гуманитарий скажет — нет, это калькулятор, это не интеллект. А технарь откажет в интеллекте самому гуманитарию.
Шутка. На самом деле я недавно услышал, что в спорах, кто лучше — «гуманитарии» или «технари» — чаще всего участвуют гуманитарии, т.к. это больше их область. Это выглядит как завуалированный комплимент технарям и возможно автор этого тезиса имел в виду именно это. Но сейчас я подумал, а что если и тут работает «классовый аргумент»? В спорах чаще всего участвуют те, кто больше любит общаться и выяснять отношения?
Но по такому тезису — я тоже люблю общаться, как вы видите, следовательно, если это обвинение, то я обвиняю сам себя. Следовательно, я не хочу никого обвинить.
давайте лучше спросим, чего мы ждем, как это измерить (оценить) и тогда быть может, появится понимание, как это делать
на базовом уровне зрение живых существ работает как современные нейронные сети. Есть нейроны, которые участвуют в распознавании границ объектов, есть нейроны, которые участвуют в распознавании прямых линий. Кроме того, есть огромное количество первичных датчиков, которые были открыты очень давно
«Есть, например, поля ганглиозных клеток, которые впервые были обнаружены американским физиологом X. Хартлайном, впоследствии Нобелевским лауреатом. В 1932 г. он исследовал сетчатку лягушки и с удивлением увидел, что каждое волоконце в ее зрительном нерве несет сигналы не от одного фоторецептора, а от нескольких. Одни «линии связи» передавали сигналы, когда на подключенное к ним поле падал свет. Другие, наоборот, когда освещение сменялось тьмою.» (с) книга "Как мы видим то, что мы видим" Вячеслав Демидов
При этом есть куча более высоких слоев, отвечающих за дальнейшую обработку информации от зрения. Вот еще одна цитата из той же книги:
начало цитаты — «А при поражениях теменной коры правого полушария исчезает – из-за потери механизма оценки пространственных отношений между подобразами – возможность «склеивания» из зрительных фрагментов полноценного образа того, что видит глаз. Сами фрагменты человеку видны, а формирование сложных признаков в левом полушарии оказывается ущербным (описание по Меллину, как мы помним, требует «перекачать» в левое полушарие конкретный образ из правого), нет прохода по «дереву признаков» и речевой ответ выглядит случайным, гадательным. «Это гусь», – говорит больной, увидев на картинке, как акробат стоит вверх ногами. Торчащие накрест лыжи превращаются в ножницы, а висящее на длинной ножке яблоко – в кастрюлю.
Речь как таковая не нарушена, однако восприятие страдает грубыми отклонениями от нормы: попытки зрительно представить себе что-либо оканчиваются для пациента неудачей. «Больная, хорошо объяснявшая на словах, как пройти из палаты в лабораторию, не могла запомнить коридор, по которому много раз ходила… Она узнавала комнату не по конкретному пространственному образу – определенному расположению предметов, а лишь по отдельным словесно описываемым признакам (например, лабораторию – по красной папке в стеклянном шкафу, свою палату – по номеру и т.д.)», – фрагменты не сцеплялись в образ.»
— конец цитаты
Ясно, что каждый из этих этапов — это не могучий интеллект, с которым можно беседовать, как с личностью. Но если вы хотите получить сущность, с которым можно беседовать, который может подсказывать, который может сам придумывать новые сущности — в идеале даже программировать по придуманным им ТЗ! — то такую формулировку и следует произнести вслух громко и отчетливо.
При этом следует помнить о «классовом аргументе» — разные категории людей по-разному способны к разным видам интеллектуальной деятельности. Есть риторики, которые задавят любого оппонента в беседе, даже не имея сильного представления об области спора. Есть композиторы, менеджеры, программисты, дизайнеры, архитекторы. Каждая из этих категорий может выдвинуть свои определения «искусственного интеллекта». Гуманитарий скажет — нет, это калькулятор, это не интеллект. А технарь откажет в интеллекте самому гуманитарию.
Шутка. На самом деле я недавно услышал, что в спорах, кто лучше — «гуманитарии» или «технари» — чаще всего участвуют гуманитарии, т.к. это больше их область. Это выглядит как завуалированный комплимент технарям и возможно автор этого тезиса имел в виду именно это. Но сейчас я подумал, а что если и тут работает «классовый аргумент»? В спорах чаще всего участвуют те, кто больше любит общаться и выяснять отношения?
Но по такому тезису — я тоже люблю общаться, как вы видите, следовательно, если это обвинение, то я обвиняю сам себя. Следовательно, я не хочу никого обвинить.
PS: если вам понравился фрагмент про лягушку, то вы должны также узнать, что такое разделение специализаций в зрении характерно именно для лягушек.
У лягушек и подобных животных очень «умные» и высокоспециализированные глаза. Но у человека и других высших животных глаз более тупой сам по себе — он служит только как приемо-передатчик, а распознаванием занимается мозг (а не обслуживающая непосредственно датчики система нервов)
У лягушек и подобных животных очень «умные» и высокоспециализированные глаза. Но у человека и других высших животных глаз более тупой сам по себе — он служит только как приемо-передатчик, а распознаванием занимается мозг (а не обслуживающая непосредственно датчики система нервов)
Сравнивать этого сенильного старичка с Энштейном как-то очень уж странно. Кстати, такой глупости в английском оригинале нет.
Добавила преамбулу «комментарий переводчика». А что странного в сравнении с Эйнштейном? И тот, и другой сделали научную революцию в своей области.
На мой взгляд, весьма круто в 90 лет быть таким «сенильным старичком» и так остроумно и быстро отвечать на вопросы: www.youtube.com/watch?v=UyDhQiJrMGI
На мой взгляд, весьма круто в 90 лет быть таким «сенильным старичком» и так остроумно и быстро отвечать на вопросы: www.youtube.com/watch?v=UyDhQiJrMGI
Эйнштейн занимался физикой, и предсказания его теорий были подтверждены ( или опровергнуты) независимыми наблюдениями, и вписаны в историю науки навсегда. Хомский (хотя может правильнее Чомский, англоязычный мир знает его именно так) напридумывал теорий, которые никакими наблюдениями не подтверждены, но имеют множество сторонников (и противников). Так что сравнивать Хомского стоит в ряду другими властителями дум своего времени типа Фрейда (хотя и послабже его будет).
Про сенильного это я неправильно выразился, получилось нехорошо. Чисто из-за моей неприязни к властителям дум и псевдоинтеллектуальным спекулянтам всякого рода.
Про сенильного это я неправильно выразился, получилось нехорошо. Чисто из-за моей неприязни к властителям дум и псевдоинтеллектуальным спекулянтам всякого рода.
Хомский — это редкий пример, когда человек со стороны (лингвист) внёс заметный вклад в математику. Кажется, в лингвистике его идеи (порождающие грамматики) как раз и не работают, а для математика интересно.
А че гововорю, ну не будет адекватных автопилотов еще много лет
Вообще-то и неискуственный интеллект основан на статистических методах, от квантовых эффектов до клеточного деления.
В прошлом году выложил на хабре свою старую идею «ядерного мышления»:
habr.com/post/371019
Похоже, если она кого-то и заинтересует, то только «за бугром». Отсюда — вопрос:
а с русского на английский Вы не переводите? Хорошо бы её туда забросить. Если не Хомскому, то хотя бы Кацу. А вдруг оценят?
habr.com/post/371019
Похоже, если она кого-то и заинтересует, то только «за бугром». Отсюда — вопрос:
а с русского на английский Вы не переводите? Хорошо бы её туда забросить. Если не Хомскому, то хотя бы Кацу. А вдруг оценят?
robofreak, Карл Поппер и Дэвид Дойч писали аналогичные вещи — что главное в любой концепции — её объяснительная сила. И критиковали бихевиоризм, позитивизм и инструментализм. Было бы неплохо упомянуть их в контексте публикации. Хорошее эссе про проблемы AGI — aeon.co/essays/how-close-are-we-to-creating-artificial-intelligence
И в целом Хомский прав — засилие статистических приёмов очень засорило науку. Но засорили они и инженерию.
Например поиск новых лекарств в фармакологии. Казалось бы хорошо, мы нашли кучу новых лечебных малых молекул при помощи статистического анализа. Но мы не знаем как они работают — знание о лечебном эффекте молекулы A ничего не говорит нам о лечебном эффекте молекулы E, и самое главное — малые молекулы в принципе тупиковое направление в медицине — как и вся эпопея с персонализацией. Правильно искать не специализированные, а универсальные приёмы в лечении заболеваний и паталогий.
И в целом Хомский прав — засилие статистических приёмов очень засорило науку. Но засорили они и инженерию.
Например поиск новых лекарств в фармакологии. Казалось бы хорошо, мы нашли кучу новых лечебных малых молекул при помощи статистического анализа. Но мы не знаем как они работают — знание о лечебном эффекте молекулы A ничего не говорит нам о лечебном эффекте молекулы E, и самое главное — малые молекулы в принципе тупиковое направление в медицине — как и вся эпопея с персонализацией. Правильно искать не специализированные, а универсальные приёмы в лечении заболеваний и паталогий.
Как знать. С одной-то стороны да, «В чем сила, брат? В объяснениях!»
А с другой… У Поппера есть труд "Мир предрасположенностей" (1988 г.) и там он убедительно подводит к тому, что статистика (в виде теории вероятности) — это все. Чуть ли не сама суть мироздания. Все остальное — лишь ее проявление. Причем, этот труд Поппер видимо считал венцом своей научной жизни:
Как с этим быть? Дойч сознательно проигнорировал в «Структуре реальности» главную мысль своего философского кумира, или просто не придал ей значения?
Лично мне идея «мира предрасположенностей» нравится: хочется верить, что мы как цивилизация еще совсем не освоили всех возможностей которые дают простейшие статистические вычисления. Что как только мы это сделаем, то откроется простор для творчества, а не работы. И т.д.
А с другой… У Поппера есть труд "Мир предрасположенностей" (1988 г.) и там он убедительно подводит к тому, что статистика (в виде теории вероятности) — это все. Чуть ли не сама суть мироздания. Все остальное — лишь ее проявление. Причем, этот труд Поппер видимо считал венцом своей научной жизни:
Я опубликовал эту теорию впервые в 1956 г., после 35 лет исследований. Эта теория развивалась и далее, и только в прошлом году я осознал ее космологическое значение. Я имею в виду тот факт, что мы живем в мире предрасположенностей.
Как с этим быть? Дойч сознательно проигнорировал в «Структуре реальности» главную мысль своего философского кумира, или просто не придал ей значения?
Лично мне идея «мира предрасположенностей» нравится: хочется верить, что мы как цивилизация еще совсем не освоили всех возможностей которые дают простейшие статистические вычисления. Что как только мы это сделаем, то откроется простор для творчества, а не работы. И т.д.
Вы мало знаете Дойча — игнорировал он осознано, ибо по его мнению вероятностная интерпретация ошибочна. Эйнштейн не признавал квантовую физику, но его ОТО общепризнана. Мы все изучаем физику Ньютона — в нынешней интерпретации — но игнорируем его Алхимию.
Спасибо за информацию. Да, весьма в духе Дойча взвешенно подходить к любым гипотизам не взирая на авторство. Собственно, он и в «Структуре» показательно прошелся по метрам («Докинз вместо развития своих идей, вдруг ударился в споры с креационистами» и т.д.). И он не один не оценил «предрасположенности». В научном мире, кажется почти никто не оценил.
Вот лично для меня это проблема, если не трагедия, т.к. я в своей программистской карьере здорово поставил на вычисление средних (автоматизация поиска «кусочков свинца в игральных костях»). Что интересно, среди кодеров я то как раз в большинстве. Кодеры vs Ученые. Слепцы vs Визионеры? )
ps. Вы знакомы с Девидом не только по книгам?
Вот лично для меня это проблема, если не трагедия, т.к. я в своей программистской карьере здорово поставил на вычисление средних (автоматизация поиска «кусочков свинца в игральных костях»). Что интересно, среди кодеров я то как раз в большинстве. Кодеры vs Ученые. Слепцы vs Визионеры? )
ps. Вы знакомы с Девидом не только по книгам?
Сложная статья о сложных вещах. Ваш переводческий скилл вызывает восхищение.
Кто-нибудь может разъяснить про инстинктивного орла? Вроде прочитал, и так, и эдак, но почему «instinctively» goes with swim — не пойму…
Instinctively, eagles that fly, swim.
А если попробуете по-русски?
Инстинктивно, орлы, которые летают, плавают.
(если дословно переводить)
Возникает такое ощущение?
Хомский говорит о том, что наречие «инстинктивно» наш мозг автоматически относит к слову «плавают», хотя оно расположено чисто линейно дальше, чем слово «летают». То есть для мозга важно не линейное расстояние, а структурное («которые летают» вложены в графе предложения глубже, чем «плавают»)
А если попробуете по-русски?
Инстинктивно, орлы, которые летают, плавают.
(если дословно переводить)
Возникает такое ощущение?
Хомский говорит о том, что наречие «инстинктивно» наш мозг автоматически относит к слову «плавают», хотя оно расположено чисто линейно дальше, чем слово «летают». То есть для мозга важно не линейное расстояние, а структурное («которые летают» вложены в графе предложения глубже, чем «плавают»)
При всем уважении к Хомскому — этот текст отлично читается параллельно с «Туннель Эго» Томаса Метцингера.
Потому что если «понимание» (в понимании Хомского) является самообманом и иллюзией мозга по Метцингеру — то тогда факультет физики представляет собой лишь объединение коннектомов докторов наук этого факультета, выдающее кроме научных статей в качестве побочного эффекта осознание докторами наук своего «понимания» и соответствующую порцию эндорфинов (или грантов) авторам статей — как опосредованный эффект понимания.
Подход на основе статанализа и бихевиоризма внезапно широко используется в реальном мире, где можно получить реальную же отдачу — реклама и маркетинг не требуют понимания но дают ощутимый результат.
Впрочем тема обсуждения на самом деле гораздо сложнее дихотомии Tensorflow против Coq, оба подхода лишь часть общей панорамы.
Которую в принципе невозможно увидеть без жестких определений AI — иначе можно долго искать многоцветного бармаглота в радужной комнате. И даже найти и не один раз.
Потому что если «понимание» (в понимании Хомского) является самообманом и иллюзией мозга по Метцингеру — то тогда факультет физики представляет собой лишь объединение коннектомов докторов наук этого факультета, выдающее кроме научных статей в качестве побочного эффекта осознание докторами наук своего «понимания» и соответствующую порцию эндорфинов (или грантов) авторам статей — как опосредованный эффект понимания.
Подход на основе статанализа и бихевиоризма внезапно широко используется в реальном мире, где можно получить реальную же отдачу — реклама и маркетинг не требуют понимания но дают ощутимый результат.
Впрочем тема обсуждения на самом деле гораздо сложнее дихотомии Tensorflow против Coq, оба подхода лишь часть общей панорамы.
Которую в принципе невозможно увидеть без жестких определений AI — иначе можно долго искать многоцветного бармаглота в радужной комнате. И даже найти и не один раз.
Если коротко, то смысл статьи сводится к тому, что учёному не нравится текущее положении дел в области ИИ, то бишь, значительное превалирование эмпирических методов исследований над теоретическими. В целом, его можно понять как теоретика, и даже согласиться, принимая во внимание, например, вот это: сотрудник Google признал, что даже инженеры компании не понимают, как работает их ИИ (=
Интересуюсь ИИ в стадии «а что это и как устроено?», спасибо за интересную статью. Есть желание перечитать её в оригинале)))
Возьмите простой пример: если я скажу «Посещение родственников может быть обузой» — это двусмысленно. Родственники вас посещают? Или вы идете навестить родственников?
В русском языке это означает что вы идёте к родственникам. Может лучше написать «Встреча с родственниками может быть обузой». Тогда точно не понятно кто к кому идёт и будет двусмысленно.
Да, возможно так лучше. В целом, в русском языке таких неоднозначностей больше. Как мне недавно привели отличный пример из классики марксизма: «Бытие определяет сознание» — кто кого определяет? По-немецки всё однозначно: бытие, которое определяет сознание — потому что у них фиксированный порядок слов. А у нас двояко можно понять даже такую простую фразу
Хочется сказать, что перевод на высшем уровне. Спасибо!
он спорит — на мой взгляд, правдоподобно — с тем, что нейронаука развивалась, будучи увлечённой ассоцианизмом
С оригиналом не сверялась, но здесь перевод выглядит неверным. «Спорить с», значит, не соглашаться. В оригинале argues? Тогда нужно «доказывает, аргументирует». Тогда и «правдоподобно» уместно, потому что «правдоподобно спорить» значит что-то вроде «заниматься чем-то со стороны похожим на спор».
Про Эйнштейна вы загнули. Даже сам Хомский признает, что его наука находится на стадии до «катаем шар по плоскости». Практического применения его последние теории (минимализм) не имеют вовсе, насколько я знаю. С Эйнштейном не сравнимо.
С оригиналом не сверялась, но здесь перевод выглядит неверным. «Спорить с», значит, не соглашаться. В оригинале argues? Тогда нужно «доказывает, аргументирует». Тогда и «правдоподобно» уместно, потому что «правдоподобно спорить» значит что-то вроде «заниматься чем-то со стороны похожим на спор».
Про Эйнштейна вы загнули. Даже сам Хомский признает, что его наука находится на стадии до «катаем шар по плоскости». Практического применения его последние теории (минимализм) не имеют вовсе, насколько я знаю. С Эйнштейном не сравнимо.
Что такое экстернализация?
Экстернализация — это процесс ввода-вывода информации, неважно каким средством. То есть у обычного человека экстернализация происходит через речевой аппарат, у глухонемого — через язык жестов.
Sign up to leave a comment.
Ноам Хомский: где искусственный интеллект пошел не туда?