Comments 34
Название статьи вводит в заблуждение. Это же хабрахабр, а не гиктаймс. Здесь статьи обычно имеют прикладной характер.
> задач, не связанных с анализом «смысла»
============================
Правильно я понимаю, что науке до сих пор неизвестно, что такое Смысл, и в каком виде он должен храниться?
Насколько я понимаю эту тему, смысл — это просто эталонная знаковая система (инстинкты или там или программа судьбы), а мозг — действительно статистическая машинка, которая все воспринимаемое пытается сравнивать с эталоном, и формирует реакции в случае совпадения / несовпадения. На животных это так, а эксперименты на человеческом мозге, увы, теперь запрещены. Но если смысл — это просто эталонный алгоритм, то действительно, остается лишь наращивать вычислительную мощность и базу эталонов, что никак не приближает к пониманию — кто и как формирует эти самые эталонные алгоритмы, то есть смыслы.
============================
Правильно я понимаю, что науке до сих пор неизвестно, что такое Смысл, и в каком виде он должен храниться?
Насколько я понимаю эту тему, смысл — это просто эталонная знаковая система (инстинкты или там или программа судьбы), а мозг — действительно статистическая машинка, которая все воспринимаемое пытается сравнивать с эталоном, и формирует реакции в случае совпадения / несовпадения. На животных это так, а эксперименты на человеческом мозге, увы, теперь запрещены. Но если смысл — это просто эталонный алгоритм, то действительно, остается лишь наращивать вычислительную мощность и базу эталонов, что никак не приближает к пониманию — кто и как формирует эти самые эталонные алгоритмы, то есть смыслы.
Вполне известно. Смысл — это связь между некоторым X и Y. Т е смысл является синонимом связи на семантическом уровне. На бытовом несколько иначе.
Нет, там человек писал про это как гиперболу, думаю
Точно! Но тогда рушится определение меры информации — хоть по шенону хоть по колмогорову, то есть невозможно определить — сколько в данном тексте информации, не обладая полным знанием всего человечества. А если у тебя ограниченные знания — то и смысл для тебя обрезается. То есть мера количества информации (смысла) зависит от субъекта, читающего текст! Это полностью обнуляет возможность научного подхода, в котором декларируется объективность, то есть разделение наблюдаемого и наблюдателя. Именно поэтому психология до сих пор не наука, а искусственный интеллект до сих пор не интеллект.
Верно.
1. Поблема понимания термина «искусственный интеллект», по крайне в русском переводе, хотя бы потому что мы изначально неверно перевели то, что сегодня понимается под AI. Правильный перевод — это интеллектуальные вычисления. И тогда многое встает на свои места. И те же нейронные сети сразу обретают свое законное место. Интеллектуальные вычисления.
2. Да, психология имеет дело с наблюдаем и наблюдателем. Это одна из базовых проблем полного ИИ. И она продолжается вопросом — а возможен ли тот же в действительности объективный сверхразум? Или мы получим того же, но только более быстро рассуждаемого, субъекта со своими тараканами. А будет ли он тогда сверхразумом? Я даже не говорю о полезности как таковой для человечества. А вообще — не свернет ли он с дорожки в сторону или погружения в дзен или погибнет под своими же страстями. А возможна ли абсолютная объективность в принципе. Пусть даже в некоем идеальном искусственном мире?
1. Поблема понимания термина «искусственный интеллект», по крайне в русском переводе, хотя бы потому что мы изначально неверно перевели то, что сегодня понимается под AI. Правильный перевод — это интеллектуальные вычисления. И тогда многое встает на свои места. И те же нейронные сети сразу обретают свое законное место. Интеллектуальные вычисления.
2. Да, психология имеет дело с наблюдаем и наблюдателем. Это одна из базовых проблем полного ИИ. И она продолжается вопросом — а возможен ли тот же в действительности объективный сверхразум? Или мы получим того же, но только более быстро рассуждаемого, субъекта со своими тараканами. А будет ли он тогда сверхразумом? Я даже не говорю о полезности как таковой для человечества. А вообще — не свернет ли он с дорожки в сторону или погружения в дзен или погибнет под своими же страстями. А возможна ли абсолютная объективность в принципе. Пусть даже в некоем идеальном искусственном мире?
> А возможна ли абсолютная объективность в принципе
======================
Хороший вопрос. Если человечество замкнутая система, то абсолютная объективность — это максимум накопленного знания, относительно которого измеряется уровень всего остального, проблема в том, что точка отсчета все время «плывет», но в физике эта проблема ведь решена в СТО, где нет неподвижного пространства, почему в информатике нельзя сделать так же, задекларировав например «максимальную скорость думания»?
Вся эта идея с самообучающеся замкнутой системой, стремящейся к полному знанию, она противоречит второму началу термодинамики, и пока ни один физик мне внятно не объяснил — как может эволюционировать замкнутая информационная система, если замкнутая физическая всегда деградирует. Ссылаются на приток солнечной энергии и гравитацию, но пардон, тогда наша система незамкнута, и внешним эталоном смысла (информации) действительно выступает некий бог. Но тогда круг замыкается, так как этому богу негде жить.
======================
Хороший вопрос. Если человечество замкнутая система, то абсолютная объективность — это максимум накопленного знания, относительно которого измеряется уровень всего остального, проблема в том, что точка отсчета все время «плывет», но в физике эта проблема ведь решена в СТО, где нет неподвижного пространства, почему в информатике нельзя сделать так же, задекларировав например «максимальную скорость думания»?
Вся эта идея с самообучающеся замкнутой системой, стремящейся к полному знанию, она противоречит второму началу термодинамики, и пока ни один физик мне внятно не объяснил — как может эволюционировать замкнутая информационная система, если замкнутая физическая всегда деградирует. Ссылаются на приток солнечной энергии и гравитацию, но пардон, тогда наша система незамкнута, и внешним эталоном смысла (информации) действительно выступает некий бог. Но тогда круг замыкается, так как этому богу негде жить.
А может быть, просто не ставить такой цели-абсолютная истина? Есть пул вполне практических задач, где ИИ, что бы под этим не понимали, может быть полезен. Собственно в этом одна из задач серии моих статей. С одной стороны я хотел показать сложность задачи и подчеркнуть ее комплексность, с другой пытаюсь ее систематизировать, переводя в по возможности, в инженерную плоскость. И конечно же, привести ее к реальным задачам, в которых бог «непричем». Так как нет самого эталона, как Вами верно замечено.
Мы можем создать в ДОСТАТОЧНОЙ СТЕПЕНИ интеллектуальные системы, без перехода к идее трансцендентного разума. Такие системы могут быть полезны.
На счет «максимальную скорость думания», то думаю ее незачем декларировать, думаю, это вполне вычислимая величина, как физические константы. Скорость и плотность потока интеллектуально-эмоционального потока есть, пусть как и в теоретической физике, где все оперирует моделями — величина осознаваемая и предельная. Как, например, скорость света. Грубое, конечно, сравнение-но как гипербола сойдет. В общем, к и любая систем, ИИ — ограниченная объективными законами системами, без искусственных ограничений, конечно же — это нельзя не регулировать обществом, но, «законы природы», так скажем, будут вносить необходимые коррективы. Мне это кажется верным подчеркнуть в противовес активному продвижению идеи суперразума.
Подход к знакам, с четки выделением такого понятия как «сигнал»,«канал», «ониканальность», «суперпозиции систем» и т.д., в противовес абсолюной иерархии с верхушкой в виде «абсолютного эталона», как раз и переформируют постановку задачи. Собственно в этом один из главных целей статьи.
Мы можем создать в ДОСТАТОЧНОЙ СТЕПЕНИ интеллектуальные системы, без перехода к идее трансцендентного разума. Такие системы могут быть полезны.
На счет «максимальную скорость думания», то думаю ее незачем декларировать, думаю, это вполне вычислимая величина, как физические константы. Скорость и плотность потока интеллектуально-эмоционального потока есть, пусть как и в теоретической физике, где все оперирует моделями — величина осознаваемая и предельная. Как, например, скорость света. Грубое, конечно, сравнение-но как гипербола сойдет. В общем, к и любая систем, ИИ — ограниченная объективными законами системами, без искусственных ограничений, конечно же — это нельзя не регулировать обществом, но, «законы природы», так скажем, будут вносить необходимые коррективы. Мне это кажется верным подчеркнуть в противовес активному продвижению идеи суперразума.
Подход к знакам, с четки выделением такого понятия как «сигнал»,«канал», «ониканальность», «суперпозиции систем» и т.д., в противовес абсолюной иерархии с верхушкой в виде «абсолютного эталона», как раз и переформируют постановку задачи. Собственно в этом один из главных целей статьи.
> «сигнал»,«канал», «ониканальность», «суперпозиции систем»
===============
Удивительно, но это все термины из нейро-физиологии. Есть такая дисциплина — эволюция мозга, там рассказывают что сначала были отдельные каналы (зрение, обоняние), потом возникли ассоциативные зоны, где каналы пересекались, это еще в лимбическом мозге, а потом уже в неокортексе сумма каналов стала обобщаться до символа. И куча экспериментов с рептилиями, мышами и собаками. Айтишники пройдут этот же путь, и на выходе получат тоже собаку :)))
PS
Кстати, галюцинации от ЛСД объясняются именно электрическими наводками одного канала на другой, и человек начинает слышать запах, или видеть вкус, омниканальность в действии…
===============
Удивительно, но это все термины из нейро-физиологии. Есть такая дисциплина — эволюция мозга, там рассказывают что сначала были отдельные каналы (зрение, обоняние), потом возникли ассоциативные зоны, где каналы пересекались, это еще в лимбическом мозге, а потом уже в неокортексе сумма каналов стала обобщаться до символа. И куча экспериментов с рептилиями, мышами и собаками. Айтишники пройдут этот же путь, и на выходе получат тоже собаку :)))
PS
Кстати, галюцинации от ЛСД объясняются именно электрическими наводками одного канала на другой, и человек начинает слышать запах, или видеть вкус, омниканальность в действии…
«То есть мера количества информации (смысла) зависит от субъекта, читающего текст!»
В том числе. Прагматика — это раздел семиотики, и это там не секрет.
«Это полностью обнуляет возможность научного подхода, в котором декларируется объективность,» — вообще нет. Есть знание оторванное от воспринимающего субъекта. Объективное, идеализированное (в дебри вдаваться не будем ибо тема тянет на отдельную книжку), а есть субъективное, которое у субъекта. И то и другое исчислимо методами алгебры и геометрии. Психология классическая не строгая наука. Однако же есть по меньшей мере 1 труд, который подводит под нее строгий фундамент. (Акофф Эмери, О целеустремленных системах). К сожалению психологами проигнорирован.
В том числе. Прагматика — это раздел семиотики, и это там не секрет.
«Это полностью обнуляет возможность научного подхода, в котором декларируется объективность,» — вообще нет. Есть знание оторванное от воспринимающего субъекта. Объективное, идеализированное (в дебри вдаваться не будем ибо тема тянет на отдельную книжку), а есть субъективное, которое у субъекта. И то и другое исчислимо методами алгебры и геометрии. Психология классическая не строгая наука. Однако же есть по меньшей мере 1 труд, который подводит под нее строгий фундамент. (Акофф Эмери, О целеустремленных системах). К сожалению психологами проигнорирован.
В целом согласен, кроме того, что признание чего-то объективного и идеализированного приводит к необходимости бесконечного восхождения в объективности. На счет вычислимости -и да и нет. Если брать какую-то модель -то да. Она сама по себе ограничена и тут все нормально. В рамках модели-можно и нужно строить математику. Собственно, об этом, в том числе, и идет речь. Но, к сожалению, сегодня мы имеем в основном дело с задачами «Смысл — это связь между некоторым X и Y.». Это нормально в ряде прикладных задач. Но это никак не связано с задачами создания ИИ в полном виде. На счет книги-спасибо за наводку. Найду. И еще Матурана неплохо написал на эту тему об автопоэзисе.
«Но это никак не связано с задачами создания ИИ в полном виде.» На мой скромный взгляд это единственный рабочий подход. Вот здесь об этом подробнее
Почитал. Очень интересная работа. Направление мышления в нужную сторону. Но пока ей не хватает именно семиотической составляющей. Решения тех проблем, о которых я написал, недостаточное внимание к знаковым системам, они пока идут от языка. Но, судя по всему они на верном пути. По крайней мере их желание отобразить модель функциональных элементов организма при реализации поискового движка в медицине — абсолютно верное направление. Так что соглашусь, очень интересная работа.
Они- это я. :) «Но пока ей не хватает именно семиотической составляющей.» В моем понимании она (ТАИС)от головы до пят семиотическая. Разве что мы разные книги по семиотике читали.
То что вы делаете-замечательный проект. Но все ж у вас скорее семантический, а не семотический анализатор. Пока семантический, но мне кажется, усилить именно семотическую составляющую необходимо. И я так понимаю вы начали это делать. И это здорово. Все таки, семитика это про знаки, образы, если угодно.
на этом все и работает:) знаки и образы имеют соответствия в реальном языке (к словам и фразам). а правила задают отношения между ними, точные и непоколебимые в текущем состоянии конкретного языка:)
Значит вам надо обновить описание :)
Позволю себе поспорить. Во-первых, знаки и образы далеко не всегда имеют соответствия в реальном мире. Во-вторых, точных и непоколебимых нет. Это все очень многослойно, даже " в текущем состоянии конкретного языка". Собственно я об этом и пишу в статье. Это как раз одна из базовых проблем.
если знак осознаваемый (присутствует) в вашей (моей) голове (компьютере, НЛО) то он имеет соответствие как минимум к тому как он трактуется вашей (моей) головой и сл-но имеет соответствие в реальном мире, к коему несомненно принадлежит ваша (моя) голова. проблемой это не является, тем более базовой. ИМХО разумеется.
А если попробовать описать смысл как степень соответствия данного текста некому стеку эталонных смыслов — мы математически приходим к предельному случаю — смысл всей ноосферы и есть бог, ну как абсолютный ноль и бесконечность — абстракция, необходимая для сходимости уравнений. В такой трактовке эталон == человечество == бог, и вот сдесь уже возможна точная наука, так как очевидно, что знания человечества хоть и предельны, но неполны, и они могут дать необходимую метрику (точку отсчета).
Надо подумать.
Так вообще то и работают системы строгого семантического анализа. И да, в них можно строго вычислить отличие/сходство бога с нулем или черта с бубликом.
Не надо вычислять бога с нулем. :) Вот вопрос строгости вызывает у меня беспокойство. То что вы делаете, это, если я правильно понимаю, прикладная задача в условиях ограниченных вычислительных ресурсов. Я нисколько не умаляю ваш подход к решению прикладной задачи медицинского ассистента. Я бы тоже выбрал «строгий», метод. И я думаю, он даст неплохие результаты. Но это частный контекст. И я думаю, что используя ваш движок, можно прийти к решению в других областях. Но возникает несколько вопросов, ответы на которые я не увидел в описании и на которые я указываю в статье как необходимые:
1.Как учитываются ментальности разных групп людей. Поисковый запрос врача и водителя будет разный?
2.Как учитывается омниканальность?
3.Как учитывается эмоциональное состояние и характер вопрошающего?
4.Существуют в рамках вашего движка реализация разных семиотических систем, связанных с разным предыдущим опытом?
5.Допускается ли кардинальная разность выводов?
И тд. Посмотрите мои выводы.
P.S. Еще раз ваш подход абсолютно уместен и правилен при наличии большого ряда ограничений. И он вполне рабочий в прикладном использовании.
1.Как учитываются ментальности разных групп людей. Поисковый запрос врача и водителя будет разный?
2.Как учитывается омниканальность?
3.Как учитывается эмоциональное состояние и характер вопрошающего?
4.Существуют в рамках вашего движка реализация разных семиотических систем, связанных с разным предыдущим опытом?
5.Допускается ли кардинальная разность выводов?
И тд. Посмотрите мои выводы.
P.S. Еще раз ваш подход абсолютно уместен и правилен при наличии большого ряда ограничений. И он вполне рабочий в прикладном использовании.
«Не надо вычислять бога с нулем. :)» Норм. тест семантической системы. Если она не может это вычислить она дефектна при условии что понятия бог и ноль там присутствуют. 1)в Селанге есть контекст говорящего и слушающего (воспринимающего). К нему могут быть пристегнуты любые характеристики, которые вводят условность информации с любой стороны. 2. не знаю как это с чем то соотносится. в рамках модели каждый знак уникальный и имеет одно значение. Слову могут соответствовать множество знаков. Контекст и окружение обычно определяют правильный вариант. если однозначно не определен берется самый вероятный первый. 3). см.1 4). не имеет отношения ввиду п.2. 5). выводы ессно могут быть альтернативные так как интенсивно используется нечеткий вывод и на числах и на утверждениях. с ЕЯ без этого никак. P/s ограничения не мешают при разработке практических приложений. Когда такие находил — правил теорию.
.
В том-то и дело, что не совсем так. Это весьма упрощенное понимание, но не лишенное смысла (прошу прощения за возможную тавтологию) в рамках разработки ИИ-полных систем. Понимание смысла-как набор неких эталонов это именно то, на что сейчас направлено большинство усилий. И Вы правы-рост мощностей сильно в этом помогает. И есть огромный пласт задач, где этого в общем-то и достаточно.
Если не брать в расчет общечеловеческое стремление к поиску абсолютной Истине, что находится за рамками прикладных задач, то с инженерной точки зрения смысл, как мне кажется, это (упрощенно) некое оптимальное в данной ситуации решение по достижению какого-либо нового более оптимального состояния системы. Я здесь специально не употребляю термин «цель». Мне кажется, что «эталон» не существует в принципе, даже как абстракция. Есть суперпозиции, скажем так, «положения вещей».
Знаки — это не более чем часть системы, еще важно правильное оперирование ими. Вторая проблема — это сам эталон. Так как он разбивается не только на знаки, но и концепты и суперпозицию знаков в рамках той или иной семантической структуры и смежных систем. Кроме того, нельзя забывать о такой вещи как «качество», которое само по себе не так просто как кажется.
На тему «смысла», «качества» и что это такое я готовлю следующие статьи.
Если не брать в расчет общечеловеческое стремление к поиску абсолютной Истине, что находится за рамками прикладных задач, то с инженерной точки зрения смысл, как мне кажется, это (упрощенно) некое оптимальное в данной ситуации решение по достижению какого-либо нового более оптимального состояния системы. Я здесь специально не употребляю термин «цель». Мне кажется, что «эталон» не существует в принципе, даже как абстракция. Есть суперпозиции, скажем так, «положения вещей».
Знаки — это не более чем часть системы, еще важно правильное оперирование ими. Вторая проблема — это сам эталон. Так как он разбивается не только на знаки, но и концепты и суперпозицию знаков в рамках той или иной семантической структуры и смежных систем. Кроме того, нельзя забывать о такой вещи как «качество», которое само по себе не так просто как кажется.
На тему «смысла», «качества» и что это такое я готовлю следующие статьи.
И все же статья знаках и их роле. О смысле будет позже.
под анализом текста понимается главным образом две совершенно практические задачи, связанные либо с извлечением какого-либо контекста, либо перевод текста с одного языка на другой.
Еще есть отдельная задача генерации текста, которая включает в себя анализ — всякие там боты и пр.
Является ли эмоция самостоятельным сигналом?
Я бы сказал больше: эмоции — это то, что служит основой для знаков. Или способствуют порождению знаков.
Вообще эмоциям уделяется неоправданно мало внимания. То что вы тут приводите — классическое семиотическое описание коммуникации. Теория, ес-но, не нова. Но, к сожалению, до сих пор полезна разве что для умозрительных построений, практически мало осуществимых. Поэтому, как мне кажется, нужна какая-то другая идея. Конечно, можно работать в рамках динамически меняющегося во времени денотата. То есть можно, скажем, построить Марковскую сеть всех знаков (связанный сложный граф) и для каких-то случаев это хорошо заработает. Но связи в языке не статичны, а находятся в постоянной конкуренции друг с другом. И эту динамику как раз и задают эмоции. Как это смоделировать в ИИ — пока не знаю. Да, и понятно, что это в равной степени касается как генерации, так и анализа текста.
Sign up to leave a comment.
Нейронные сети, генетические алгоритмы и прочее… Мифы и реальность. Знаки