Comments 43
Вопрос ценителя. Придайте ИИ обратные связи, дающие чувство удовлетворения от плодов своей деятельности. Не забудьте начальные условия, соответствующие восприятию прекрасного человечеством. И пожнёте искомые плоды в избытке.
Рано или поздно наше наследие также будут исследовать творения рук наших, ИИ. Взойдём ли мы на высшую ступень эволюции, или сгинем в пучине катаклизмов, ни художественные творения свои в их физической форме, ни питомцев мы не захватим с собой, оставив сей бренный мир им. Ценить кроме них будет некому.

Blood LikeHeartLD+R-U
Суть искусства не только и не столько в новизне… Каждый из нас имеет свою картину мира и очень часто эта картина в отдельных своих аспектах — прекрасна. И каждый из нас хотел бы поделится этим: своим чувством прекрасного. Но… Очень немногие из нас находят способ выразить это так, что бы результат «зацепил» других… Потому, что картина мира у каждого своя — коммуникативные протоколы несовпадают. Музыка, живопись, литература — это все реализации единых протоколов… но в силу того, что каждый внутренний мир уникален и слабо поддается формализации не всегда и не у всех получается… и поиск новых способов выражения продолжается…
Нейронная сеть, натреннированная на распознавание общечеловеческих понятий высокого уровня абстракции (только не спрашивайте, как именно), и что-то вроде «визуализатора» этой сети могло бы стать новым словом в искусстве (ну как сейчас визуализируют общее представление сети о котике, вот так же только любовь, верность, самопожертвование… ).
Правда это не… творчество нейронной сети, это нейронная сеть, как творчество… так что наверное, я согласен с автором — к творчеству способна только личность… что-то со своим видением мира и желанием этим видением поделиться. А какая личность, искусственная или естественная — не так важно.
Постмодернизм этим занимается (-ался) — «перетасовкой уже имеющихся известных частей».
И тут вопрос не в том, сможет ли ИИ показать нечто оригинальное, революционное ет сетера. Вопрос в том, как сложно ему будет это делать.
Ведь любое художественное произведение ценно также своим бэкграундом, а не только формой и содержанием. Вся эта информация о том, как художник создавал произведение, в каких условиях, что его на это побудило и т.д. Всё это очень важно.
Если ИИ будет делать это как… пельмешки лепить, то в чём ценность его «произведений»?
Хотя, безусловно, первая выставка произведений ИИ будет интересна. Ибо она сама по себе, как явление, будет представлять художественный, социальный, психологический интерес. Как перформанс.
Я тоже пошёл бы на такую выставку.
А вот на вторую — уже нет :-)
Искусство и литература, (вероятно и музыка) предполагают, может быть не совсем теперь равноправные, но методы познания как и в науке.
Искусство в основном оперирует образами (художественными образами, как предметом исследования), наука в основном абстракциями, первым соответствует образное мышление, вторым абстрактное. Первым, до какой-то степени, обладают животные и дети, но у взрослых оно отходит на второй план, основное абстрактное, пусть и на уровне повседневного, житейского. Интуиция обязана образному мышлению (ассоциативности), но оно действует в подсознании, поэтому искусство во многом воспринимается интуитивно. Связано с инсайтом, как формой творчества. Абстрактное мышление произошло из образного, путем вербализации, символизации и процедур обобщения, но идет дальше. Поэтому нет ничего удивительного, что существует абстрактное искусство) Однако роль образного мышления в жизни обычно недооценивается, из-за его фонового характера, и хотя исследуется, но не так активно, как абстрактное. Если для абстрактного мышления разработаны разнообразные формально-логические подходы, то для образного, возможно подходят нечеткие логики. Мозговыми механизмами функционирования образного мышления сейчас занимается когнитивные психология и нейрофизиология, как пример такого исследования, см. работы отечественного нейрофизиолога Иваницкого по этой теме.
В искусстве, ведь, как собственно и в чистой науке подлинной ценностью обладает новизна.
Вы правильно отметили мутационный характер истинной новизны. Это особенно очевидно в науке. Только так реальность может проявить себя. Классический пример — открытие радиоактивности, положили случайно две вещи рядом, фотопластинку и соль урана, и вуаля! Таким случайным способом было сделано множество фундаментальных открытий. Важно, чтобы условия для открытий созрели, а кто, и при каких обстоятельствах его сделает, определяет в основном случай. Конечно больше шансов у тех, кто занимается близкой деятельностью, как Беккерель в случае с радиоактивностью. Важно такие открытия не путать с предсказанными теоретически, такими как открытие Нептуна или Черных дыр. Но сами теории всегда строятся на открытиях первого типа, носящих случайный характер.
В искусстве это менее очевидно, но также определяется такими мутационными процессами — историческими событиями, существенными изменениями в общественной жизни, появлением новых технологий, и тд. К примеру, появление импрессионизма связано не только с появлением новых техник рисования и материалов, но и с общественными сдвигами. Картины могли приобретать не только избранные, но и разросшийся средний класс, что требовало массовости производства. Вкусы стали более реалистичными в связи с изменениями условий проживания в городах, это требовало изображения с натуры.
могут ли нейронные сети достичь чего-нибудь значимого в искусстве, литературе, и является ли это творчеством.
Что касается современного уровня творчества нейросетевых систем, тем более в перспективе, то они вполне могут заменить творчество подавляющего большинства современных писателей, сценаристов, художников и композиторов и тд), особенно в области абстрактного искусства, да и немалого числа исследователей, т.к. занимаются либо комбинированием известного, либо работают по аналогам, и другой подобной стохастически аппроксимируемой деятельностью, т.е. создают наполняют контент. Но действительно новое в науке может преподнести только природа, способен ли ИИ не пропустить этот момент? А уловить изменения в общественной жизни и выразить в целостном худ. образе, кот. заставил бы людей искренне переживать, и подстегивать их воображение? Вероятно, пока не. Но только пока.
Типичный вопрос про нейросеть. А как мы измеряем качество? Качество искусства, в смысле.
Мне кажется, без ответа на этот вопрос… Теряется сам предмет обсуждения.
Искусство, которое создаёт нейросеть (и человек тоже) всегда будет сочетанием уже использованных ранее частей. Попробуйте написать книгу, не используя алфавит =) Да, можно собирать текст из «чужих» символов, а можно — из чужих глав. В первом случае задача более комбинаторно сложная. Но… Граница размытая.

GAN работают примерно следующим образом. Есть две нейросети. Одна различает «настоящие» картинки от «ненастоящих» (что бы это ни означало, это просто метки на датасете), вторая пытается сгенерировать что-то, что вторая сеть посчитает за «настоящую» картинку.
Таким образом, у GANов есть конкретная цель, которой они стараются достичь.
Если сформулировать термин «искусство» настолько же конкретно, окажется, что нейросети (или какой-то другой ИИ) вполне может создавать это искусство целенаправленно.

Кстати, что автор понимает под «художественным познанием»? Есть какая-то формализация?
Для науки познание — это такая ситуация, когда мы из всего пространства математических моделей «выдернули» такую «формулу», которая позволяет предсказывать будущие наблюдения лучше, чем предыдущие «формулы». Для этого используются наблюдения, эксперименты, процесс очень серьёзно формализован, но на выходе получается что-то типа алгоритма — в него заряжаешь одни наблюдения, а он тебе выдаёт другие — будущие, прошлые, зависит от формулировки запроса.
Для художественного познания что является результатом и чем хороший результат отличается от плохого?
Сейчас вполне сносно можно реализовать (по описанному вами принципу) систему, выдающими на-гора картины в стиле, к примеру, Вангога по мотивам фотографии на входе. Собственно нечто подобное (хотя и в сильно упрощенной форме — я думаю можно круче! ) сейчас есть в виде приложения для телефончика. И, очевидно, крайне мало людей считает это искусством. Это забавно, но не более того.

Кто-то выше писал, что само по себе искусство неразрывно связано с бэкграундом: т.е. важно, не только и не столько то, что мы имеем возможность воспринимать непосредственно, как то, что за всем этим стоит. Абстрактное полотно, руки живого художника будет ценится, как выражение его чувств, в то время, как нечто подобное, созданное машиной большинство воспримет не более чем прихоти «корейского рандома». Нужен мощный посыл: почему это круто.

Для науки познание — это такая ситуация, когда мы из всего пространства математических моделей «выдернули» такую «формулу», которая позволяет предсказывать будущие наблюдения лучше, чем предыдущие «формулы».
Есть два подхода в научном познании: одни считают, что если формула описывает/предсказывает явление лучше, чем все остальные, то и не важно почему — главное работает. Второй подход предполагает, что важно не только уметь предсказать, но и понять почему так — иначе можно получать верный ответ из ложных предпосылок. В какой-то мере первый подход сопоставим с механистическим созданием «произведений искусства», второй — как раз характерен для мощного бэкграунда, объясняющего, почему вот это вот — искусство (хотя иногда не очень-то и похоже ;) ).
Для художественного познания что является результатом и чем хороший результат отличается от плохого?
Научное знание формализовано. Его передача от одного индивида другому через формальную запись и есть познание. Художественное познание (если я правильно понимаю автора и вас) — это так же передача некоего знания о мире, которое невозможно формализовать иначе, чем в форме произведения искусства. Собственно — состоялся факт передачи, поняли ли вы посыл автора — это и определяет результат. Очевидная проблема механистических «произведений искусства» — за ними нет посыла. Машина обработала входящий сигнал по образцу и выдала результат. «Автор» ничего не хотел «сказать». Некоторые ищут в рандомных сочетаниях проявления высших сил (и в принципе что-то в этом есть% машина, как проводник чего-то из вне), но это так…
искусство неразрывно связано с бэкграундом
— уже сильно не впервый раз это слышу =) Это, на мой взгляд, очень сильно обесценивает дискуссию о том, «может ли кто-то/что-то помимо людей заниматься искусством». Я не против такого ответа, просто из него следует, что не-человек по определению не может заниматься искусством, потому что термин «искусство» включает в себя «создано человеком» =)

Есть два подхода в научном познании: одни считают, что если формула описывает/предсказывает явление лучше, чем все остальные, то и не важно почему — главное работает. Второй подход предполагает, что важно не только уметь предсказать, но и понять почему так — иначе можно получать верный ответ из ложных предпосылок
— первый подход — это это подход учёного-прикладника (обычно), это путь эмпирических формул. Всё бы круто, но самые нижнеуровневые формулы физики как раз эмпирические. И очень похоже, что что бы мы ни наоткрывали, всё равно всё сведётся к некоторому набору базовых частиц, поведение которых доводится до формул чем-то, подозрительно напоминающим Machine Learning. Поэтому эти второй подход (теоретический вывод) всё равно базируется на первом, всё равно сводится к формулам, которые выведены тупо из данных.
Насколько я понимаю, ситуация именно такая. Есть какие-то аргументы против?

Собственно — состоялся факт передачи, поняли ли вы посыл автора — это и определяет результат.
— посыл автора… При таком подходе сложно оценить искусство. (если эти слова относятся и к пониманию искусства, а не только к познанию-через-искусство)
Вижу иные метрики, более простые в исполнении. Число лайков, например… Искусство — это что-то, что понравилось большому числу людей. Я понимаю спорность этого подхода, но очень похоже, что режиссёры существенной доли фильмов считают так же, и неплохо живут с таким подходом.
Или ещё. Показать «искусство» заранее сформированной группе критиков и получить их оценки. Тоже методика оценки, довольно формальная. Отражающая некоторую субъективность понятия «искусство» =)
Дело в том, что я не вполне согласен, что в искусстве главное — посыл автора, идущий между строк. Если я прочитаю книгу, которая очень интересная, захватывающая, местами смешная… Но такая, что потом не возникает ощущения посыла. Я её всё равно засчитаю за неплохое искусство.

Вообще подход прикладника и теоретика идут всегда рука об руку. Прикладник по факту использует то, что есть, за частую не задаваясь вопросами, почему так, но когда теоретики объясняют таки почему — обычно это приводит к пересмотру, исключению надуманных постоянных (за которыми не было физического смысла) а зачастую и некоторому упрощению. Не всегда, конечно, но часто. Потому, что вместо нескольких несвязанных формул появляется Система! Эмпирические формулы часто весьма приблизительны, в то время как формулы, построенные на фундаментальных законах мироздания имеют точность и красоту, выводящую их порой на уровень искусства. ;)

А формулы нижнего уровня — они что, не эмпирические? Ну то есть как бы вы выводили скажем, формулу гравитации, если бы у вас были только математика и телескоп? Допустим, она отличается от нашей, вы находитесь в виртуальной реальности

У вас такие хорошие вопросы, что я невольно задумываюсь — не являются ли они наводящими. ;) Там еще есть ниже есть мой ответ, к сожалению промахнулся веткой… (

Пример с гравитацией прям в тему! С помощью телескопа и прямого наблюдения выводятся законы Кеплера, но нужен был теоретик Ньютон со своим яблоком что бы обобщить яблоки и планеты и сделать поправку на массу. ;)
GAN работают примерно следующим образом. Есть две нейросети. Одна различает «настоящие» картинки от «ненастоящих» (что бы это ни означало, это просто метки на датасете), вторая пытается сгенерировать что-то, что вторая сеть посчитает за «настоящую» картинку.
Таким образом, у GANов есть конкретная цель, которой они стараются достичь.
Если сформулировать термин «искусство» настолько же конкретно, окажется, что нейросети (или какой-то другой ИИ) вполне может создавать это искусство целенаправленно.
— первый подход — это это подход учёного-прикладника (обычно), это путь эмпирических формул. Всё бы круто, но самые нижнеуровневые формулы физики как раз эмпирические. И очень похоже, что что бы мы ни наоткрывали, всё равно всё сведётся к некоторому набору базовых частиц, поведение которых доводится до формул чем-то, подозрительно напоминающим Machine Learning. Поэтому эти второй подход (теоретический вывод) всё равно базируется на первом, всё равно сводится к формулам, которые выведены тупо из данных.
Насколько я понимаю, ситуация именно такая. Есть какие-то аргументы против?
Присоединяюсь к аргументам Nehc, и добавлю свои. Это упрощенное понимание научного поиска и их результата — научных теорий. В еще большей степени это относится к искусству, как еще менее формализованной области.
Получилось несколько пространно...
Вероятно, в вас говорит инженерное образование, и работа вне стен какого-либо научно-исследовательского учреждения. Это вовсе не какой-то там упрек, так и должно быть, если деятельность не связана поиском, а выдачей на гора готового продукта, в заданные сроки, заданного качества. Общий смысл возражений в том, что вы все сводите к некой формализации, и требуете в ней определения научной деятельности и искусства, и наличия готовых метрик, для измерения результатов этой деятельности. Для достижения практического результата это правильная постановки вопроса. Но для понимания сути явления нет! Реальность всегда шире любых ее трактовок, тем более формализаций. Конкретно по поиску, уже писал ранее, принципиальным моментом являются спонтанные проявления реальности, нельзя заранее точно спланировать направление поиска, кот. приведет к открытию новых фундаментальных фактов, кот., в свою очередь, лягут в основу новой фундаментальной теории. Приблизительно можно, точно нет! Чем фронт поиска шире, тем вероятность открытия больше. Но и затраты любого рода увеличиваются, число исследователей, число работ, материальные затраты, и тд, причем экспоненциально. Именно эту ситуацию сейчас наблюдаем в фундаментальной физике последние лет 40-к, со времени создания последних успешных теорий КТП и СМ. Посмотрим, как было раньше, во времена создания КМ и СТО с ОТО. Масштаб был меньше, но ситуация абсолютно та же. Существовали классическая механика, и классическая ЭД, две основные фундаментальные теории, каждая со своим описанием. Первая требовала абсолютного евклидового пространства, вторая — эфир, противоречие, как и сейчас противоречие с требованиями кв-мех. описания (корпускулярно-волнового дуализма), и описания ОТО (непрерывный пр-временного континуум). Как был найден выход из противоречия тогда? Во многом случайно. Эксперимент Майкельсона-Морли планировался, как проверка наличия эфира, но неожиданным его результатом стало установление факта постоянства ск. света. Этот новый факт позволил создать Эйнштейну СТО, с учетом требования ее обратной совместимости с клас. механикой. Наблюдение за движением Меркурия выявило неожиданное расхождение с предсказаниями теории тяготения Ньютона смещения его перигелия. Этот факт, и некоторые предположения относительно природы массы, привели к созданию ОТО. Непредвиденные расхождения в объяснении фотоэффекта, и спектра излучения абсолютно черного тела, с классической ЭД привели к квантовым идеям, и с учетом еще нескольких расхождений и обратной совместимости с клас. механикой, к КМ. Нет никаких указаний на то, что ситуация в перспективе как-то изменится, и что будет создана некая теория Всего, и никаких противоречий в описании не будет иметься, и тем более, что случайно не будут обнаружены новые факты, не объясняемые в рамках этой теории Всего. Ко всему этому добавляется существование более сложных систем, чем физические — биологические и социальные. Но даже в самой физике описание сложных систем не сводится (формально не редуцируется) к некоторым базовым составляющим. Это показывается формально, и относится к эмерджентным свойствам. Как пример такой не сводимости макроскопического описания свойств магнитных материалов к микроскопическим, см. эту работу. В общем случае такие доказательства используют различные виды неразрешимостей. Редукция (в форме физикализма) сочетается с эмерджентностью, по крайней мере, в слабой форме. Это можно проиллюстрировать на примере возникновения глайдеров в игре Жизнь, для кот. доказано, что она является полной по Тьюрингу. С одной стороны возникновение глайдеров можно проследить пошагово от начала игры, при заданных начальных условиях, и в этом смысле, они редуцируются к правилам игры. Однако исходя только из правил игры предсказать их существование не возможно (они были открыты случайно), и в этом смысле, глайдеры, как целостные объекты, являются эмерджентными. Чтобы такую редукцию произвести можно расширить правила игры, фактически неявно постулировав существование глайдеров, но это уже не будет самый простой вариант правил игры. Если это все спроецировать на нашу реальность, то формально поведение таракана можно свести (редуцировать) к законам физики (той самой гипотетической теории Всего), но придется просчитать это от момента самого БВ, с заданием конкретных начальных условий (возможно еще граничных). Это выполнимо, хотя бы в гипотетическом варианте, с помощью некоего квантовово-огого свуперпупер-компа?) Вряд ли. В это можно только верить. Некоторые физики так и делают, чтобы сохранить детерминизм, т.е. редукционизм в крайней форме, верят в ММИ, чтобы избавится от вероятностной трактовки и коллапса ВФ в КМ:) Таракан — это такой глайдер в нашей Вселенной, приближенно описывающийся биологическими закономерностями, кот. нельзя редуцировать к физике. И так практически все, даже в самой физике, за редким исключением достаточно простых систем. По этой причине, поисковую задачу для реальности (познавательную деятельность) нельзя формализовать полностью, и это может иметь последствия для самой поисковой системы, будь то сам человек, или некоторый ИИ. Но это отдельная тема.

Можно также рассмотреть проблему формализации с точки зрения продуктов научного познания — теорий. В общем виде любая теория состоят из двух частей — формальной и неформальной. Не формальная часть содержит концептуальную модель области приложения теории, описываемую понятиями и связями (отношениями) между ними, и основанную на обобщении наблюдаемых и экспериментальных фактов, некоторых метафизических предположениях, и информации из предшествующих исследований в этой области. Формальная часть содержит математическую модель (формализм), представляемую обычно в аксиоматической форме, частично или полностью перекрывающую понятия и связи концептуальной модели, и имеющая строгую интерпретацию (определения и правила вывода) в ней. Теория может содержать несколько эквивалентных формализмов, которые описывают известные факты из этой области и возможно предсказывают новые. Понятия концептуальной модели всегда имеют определенный физический смысл, являются наблюдаемыми величинами, некоторые понятия формальной нет — могут не иметь физического смысла, и быть не наблюдаемыми.

Рассмотрим эти утверждения на примере понятия массы, как одной из составных частей физ. теорий. В обыденном понимании масса это вес. Положили на весы предмет и гири — узнали его массу. Наука этим не ограничивается, в классической механике масса мера инертности тел. В теории гравитации Ньютона масса мера гравитационных свойств тел. Но Эйнштейн в СТО доказал, что масса эквивалентна энергии, кот. выражается знаменитой формулой E=m*c^2 (в этом виде энергия покоя). Все? Нет, Эйнштейн ввел принцип эквивалентности инертной и гравитационной массы в ОТО, и теперь движущаяся масса (точнее тензор эн-импульса) мера искривления метрики простр-временного континуума, и непосредственно связана с происхождением и эволюцией Вселенной. А еще есть хиггсовский механизм. Так, что такое масса? Естественно, как обычно, нужно указать теоретический контекст использования этого понятия, чтобы снять неоднозначность. Но все эти интерпретации говорят о том, что масса нечто большее, чем любые из этих определений. Нет гарантий, что в будущем не откроются новые аспекты массы, и не возникнут ее новые определения, в той же теории кв. гравитации. Это наводит на мысль, что понятие массы не сводится даже к самому общему ее определению. Это уже не однозначность определения, а некая трансцендентность исходно заложенная в него. Как она возникла? Сейчас на это можно ответить — из-за физиологии человека, точнее психофизиологии, подкрепляемой современными нейрофизиологическими исследованиями. Масса это обобщенное вербальное обозначение (абстракция) чувственного восприятия нагрузки тел на мышечную систему организма, связанную с сопротивлением тел их перемещению, в том числе, собственного тела. Любое чувственное восприятие является субъективным состоянием, некоторым качеством, как сейчас модно говорить — квалия (но можно и без него обойтись). Насколько точно это субъективное состояние — ощущение массы связано с самой массой? Это описывает закон Вебера-Фехнера имеющий нелинейную (логарифмическую) форму зависимости величины ощущения от величины воздействия, в данном случае, величины тяжести тел. Кроме того он задает пороговый характер нарастания величины ощущений. Сами величины порогов могут изменятся в зависимости от многих условий психо-физиологического состояния субъекта. Однако, именно в таком представлении масса имеет эволюционно значимый смысл, полезный для выживания вида. Таким образом, исходно масса, как термин естественного языка, является идеализацией субъективного состояния, весьма опосредованно связанной с реальной физической массой. Фактически являющегося обозначением (ссылкой) этого феномена, реальное содержание (наполнение) которого раскрывается в его моделировании на уровне абстрактного мышления, на основе наблюдений, целенаправленного опыта, и в более широком плане, всей практической деятельности общества. Однако формальные абстрактные модели не являются замкнутыми относительно практики, поскольку практика всегда шире модельных представлений. Та самая способность реальности спонтанно проявлять себя в этой практике, о кот. писал выше. Для аксиоматических систем не замкнутость относительно практики доказывается формально, в виде теорем о неполноте Гёделя. Это относится и к физическим теориям, связанным с объяснением феномена массы. Дополнительно можно сказать, что формальные аппараты этих теорий подчинятся принципу соответствия, регулирующему наследование поколений теорий, надежно подтвержденных практикой применения. Но это не относится к концептуальным моделям, преемственная теория может содержать утверждения не сводящиеся к утверждениям наследуемой. Как пример, принцип суперпозиции в КМ не имеющий аналога в классической физике.

Эти рассуждения применимы к любым понятиям ЕЯ, связанным с описанием окружающего мира и самого человека, и составляют его концептуальную основу. Таким как время, пространство, материальное тело, сила, и тд. в физике, или число, точка, прямая, и тд. в математике, жизнь, особь, вид, и тд в биологии, организм, орган, клетка, и тд. в физиологии, личность, мышление, поведение, и др. в психологических науках, общество, культура, индивид, и др. в социологических науках, материя, сознание, познание, и др. в философии. Это и есть семантика языка, его смысловое наполнение. Возникает вопрос, насколько это смысловое наполнение, фактически познавательную мощь ЕЯ, может освоить ИИ, не имея связи этих смыслов с субъективными состояниями, кот. у человека возникли эволюционно, совокупно в течении миллиарда лет? Нужно ли ИИ простраивать их самостоятельно, формируя свои собственные субъективные состояния, или как-то подключаться к уже созданному человеком смысловому пространству? Мое мнение, по многим причинам, ИИ должен развиваться по второму пути, по крайней мере на начальной стадии развития. Т.е. фактически быть симбионтом человеческого интеллекта, как его усилитель. Речь конечно не о современно уровне, а о более продвинутом, например, как персональном ИИ в облаке, связанном с человеком беспроводно, нейроинтерфейсом. Приближенно, как показано в фильме «Анон», если видели.

Естественно, ИИ без проблем может освоить формальные методы как самих теорий, так и формальные методы их построения, и делать это лучше человека. Но насколько он сможет оперировать в реальности, не упуская ее новых проявлений, и моделировать ее в смыслом (концептуальном) пространстве, как это делает человек, прежде чем формализовать новые возникшие идеи?
Не заметил сразу ваш ответ, только сейчас увидел =)
Для начала. Да, у меня инженерное образование. И «теорию познания» изучаю главным образом как прикладник. В смысле, я по работе регулярно провожу исследования, которые требуют построения теорий с хорошей предсказательной силой. И… Мне бы неплохо иметь набор инструментов (ту самую «теорию познания»), которые позволят вести исследования максимально надёжно и автоматизированно.
Простыня в ответ =)
Насчёт формализации искусства. Термин можно ввести явно — очертив его некоторым определением. И неявно — приведя примеры. Очень большое число терминов в человеческом языке вот такие неявные. У них чёткие границы в той области, где термин применялся ранее, но очень вольная трактовка за пределами этой привычной области применения. Например, человек пишет картину — это (считается) искусством. А если то же самое сделает робот? Снаружи-то разницы не видно, как различить? Считать ли это одним явлением (потому что есть сходства) или разными (потому что есть различия)?
Соответственно, чтобы снять противоречие, надо или ввести чёткое определение, или ввести контекст — для какой задачи мы будет использовать свои выводы. Автор статьи скорее идёт по первому пути — он не говорит «мы решаем задачу автоматической генерации картин на продажу/определения, если у ИИ квалиа/выяснения, что у других интеллектов может быть похожего на наше искусство, и искусство нас интересует именно в этом смысле». Я пока что вижу определение вроде (очень упрощённо) такого «искусство — это то, что люди распознают как искусство. Плюс это что-то, что создано именно как сообщение, акт связи».

Насчёт того, что люди составляют фрагментарную картину мира и множество теорий вместо единой. Да, такое есть. Полагаю, это связано с тем, что люди строят эти теории не из прямого сенсорного опыта, а из некотороый упрощённой модели мира, которая построена во многом на базе опыта, но неформализованным способом, а… Как нейросеть отработала, и подробности неизвестны. Это то, что вы называете неформальной частью.
При этом я много экспериментирую с Reinforcement Learning. ИИ строит модель мира — единую и непротиворечивую. Но в терминах сенсоров. И сразу может оценить степень точности теории. На фоне этого проблемы людей с построением Теории Всего… Озадачивают. Заставляют задаться вопросом: а как формализовать неформальную часть теории? Хотя бы как подойти к задаче? Если мы найдём верное решение, это тут же будет заметно: появятся роботы с намного лучшей координацией.

Я согласен, что те формальные методы построения моделей, что у нас есть, довольно плохо гарантируют полноту модели. Да, собрали мы датасет в 10 тысяч точек, построили модель. Какие надо поставить эксперименты, чтобы получить новые точки, которые хуже всего ложатся на модель? Я вижу ряд эвристик (например, построить модель, которая предсказывает погрешность первой модели в заданной точке), как ускорить поиск, но в целом это NP-полная задача.

Вижу, вы высказываете аргументы против редукционизма =)
Вначале насчёт модельной реальности, типа игры «Жизнь».
«Исходя только из правил игры, невозможно предсказать наличие глайдеров». А как бы вы проверяли, порождает ли заданный вариант правил глайдеры? То есть конструкции, который 1) подвижны 2) меняют свою форму по замкнутому циклу 3) могут существовать при некотором варианте стартовых условий игры.
Как бы я подошёл к этой задаче. Наивный подход такой: мы перебираем все варианты стартовых условий. Их много? Начинаем с самых простых, где точек поменьше. У глайдера может быть любая периодичность? Начинаем с перебора малых периодичностей (1-5 тактов). Чем больше вычислительных ресурсов, тем выше шансы, что мы найдём глайдер, если он вообще возможен. Менее наивный (и менее надёжный) подход. Проверить, все ли полные по Тьюрингу игры порождают глайдеры (теоретически, либо брутфорсом, но тогда вывод становится менее надёжным). Проверить, полна ли данная игра по Тьюрингу.
Чтобы таким образом проверить возможность существования таракана, уйдёт очень много ресурсов (перебрать разные конфигурации большого взрыва, промоделировать миллиарды лет, всё честно и без приближённых вычислений) и нужно очень правильное понимание физики.
С другой стороны, если я буду знать правила игры в Life, и мне опишут устройство глайдера, я смогу проверить, работает ли он. Во всяком случае, с какой-то разумной периодичностью, если у него период огромный, то мне не хватит ресурсов для проверки.
Теперь насчёт «реальной реальности». Вы скинули ссылку о том, что макроскопические свойства магнитных материалов не сводятся к микроскопическим. То есть явно противоречат, микро-теория даёт одни выводы, а опыт — другие (я не читал статью подробно, надеюсь, не переврал суть). Редукционизм неверен? Я бы скорее сказал, у нас недостаточно хорошая модель нижнего уровня. Если модель хорошо работает на 2,3,4 частицах, а на 5 вдруг начинает расходиться с опытом, значит, есть какие-то косяки в модели. Ну… Если правила игры Life (как мы их знаем) предсказывают, что некоторая конструкция не будет глайдером, а мы запускаем и игру и видим, что она всё-таки глайдер, значит, мы ошибаемся в знании правил игры.
Учитывая, как мы выводим законы физики, такие ошибки ожидаемы. И ещё ожидаемо, что будет множество людей, которые эти ошибки замечают (например, многим физикализм не нравится идеологически, и они очень заинтересованы в поиске таких ошибок), и будут другие люди, которые будут дорабатывать нижнеуровневые теории так, чтобы они не начинали сильно промахиваться, когда частиц становится больше десяти =)

«Если это все спроецировать на нашу реальность, то формально поведение таракана можно свести (редуцировать) к законам физики (той самой гипотетической теории Всего), но придется просчитать это от момента самого БВ, с заданием конкретных начальных условий (возможно еще граничных). Это выполнимо, хотя бы в гипотетическом варианте, с помощью некоего квантовово-огого свуперпупер-компа?) Вряд ли. В это можно только верить. Некоторые физики так и делают, чтобы сохранить детерминизм, т.е. редукционизм в крайней форме, верят в ММИ, чтобы избавится от вероятностной трактовки и коллапса ВФ в КМ:)» — какие вижу причины, почему нет.
1) Ресуров не хватит
2) Квантмех на выходе даёт вероятностные распределения (измеримых величин), а не детерминированные прогнозы. Поэтому придётся имитировать ММИ, и все эти ветки запускать в супер-компьютере. Веток бесконечно много, так как распределения гладкие, значит, если перебирать конечное число веток, есть теоретический шанс, что мы попадём в ту реальность, где абиогенеза не было, либо эволюция пошла по другому пути. И да, это очень плохо по процессору и памяти) Я не считаю, что ММИ чем-то лучше других трактовок КМ, они все дают на выходе одни и те же числа. Можно так же моделировать с коллапсом, используя метод сэмплирования — но для компьютера это то же самое, просто объяснять дольше.
3) Теории Всего пока нет, и даже если она будет, она будет неидеальна, у неё будут отклонения от реальности, и их может хватить, чтобы таракан не создался.
4) Надо перебрать все возможные начальные условия. Их бесконечно много, потому что мы моделируем в действительных числах, а не целых. Соответственно, здесь мы вносим неточность, и её может оказаться достаточно, чтобы всё сломать.
5) Вот мы всё успешно отмоделировали, и тараканы есть. Только как их найти в этом Мультиверсуме? Для этого надо придумать какой-то поисковый шаблон, вроде шаблона для глайдера, а его пока нет.
Во всех этих случаях проблемы есть, но они скорее из серии «погрешность измерений и недостаток вычислительной мощи могут всё запороть». Не могли бы вы подробнее рассказать, в чём тут принципиальая сложность?

«Возникает вопрос, насколько это смысловое наполнение, фактически познавательную мощь ЕЯ, может освоить ИИ, не имея связи этих смыслов с субъективными состояниями, кот. у человека возникли эволюционно, совокупно в течении миллиарда лет? Нужно ли ИИ простраивать их самостоятельно, формируя свои собственные субъективные состояния, или как-то подключаться к уже созданному человеком смысловому пространству? Мое мнение, по многим причинам, ИИ должен развиваться по второму пути, по крайней мере на начальной стадии развития.» — было бы круто. Насколько это оптимально практически — сложный вопрос. Сейчас ИИ (в смысле системы Reinforcement Learning) могут общаться с людьми. Но не в концепции теории связи, а в концепции теории управления.
«Мне в канал 19 пришло сообщение: „Я люблю пиво“. Моя модель предсказывает, что если я передам в тот же канал „У меня для тебя есть #товар 1034#, холодненькое и с креветками“, то матожидание продаж вырастет с 0.02 до 0.06».
Сделать же настоящую связь, как её понимают люди… Было бы здорово, но пока плохо понятно, как это совмещать с обучаемостью =)

«Естественно, ИИ без проблем может освоить формальные методы как самих теорий, так и формальные методы их построения, и делать это лучше человека. Но насколько он сможет оперировать в реальности, не упуская ее новых проявлений, и моделировать ее в смыслом (концептуальном) пространстве, как это делает человек, прежде чем формализовать новые возникшие идеи?» — ИИ, оперирующие в реальности, уже есть. Они как раз на этих формальных методах и построены. Они строят свои собственные внутренние представления, которые иногда по счастливому стечению обстоятельств совпадают с человеческими. Эти ИИ не отличаются умом и сообразительностью — они всё ещё плохо строят модели, слишком долго, не всегда точно и корреляции плохо отличают от причинно-следственных связей. Ну и общаться с людьми, используя общие внутренние представления, они не могут.
Возможно и есть своего рода «формализация» — через конечные, завершённые художественные образы – отображение, переработанной в психических процессах, действительности (возможно и в виде фантазмов). Может, фигурки зверей на стенах пещеры помогали уточнять, расширять или даже образовывать первые понятия, хоть такое выделение, фиксация объектов из фона. Или иконы как знаковая система. Первые зачатки абстрактного мышления — вообще, наверное, мифологическое, религиозное познание. Пусть и детство человечества. Но почему бы и не быть актуальным целостному познанию в восточных религиях или, вероятно, сходному с ним «живознанию» из русской философии, как синтезу познавательных возможностей человека. Отсюда их критика рационализма как односторонности, упрощения мира, непрерывного и неделимого в своей разнородности. Поэтому научные критерии истинности для «художественного познания», думаю, не применимы. Может, «правильное» искусство должно ощущаться как некое озарение, глубинное понимание, ощущение предельной захваченности, изменение строя жизни, — вот такие неформализуемые критерии. На счёт же условно-формальной оценки… Ниже вы хорошо заметили про оценивание искусства экспертным сообществом (ранее – какие-нибудь аристократы) и лайки от массы пользователей\потребителей. Думаю, что у первых, всё-таки, должны быть большие веса при подсчёте.
термин «искусство» включает в себя «создано человеком»


Вовсе нет! Я, видимо, как-то невнятно излагаю мысль. Под бэкграундом я понимаю примерно следующее: если машина рандомно накидала цветных пятен на холст — это можно считать искусством только в виде deos ex mashina, т.е. если мы предполагаем, что что-то непознаваемое стоит за собственно рандомом. Если же данные цветовые пятна являются ответом достаточно сложной аналитической машины на задачу визуализации собственной структуры — то это в некотором роде самовыражение и те же самые цветные пятна вдруг обретают некий глубинный смысл.


Есть какие-то аргументы против?


Ну… Наверное да, но тут столько возможностей для широкой трактовки терминов и определений, что… предпочту не углубляться. ;) мой пример относился к тому, что формулы той же теории струн были подобраны почти случайно и внезапно очень здорово подошли. И на этом можно было бы остановиться, однако в попытках обьяснить, почему они подошли — собственно и возникла теория струн: вот все эти 11 измерений, свернутые пространства и иже с ними. Формулы можно использовать на практике, но знание формул не означает понимания сути. Да, я согласен — там такие формулы, что далеко не факт, что мы когда-нибудь придем к пониманию, но я не согласен, что и пытаться не стоит.


Число лайков, например…


А кто сказал, что лайки не означают именно то, что посыл дошел? Я не говорил, что автор что-то такое тайное между строк посылает — ни в коем случае! Я как раз сторонник идеи того, что автор сказал именно то, что хотел сказать. А так как знание в данном случае не формализированно (например автор хотел передать эмоции, красоту, чувства) то ваши лайки и есть самая лучшая оценка. Книжка, которая заставляет улыбнуться, задуматься, увлечься похождениями героев и сделать возможно какие-то выводы: на мой взгляд именно этого автор и хотел, разве нет?


Бывает еще более интересный феномен: когда каждый находит в произведении что-то свое… но это не значит, что автора не поняли! Скорее всего автор смог мастерски передать некий феномен реальности (или своего внутреннего ее понимания), который скорее всего невозможно представить в виде формального описания, но можно — образным языком искусства…

А кто сказал, что лайки не означают именно то, что посыл дошел? Я не говорил, что автор что-то такое тайное между строк посылает — ни в коем случае! Я как раз сторонник идеи того, что автор сказал именно то, что хотел сказать.

Под бэкграундом я понимаю примерно следующее: если машина рандомно накидала цветных пятен на холст — это можно считать искусством только в виде deos ex mashina, т.е. если мы предполагаем, что что-то непознаваемое стоит за собственно рандомом.

— интересное у вас видение) Насчёт посыла я примерно понял, это сложно формализовать, но суть в том, что это что-то, что людей цепляет, интересует, заставляет (повышает вероятность) нажать «лайк» и «репост».
А насчёт бэкграунда… Вы бы засчитали за искусство… Скажем, игру наподобие «Angry Birds», если бы её создал ИИ? Бэкграунд такой: ИИ получил задачу — сделай что-то, что вызовет максимум хайпа и заработает максимум денег. Дальше он построил модель окружающего мира, прогнал в виртуальной реальности множество планов и остановился на том, что лучшая из его идей — это что-то отдалённо похожее на Angry Birds.
То есть… Суть бэкграунда — решение практической задачи. Формат решения выглядит похоже на человеческое искусство.

У вас такие хорошие вопросы, что я невольно задумываюсь — не являются ли они наводящими. ;)
— у меня не очень популярная точка зрения на научное познание. Многие люди пытались сказать мне, что я неправ, но аргументировать не могли. Соответственно, мне интересно, вдруг здесь есть что-то, что я упускаю.

Пример с гравитацией прям в тему! С помощью телескопа и прямого наблюдения выводятся законы Кеплера, но нужен был теоретик Ньютон со своим яблоком что бы обобщить яблоки и планеты и сделать поправку на массу. ;)
— там в итоге вышла формула F=m1*m2*G/r^2. Не формула F=m1*m2*G/r^3. Не формула F=m1^2*m2^2*G/r^2. И коэффициент G имеет вполне конкретное значение.
Как бы вы узнали, что G равно именно тому, чему равно, без измерений? Или что r входит именно во второй степени, а не в любой другой? Или что массы входят в первой степени?
Мне кажется, что если у нас есть таблица, в которой каждая строка — это все доступные переменные в некоторый момент времени, то можно тупо перебором формул вывести кучу зависимостей, в том числе закон гравитации и, например, 2-й и 3-й законы Ньютона. Да, это NP-полная задача, это очень суровый и массивный перебор, и люди явно решают задачу как-то умнее. Они проверяют зависимости в таком порядке, что находят верную раньше, чем если бы проводили полный перебор. То есть этот перебор имеет предрасположенность к более простым формулам и похожим на те, что были раньше. Но… Каким бы алгоритмом перебора мы ни пользовались, если мы не проводим постоянных проверок о данные, как при составлении эмпирических формул, у нас практически нет шансов угадать верную зависимость.
Разве нет? Если мы имеем дело с взаимодействием, которое не сводится к другим известным нам законам природы, разве у нас есть методика исследования лучше, чем «блэкбокс-анализ»?
Вы бы засчитали за искусство… Скажем, игру наподобие «Angry Birds»
Давайте я чуть подробнее опишу, что я считаю за искусство. ;) С моей концепцией разума в первом приближении вы знакомы: каждый из нас, познавая мир вокруг строит его детальную модель, в буквальном смысле: т.е. все, о чем мы можем судить и размышлять имеет свое воплощение в нашем внутреннем мире. Этот мир глобален и всеобъемлющ, он грандиозен и пожалуй прекрасен, но… Вся эта красота доступна только создателю. Когда человек что-то «понял» — это значит, что это самое «что-то» заняло правильное место в его личном мироздании, пазл сошелся. И человек получает от этого удовольствие (подкрепление, т.к. построение этой модели — одна из важнейших задач разумных существ — я бы даже сказал ЕДИНСТВЕННАЯ задача с определенной точки зрения), и спешит этим поделиться. Возможно чисто в утилитарных целях: человек, существо социальное, а взаимодействие не возможно без скоррелированных моделей. Только в этом случае, выстраивая картину совместных действий человек может встраивать действия других в свою модель — потому, что знает как они будут действовать. Потому, что их модели — совместимы.
Поэтому способы как-то отразить свой внутренний мир вовне появились раньше, чем собственно речь — та же наскальная живопись. Мелодии, напевы — они передают эмоции, они тоже еще до слов. Животные не понимают слов (ну по крайне мере всех слов), но улавливают интонации — причем они понимают наши, а мы — их.

Я все это к тому, что искусство — это попытка передать такую часть своей внутренней модели, которую невозможно выразить словами. Даже литература. Ведь буквальное изложение мыслей чаще всего литературой не является, а вот передача настроения, драматизма, или допустим тонкостей взаимоотношений… В скульптуре и живописи тоже ведь ценится не реализм, а что-то такое неуловимое…

Теперь о лайках. Конечно мечта любого контент-мейкера запилить что-то такое, что людям «зайдет», что вызовет хайп и будет хорошо продаваться. Но людям по-настоящему нравится то, что нашло отклик в их душе, что или неожиданно совпало с их внутренним представлением, или настолько мощно перетряхнуло модель и поставило все на свои места, что вызвало то самое подкрепление от системы мотивации к познанию. Ну тут можно пустится в рассуждения, что среднему потребителю контента много не надо и есть проверенные «рецепты», и затеять спор — является ли это искусством… Но нужно ли? ;)

И таки отвечая на вопрос про «Angry Birds»… Когда я говорил о лайках, я все таки предполагал, что мы оцениваем книгу/фильм/музыкальное произведение, т.е. то, что принято относить к искусству. Насколько чисто казуальную телефонную убивалку времени можно отнести к таковым мне сказать сложно, но… Допустим, как иллюстрацию того, что представляет из себя потребность/запрос среднестатистического пользователя (ведь обученная сеть училась, вероятно, на выборке популярных приложений) — может быть. В каком-то смысле… НО видите — очень важен бэкграунд! Что это не просто очередная убивалка времени, а мнение чуждого нам но «сознания», пусть и с натяжкой, о том, что нам нужно… )) Как-то так.
Вы искусство описываете во многом с точки зрения теории связи) Хорошо, в таком случае чтобы ИИ мог создавать то, что мы можем считать искусством, нам нужно… Знать, что ли, что его подтолкнуло к такому решению.
В общем, важен не только результат (само произведение искусства), а ещё и… Факт связи. А для этого нужно знать, что у нас реально связь, а не хитрый алгоритм, который пытается проэксплуатировать связную систему, чтобы сподвигнуть человека на что-то)
Связь, а не «суперстимул»
«что у нас реально связь, а не хитрый алгоритм»

Ну да. Как и в любом другом проявлении «разумности». ;) Я не считаю тест Тьюринга корректным — он лишь от безысходности: когда нет определения разума — нам приходится исходить из его проявления. Дескать ведет себя как разумный — значит разумный. НО в случае с искусственным разумом, мы ведь имеем возможность, если не заглянуть внутрь (что даже с теперешними сетями зачастую проблематично), так хотя бы оценить принцип их построения… Так же и здесь: не столько важно насколько круто произведение искусства чисто внешне, сколько что оно собой представляет. Контекст…
Хотя… тут тонкий момент… Те же фракталы и всевозможные построения на их основе или подобные меня, например, впечатляют… Полагаю, что «хитрый алгоритм» может сформировать (да и формирует! что-то вроде этого) что-то столь впечатляющее, что невозможно не признать это искусством! НО! Это искусство человека, а не ИИ. Что бы ИИ творил, он, пожалуй должен воспроизводить результат своего процесса познания. Например, как-то обсуждали Альфа-го: последнюю его версию никто не обучал стратегии — он учился чисто на игре сам с собой и выработал свои приемы, не всегда понятные человеку, но у многих профессиональных игроков вызывающие восторг. Вот это я считаю искусством.
Я бы ещё добавил кейс, который может быть в какой-то мере похож на искусство ИИ)
Если у нас будет несколько адаптивных агентов (обучение с подкреплением, например, или порождения виртуальной эволюции), и они в какой-то момент изобретут связь — как чисто практическое изобретение… А потом станут через эту связь выдавать друг другу что-то эдакое, что практической ценности вроде бы не несёт, но как-то хакает функцию вознаграждения, вызывая повышенные награды…
Тогда и акт связи вроде бы налицо, и его «непрактичность» заметна. Похоже на искусство.
С другой стороны, это сложно заметить. ИИ-таракан кинул камень на 2 градуса левее цели — это не случайный промах, а способ сообщить другому ИИ-таракану, что через 100 метров оазис. А потом ИИ-тараканы показывают друг другу, что кидают камень с ошибкой в 20 градусов, чтобы показать, что через 1км оазис, до которого слишком далеко, чтобы обман был реально опасен, но эта мысль вызывает положительное подкрепление.
А со стороны выглядит, как тараканы, кидающиеся камнями, не очень точно. И слегка зашумлённый график ожидаемого подкрепления
Тогда и акт связи вроде бы налицо, и его «непрактичность» заметна.
А почему «непрактичность»? Или тут в смысле «не по прямому назначению»? Т.е. использование доступного действия, не для достижения прямой цели, а как возможность коммуникации за неимением лучшего? Ну… возможно.
Тут уже очень тонкие различия между просто коммуникацией и выражением невыразимого. ))
Непрактичность потому, что в прямые награды не конвертируется =)
Связь у нас по условию построена на каких-то штуках, которые для связи не предназначены, но связь практична, она ведёт к победам.
А ещё можно использовать связь, чтобы сообщать что-то… Что порадует других агентов (ожидаемая полезность действий будет выше), и при этом не повлияет на их реальные награды. Практично? Ну вроде не очень. Информация передаётся правдивая? Нет, но это не идёт во вред.
Сойдёт за легенды, похоже =)
Впрочем, здесь очень сложные аналогии, я не вижу чего-то более похожего на человеческие искусство. И даже такая коммуникация и обман-который-радует-и-не-вредит будут очень сложнообнаружимы =)
Как бы вы узнали, что G равно именно тому, чему равно, без измерений?
Почему без измерений? Измерения — наше все и начало начала, вопросов нет. Но не зная «бэкграунда», не зная, что это за коэффициенты и чем они являются в реальной жизни, как связаны различные величины и почему — не только применение формул в нестандартных кейсах затруднено, но и вывод самих физически корректных формул под вопросом. Та же постоянная G сейчас просто константа, но вполне вероятно ее физический смысл глубже и монументальнее, чем мы себе представляем. И когда-нибудь, когда мы наконец-то узнаем, что такое гравитация — все встанет на свои места…
Но не зная «бэкграунда», не зная, что это за коэффициенты и чем они являются в реальной жизни, как связаны различные величины и почему — не только применение формул в нестандартных кейсах затруднено
— чем это принципиально отличается от описанной таблицы? Масса первого тела — это столбец номер 15, например. Физический смысл? Не знаем, но подозреваем, что для её измерения используется каждый раз примерно одна методология.
Кроме того… Я вообще сомневаюсь, что у людей есть какое-то глубокое понимание того, что такое, например, масса. Мера инертности? Так это значит, что столбец 15 связан со столбцами 14 и 31, и ничего более. Искривление пространства? Значит, связь есть ещё и с 12, 18, 51, 63. Связь выражается формулами, можно вообразить её в виде графиков. И подумать, что мы лучше стали понимать, что такое этот столбец 15. Но мы по сути поняли только связи этого столбца с другими, это любой ML умеет, если ему предоставить таблицу. Мы знаем методику измерения массы? Ок, значит, мы знаем (умеем), как столбец 15 вывести из кучи других столбцов, вроде пикселей на сетчатке.
Так и с коэффициентом G. Это такая циферка в формуле. Если мы станем разбираться, мы поймём, что он выводится из какой-то ещё формулы, которая выводится из сырых данных.
Какое ещё у нас может быть понимание? Что мы можем в фундаментальном познании, кроме 2 базовых вещей: провести измерения и вывести формулу, по которой одни измеряемые величины связаны с другими?
Ну или… Допустим, у нас есть познающий агент. Живёт он в игре Counter-Strike (например). Он научился отлично прогнозировать физику игры (и неплохо — поведение других игроков, даже живых). И вот он задаётся вопросом: а что такое ускорение свободного падения? Да, он его измерил, он видит, в каких формулах оно участвует, но какие ещё ответы он может получить? Что он может узнать глубже, чем «ну просто такие правила игры»?
чем это принципиально отличается от описанной таблицы?
Ничем. ;) Если таблица одна. Можно с определенными оговорками транспонировать модель мира в граф, таблицу или что-то еще — формат хранения роли не играет… Важно другое: пока искомая формула сама по себе — связывает пару-тройку величин, это просто формула. Когда же она встроена в общую систему, когда она так или иначе связана со ВСЕМ остальным — это понимание…
То есть «понимание» — это ситуация, когда таблица охватывает весь входящий сенсорный опыт агента? И формулы связывают только столбцы этой таблицы, и любые стронние формулы (вычитанные в учебнике, например) агент пытается перевести на язык своих сенсоров?
Почему «сенсорный»? Сенсорный опыт имеет весьма скромное по объему значение в таблице… Гораздо большее значение имеют сложные взаимосвязи происходящих событий — причины и следствия, вот это вот все… сенсорика нужна для идентификации/локализации не более того… Или я чего-то не понимаю?
Сенсорный опыт имеет весьма скромное по объему значение в таблице… Гораздо большее значение имеют сложные взаимосвязи происходящих событий — причины и следствия, вот это вот все… сенсорика нужна для идентификации/локализации не более того… Или я чего-то не понимаю?
— познающий агент воспринимает реальность через сенсорный опыт. У него куча датчиков, каждый выдаёт свою циферку в цифровом или аналоговом формате. Это относится к живым организмам (имеющим нервную систему, про остальные не уверен) и к системам автоматического управления, включая те, что основаны на ИИ.
Поэтому… Ему вроде как неоткуда узнать о происходящих событиях и причинно-следственных связях, кроме как из сенсорного опыта. Пока предлагаю отбросить тот факт, что можно общаться и таким образом заимствовать чужой опыт/враки/заблуждения.
Я сейчас пока выношу память за скобки, мы как бы помним всё и идеально, потому что всё лежит в таблице, мы ничего не сжимаем. Для простоты)

Так что вопрос, какой ещё может быть опыт, который одновременно доступен и пригоден для построения модели окружающего мира?

Ещё, чтобы исключить двусмысленность) Если мы считаем предобработчики в сетчатке частью мозга — мы считаем, что в мозг прилетают сигналы в виде bmp-файла с сетчатки. Если считаем мозгом то, что находится за черепом, то сенсорными сигналами считаем ту сжатую и обработанную картинку, которая прилетает через зрительный нерв
Давайте подойдем иначе. Я приведу несколько примеров:

  • Альфа Го. можно считать «сенсором» все поле, с показанием белая фишка/черная фишка/нет фишки в каждой из клеток. Однако на вход сети подается вектор, включающий восемь последних состояний доски, т.е. ситуация в развитии. Опыт сенсорный, безусловно, но… Есть нюансы.
  • Робоавтомобиль, или робот-пылесос, например. Сенсорный вход используется для построения карты пространства, локализации в ней себя, важных объектов и тп. на вход принимающей решения системы будет передаваться взаиморасположение объектов (скорее всего тоже не только в пространстве, но и во времени), а их «смысл» (как, например, дорожные знаки/сигналы светофора) может быть «врожденным», т.е. предустановленным, заложенным изначально.
  • Голосовой помощник (желательно более продвинутый, чем современные). На входе звук, который преобразуется в слова, которые через синтаксический комбайн транслируются в семантическую сеть произвольного объема. Тут «сенсоры» не более, чем интерфейс...

Это, на вскидку, три примера по мере убывания значимости сенсорики… Я понимаю, что вы хотите сказать: истинная самообучающаяся система должна сама построить всю модель, и кроме как сенсорикой ей оперировать вроде как нечем (т.е. вся модель по большому счету — «сенсорный опыт»)… И в каком-то смысле я «докопался до терминологии», Но! Важно что бы мы одинаково понимали главное: важен расклад на поле, взаимное расположение объектов во времени и пространстве, семантический смысл в каждом из этих случаев, а не то, что конкретно в эту секунду кажут сенсоры. Данные с них риалтайм обновляют модель — это да, но не они являются входом для собственно «разума». Иначе мы строим что-то очень примитивное вида раздражитель-реакция, пусть и варианты реакции — формируются весами нейронов, а не конструкцией if-then-else.

Возможно это все самоочевидно… но опять же если еще поразвивать эту мысль — даже если вы именно это все и имели ввиду под «сенсорным опытом», все равно, чем более продвинута система в интеллектуальном плане тем больше в ней концепций на пару уровней над сенсорным — абстракций, обобщений… И опять же с развитием системы — таких элементов становится все больше. Не знаю, понятно ли излагаю…
Хорошие примеры.
Альфа Го. Там две подсистемы — условно, нейросеть и её обучалка. Нейросеть получает на вход 8 последних состояний — для неё сенсорный опыт именно такой. И да, она работает по принципу стимул-реакция. Обучалка нейросети хранит все данные за всё время (если нет, то только потому, что их дофига, и на диск не влезает). Для всего Альфа Го как обучающегося агента сенсорный опыт — это вся вот эта таблица, которая еле влезает на диск.
Робоавтомобиль и робот-пылесос — это невероятно узкоспециализированные системы, по крайней мере сейчас. У робота-пылесоса может быть довольно сложная модель (карта комнаты с хорошей детализацией), но у модели мало степеней свободы. Условно, модель — это мегабайт кода, в котором 1000 коэффициентов, каждый из которых можно вычислить независимо от остальных по алгоритму без серьёзного перебора. Там сенсорный опыт и правда играет относительно малую роль, потому что ИИ не пытается сам подобрать этот мегабайт кода.
Голосовой помощник… У нынешних есть очень много предзаданных понятий. У будущих… Вообще, я могу описать, как сделать голосовой помощник, в котором почти не будет предзаданных понятий. Если сделать офигительно крутые алгоритмы обучения нейронок, то Reinforcement Learning позволяет сделать голосовой помощник, имея на входе любые данные — от слов до потока бит. С потоком слов можно сделать что-то вменяемое уже сейчас, и работать оно будет просто на LSTM-нейросети, то есть вся семантическая сеть построится автоматом, даже если разработчик не знал, что это такое. Да, с предзаданными понятиями эта штука будет учиться быстрее. Если мы пойдём через чистый ML, то сенсорным опытом для непосредственно нейронки будут последовательности слов. Текущие LSTM больше 20 обычно понять не могут, но это проблема архитектуры.
При подходе «от опыта» у нас и правда будет система «стимул-реакция», но стимулом может быть что-то такое, что длится уже лет десять, и что никогда раньше не встречалось, а реакцией — план ещё лет на десять, и тоже уникальный. То есть очень нелокальные стимулы и реакции.

Важно что бы мы одинаково понимали главное: важен расклад на поле, взаимное расположение объектов во времени и пространстве, семантический смысл в каждом из этих случаев, а не то, что конкретно в эту секунду кажут сенсоры.
— да, важен. В тру-правильной системе ИИ эти штуки должны образоваться на N-ом слое нейросети (или что у него там). На практике в свёрточных сетях мы примерно это и видим.
В случае человека… У нынешних ИИ, которые Reinforcement learning, нет концепции реальности. Они что-то типа солипсистов, к сожалению. Они не могут прогнозировать, что будет после их гибели, потому что у них прогноз в терминах опыта. А люди могут. Очень похоже, что у человека есть какая-то штука, которая держит в себе модель реальности, но не как «вид из глаз», а как-то иначе. И похоже, что аналитическая часть ума на вход принимает не только картинку с глаз, но и картинку с этого эмулятора реальности. То есть сознание не крутит постоянно эту модель в бесконечном цикле, но имеет к ней интерфейс, и даже может вносить в неё изменения. Иногда.
Например, мы можем задаться вопросом, каково расстояние до Луны, и даже попытаться ответить на него, но расстояние у нас не ассоциировано жёстко с лазерным дальномером. Скорее, с чем-то на чертеже. Может, с Луной не очень удачный пример. Но похоже, мы можем закрывать глаза и видеть то, чего глазами бы не увидели, и при этом оказываться правыми.
Вот эта штука, которая эмулирует реальность, она… Как она работает? Она явно обучаемая. Обучаемая на опыте. Плюс на неё могут влиять идеи, почерпнутые из книжек. Плюс она настроена до рождения, и по умолчанию склонна моделировать трёхмерные миры с гравитацией и временем, а не какие-нибудь другие.
Если взять в сумме этот «эмулятор реальности» и «аналитический модуль», то выйдет, что они вместе обучаются на опыте с глаз, рук и ушей. Плюс у них огромная склонность всё моделировать именно так, как было выгодно с точки зрения эволюции.
Если взять только «аналитический модуль», то окажется, что он воспринимает, например, массы и скорости, а ещё отдельные объекты, энергию, импульс… «Эмулятор реальности» подсовывает эти переменные, либо инструкции, как их измерить. А дальше задача сводится к предыдущей, если мы заменим «сенсорные данные» на «сенсорные плюс те, что от модели».
Видимо, человека (и не только его) имеет смысл рассматривать как многоуровневую систему, у разных уровней разные входные данные. Тогда сенсорными можно назвать лишь данные у первых уровней, а дальше уже такая предобработка идёт, что… Это не совсем сенсорные данные, а сплошной Feature Engeneering.

Ок, тогда переформулирую то, что я говорил про блэкбокс-анализ. Мы очень многие вещи можем вывести аналитически. Хотя бы попытаться. Молекулярно-кинетическую теорию, например. Но чтобы выводить, надо знать о строительных блоках уровнем ниже. Поэтому если копать «вниз», рано или поздно мы дойдём до штук, которые не сводятся ни к чему известному, и их придётся искусственно сводить к математике. Если развернуть процесс в обратную сторону, выйдет, что у нас «внизу» чёрные ящики, обсчитанные через регрессионный анализ или что-то похожее по смыслу. Уровнем выше — вроде бы белые ящики, но они состоят из тех же чёрных ящиков.
Вот теперь я вижу, что вы не только понимаете о чем я, но заметно лучше меня разбираетесь в практической стороне вопроса… Я, к сожалению, теоретик…

А что касается науки и черных ящиков… в пределе конечно наука дойдет до каких-то понятий, которые самодостаточны, являются вещью в себе и не могут быть выражены через что-то еще. На более ранних этапах познания это обычно был опыт, воспринимаемый непосредственно, и не требующий каких-то сложных абстрактных построений (абстракции были над опытом, выводились из него), сейчас ситуация (не в повседневной жизни, а в науке, особенно теоретической) инвертировалась — сенсорный опыт объявляется проявлением более глубоких фундаментальных понятий. Это работа механизмов разума — дедукции и индукции — обобщения и категоризации.

НО важно другое — люди продолжают искать универсальную теорию, объединяющую все. Их не устраивают разные системы для микромира (квантовые законы) и макромира (СТО и Ньютоновская механика). Они хотят найти теорию, объясняющую все четыре вида взаимодействия единым подходом, потому что разные не стыкующиеся теории — это не круто! ;) На лицо глубокая программа интеллекта — получить ОДНУ ТАБЛИЦУ. Пазл должен сложиться. Не разные формулы для разных случаев жизни, а одну на все. Если бы достаточно было практических формул — вполне вероятно, что мы не ушли бы дальше механики.
И причины этого понятны. Вот есть давнишний спор: одни говорят, что люди не умеют придумывать новое — только рекомбинировать опыт. А другие — наоборот: способность нестандартных, новых решений ставят как главный признак разума. Но на самом деле правы и те и другие: человек неспособен придумать ничего совершенно нового, но в силу того что ВЕСЬ его опыт обрабатывается как единое целое (причем с обобщениями самого высокого уровня) — он способен применить опыт из одной области совершенно иных сферах. Возвращаясь к искусству — способен увидеть мелодию в цвете или симметрию в звуке, например. Вот тот ваш познающий агент из contra-strike вполне мог бы, наблюдая за отлетающими от взрыва противниками изобрести roket-jump… Понимаете, о чем я? Если бы он свои действия строил только на сенсорном опыте — вероятнее всего для рокет-джапа ему пришлось бы подорваться на гранате.
А что касается науки и черных ящиков… в пределе конечно наука дойдет до каких-то понятий, которые самодостаточны, являются вещью в себе и не могут быть выражены через что-то еще.
— а почему в пределе? Мне видится, что на каждом этапе наука упирается в такие чёрные ящики снизу. В теормехе такой чёрный ящик — это твёрдое тело. В теории атомов (в той версии, что у Резерфорда) чёрные ящики — это атомные ядра и электроны. В квантмехе — волновые функции. Каждый раз в какой-то момент происходил прорыв, и учёные замечали, что можно разбить этот «ящик» на несколько других. И вроде бы модель начинает больше объяснять, точнее предсказывать и так далее. Теория начинает покрывать факты более полно, mean square error уменьшается =)

Но да, у нас при этом существует несколько теорий, которые явно противоречат друг другу и так же явно верны в своей зоне определения.
Если бы мы выводили теории из одного только сенсорного опыта, собранного одними и теми же инструментами, видимо, такой фигни бы не было — мы бы просто зарядили всё в ML (Bacon, например) и получили готовые уравнения. Но, видимо, это невозможно — расстояния в космосе и расстояния в коллайдере одними и теми же инструментами не измерить, единственная общая «линейка» для этой задачи — это тот самый «эмулятор реальности» в уме.
Если бы достаточно было практических формул — вполне вероятно, что мы не ушли бы дальше механики.
— скорее, у нас была бы куча локальных теорий вроде аэродинамики, гидродинамики, баллистики, небесной механики и они бы не сводились к унифицированному набору базовых элементов. Ну или если бы мы могли каким-то образом заносить явления из нескольких областей в одну таблицу (пусть хотя бы будут таблицы, соединяющие всего 2-3 области), то получилась бы единая теория. Не факт, что она в итоге оперировала бы атомами… Что там за закономерности выведутся — сказать сложно)

Но на самом деле правы и те и другие: человек неспособен придумать ничего совершенно нового, но в силу того что ВЕСЬ его опыт обрабатывается как единое целое (причем с обобщениями самого высокого уровня) — он способен применить опыт из одной области совершенно иных сферах.
— видимо, да… Плюс люди могут создавать всякие комбинаторно сложные штуки вроде текстов. Такие, что другой человек не воспринимает результат как комбинацию частей, а воспринимает как новый объект.
Возвращаясь к искусству — способен увидеть мелодию в цвете или симметрию в звуке, например.
— а это, кстати, похоже на metalearning =) Когда человек нашёл один вид регулярности в некоторых данных (симметрия, например), а затем этот же вид регулярности обнаружил в другом блоке данных, с других сенсоров и предобработчиков. Вообще, очень крутое свойство, оно позволяет… Например, сыграв в Doom, потом намного быстрее обучиться играть в Quake, потому что закономерности похожие. Atary-боту очень этого не хватает =)
«Очень похоже, что у человека есть какая-то штука, которая держит в себе модель реальности, но не как «вид из глаз», а как-то иначе.»

Мир эйдосов, предзаданные идеи? Возможно, и «правильное» искусство (через настройки некоего человека-творца), крайне близко к какому-то трансцендентному кладезю, и передаче информации такими целостными многомерными образами-конструктами, которые, даже, не всегда до конца могут быть исчерпаны истолкованием.
Если вы имели в виду идеализм, то есть и более простые объяснения)
У крылатой ракеты есть точно такая же модель реальности, её вручную пишет разработчик. И она лишь отдалённо похожа на человеческую модель реальности — акценты расставлены по-другому, другие задачи, другие сенсоры.
Наличие такой модели не означает наличия «мира идей» где-то за пределами вычислительного устройства.
Предзаданные идеи… В крылатой ракете точно есть — там, например, физика предзадана. И если взять систему управления «Томагавка» и присобачить к ракете из виртуальной реальности, где физика иная, то «Томагавк» промажет.
У человека и систем машинного обучения есть скорее базис из функций. Все модели реальности можно выразить как, например, определённым образом соединённую сеть из нейронов. Или, в случае решающего дерева как иерархию из конструкций if-else. Этот базис предзадан, и он может ограничивать выразительные возможности, либо делать систему предвзятой к каким-то решениям. Например, решающее дерево склонно везде искать ступенчатые зависимости и плохо подбирает конструкции вида y=x1+x2. А зрительная кора склонна искать 2Д-конструкции и плохо будет работать с… Например, со спектрограммой аудио.
Если вы имели в виду идеализм, то есть и более простые объяснения)
Предзаданные идеи… В крылатой ракете точно есть — там, например, физика предзадана.
У человека и систем машинного обучения есть скорее базис из функций. Все модели реальности можно выразить как, например, определённым образом соединённую сеть из нейронов. Или, в случае решающего дерева как иерархию из конструкций if-else. Этот базис предзадан, и он может ограничивать выразительные возможности, либо делать систему предвзятой к каким-то решениям.
Тоже так думаю… возможности конкретной нейросети определяются ее топологией и свойствами нейронов. Чем топология богаче (число слоев, число нейронов в слоях, связность), а свойства нейронов (ф-ции активации, смещение) разнообразнее, тем более широкий круг задач такая сеть может успешно решить. Еще конечно играют роль соответствие архитектуры сети решаемым задачам, способ обучения, и обучающие выборки. Но можно предположить, что именно архитектура сети определяет ее математические свойства, являясь ее атрибутивными свойствами, кот. можно установить теоретически, хотя-бы отчасти. Например, всевозможные теоремы сходимости или аппроксимирующие возможности. На последнюю тему существует масса работ, особенно в последнее время. Начиная с давно известных, типа теоремы Цибенко для прямых сетей со скрытым слоем, и кончая свежими работами типа этой, о вычислительных преимуществах аппроксимации глубокими сетями в сравнении с неглубокими, или этой об аппроксимирующих возможностях разряженных случайных сетей нейронов, прототип кот. имеется в некоторых мозговых структурах. То есть выразительное богатство и ограничения возможной внутренней модели реальности для заданной сети определяется свойствами самой сети. Обучение только раскрывает в той, или иной степени эти возможности. Можно попробовать это обобщить не только на ИНС, но и биологические сети, как на источник идеи искусственных. Действительно, возможности нейросетей мозга человека богаче возможностей приматов, а их, в свою очередь, богаче в сравнении с более более простыми существами типа земноводных, и тд. Точно также, как для ИНС способ и объем обучения будут влиять на конечный результат по эффективности решаемых задач.

Попробовал эту идею аргументированно развить в коментах к одной из тем, см., если интересно, начиная с этого. Естественно это неизбежно привело к обсуждению оснований математики, и ее происхождения. Встретил организованный отпор со стороны оппонентов по этому вопросу)) Сложилось впечатление, что это люди с математическим образованием, возможно даже чистые математики, а не прикладники. Потому как не прозвучал ожидаемый вопрос, если модель реальности определяется свойствами нейросетей мозга, то что тогда из себя представляет сама реальность? Насколько она соответствует ощущениям, восприятию, и теоретическим представлениям? В их ответах математике однозначно приписывается самостоятельная онтология, и точка) Интересно узнать ваше мнение по этому предположению.

Не ответил пока на ваш комент в этой теме. Не хотелось заниматься отпиской, а аргументированно ответить не было возможности. Постараюсь ответить.
Мир эйдосов, предзаданные идеи?
Каково их происхождение? Это как-то описывается кантианским априоризмом, например, в случае с математикой? Или источник иной?
Чем топология богаче (число слоев, число нейронов в слоях, связность), а свойства нейронов (ф-ции активации, смещение) разнообразнее, тем более широкий круг задач такая сеть может успешно решить. Еще конечно играют роль соответствие архитектуры сети решаемым задачам, способ обучения, и обучающие выборки. Но можно предположить, что именно архитектура сети определяет ее математические свойства, являясь ее атрибутивными свойствами, кот. можно установить теоретически, хотя-бы отчасти.
— да, я согласен. Есть более строгие формулировки, вот примерно как в этом цикле статей: aideus.ru/?p=543
Суть примерно в том, что когда некто/нечто решает задачу построения модели (то есть задачу обучения с учителем, задачу регрессии), он ставит некую функцию в соответствие неким данным. Функция берётся из некоторого семейства — например, если мы решаем задачу линейной регрессии, то мы ищем линейную функцию, которая лучше всего натягивается на эти данные. Множество функций, в котором мы ищем модель, детерминирует четыре практически важные вещи:
1) Сможем ли мы вообще подобрать заданную зависимость, хотя бы на train-выборке? Простая несвёрточная нейросеть, градиентный бустинг и KNN могут это гарантировать, если в зависимости нет рандома и настройки модели выкручены в абсурдно высокие значения. Линейка — нет. Кроме того, если зависимость — это не функция в смысле математики, а конечный автомат (то есть у него есть память), то вышеописанные модели уже не могут гарантировать нулевую ошибку даже на train выборке.
2) Если подберём, то есть ли шансы, что на out of bag test-выборке у нас будет приемлемая точность? Например, если мы нейросетью подбираем экспоненту, тренируемся на X от 1 до 2, а тестируемся на X=3, то… С мейнстримными нейронками нам ничего не светит, мы очень сильно промажем мимо факта.
3) Насколько долго мы будем искать ответ? Чем шире множество моделей, тем потенциально дольше мы будет искать именно нужную нам
4) Если у нескольких моделей одинаковая погрешность на train, то какую с большей вероятностью покажет наш метод машинного обучения? Это вопрос inductive bias, и у разных моделей этот bias очень разный. И от этого inductive bias сильно зависит качество на test.

Если мы сделаем нейронку сложной архитектуры, то мы получим отличную выразительную силу — может, она даже экстраполировать будет хорошо (обычно нейронки хорошо только интерполируют). Но чем сложнее архитектура, тем дольше мы будет искать нужные нам веса и тем больше шансов переобучиться, то есть нужен или очень грамотный bias, или крупная выборка.
Соответствие архитектуры задаче — это в чистом виде правильный подбор индуктивного смещения.
Вообще, «идеальный» метод машинного обучения выглядел бы как-то так: мы много раз решаем этим методом какие-то схожие задачи (много раз делаем fit), и в какой-то момент он начинает делать fit всё быстрее и быстрее, требует меньше данных и меньше переобучается. Типа такого: мы 100 раз заряжаем в него разные размеченные датасеты с картинками, а на 101-ый он изобретает свёрточную нейросеть (потому что она представима в терминах обычных нейросетей), и ко всем новым задачам пробует применить вначале её.
Такого ML пока нет, но… Есть примерная теория, есть наработки.

Потом. Есть множество функций, которое является максимально широким. Ну, в смысле, не замечено случаев, когда человек бы успешно записывал закономерность, которая не попадала бы в это множество. Это множество всех алгоритмов, всех машин Тьюринга. Есть методы машинного обучения, которые ищут модель в полном алгоритмическом пространстве — и там все эти проблемы с индуктивным смещением и огромным пространством поиска встают в полный рост.
Допустим, хотим мы, чтобы наш ИИ выучил алгоритм сортировки массива по нескольким примерам. А в качестве базового набора функций у него ассемблер.
Он будет оооочень долго искать, и с высокой вероятностью на отложенной выборке будет неточен.
А вот если в этом ассемблере есть базовая функция «если ячейка A больше ячейки B, то поменять их местами», то он обучится намного быстрее и точнее.
Так что у нас есть модель, умеющая выучить любую закономерность (достать из виртуальной реальности алгоритм с любыми заданными свойствами). Но мы её обучать пока не умеем. Вернее, у нас есть куча эвристик, но их всё равно не хватает, чтобы за разумное время найти «тот самый» алгоритм, если он хоть немного сложный. Ну и постоянный риск переобучения, потому что индуктивное смещение у нас какое попало, как не какое нужно по задаче.

Априоризм полагаю весьма разумной идеей — в машинном обучении он точно верен =) Насчёт онтологии математики… Я почитал вашу позицию из той дискуссии, я с ней довольно-таки согласен. Полагаю, что идеалисты тут могли бы развести очень серьёзный спор, но не вижу практической ценности в их подходе. ИИ пока что эффективнее получается, когда мы представляем себе, что математику можно сделать любую, но практическая польза будет лишь от некоторых её вариантов, и именно эти варианты преподают в школах/вузах. Ну и до некоторых математик вроде геометрии и арифметики проще догадаться, потому что они ближе к тому, что мы видим в практической жизни. А до некоторых сложнее, типа теории кватернионов.

Каково их происхождение? Это как-то описывается кантианским априоризмом, например, в случае с математикой? Или источник иной?
— самый простой вариант ответа — «предзаданные идеи» задаются конфигурацией вычислительного устройства. А конфигурация устройства — результат оптимизационного процесса. Условно, есть некая сила, которая выдёргивает из всего пространства потенциально возможных информационных машин именно те, которые позволяют достигать каких-то определённых целей. В случае природного интеллекта таким оптимизатором выступает эволюция, в случае компьютеров, программ и роботов оптимизаторами являются человеческий разум и рыночный «естественный отбор».
То есть может, иные подходы и верны чисто логически, но я не вижу в них особой продуктивности.

Попробовал эту идею аргументированно развить в коментах к одной из тем, см., если интересно, начиная с этого. Естественно это неизбежно привело к обсуждению оснований математики, и ее происхождения. Встретил организованный отпор со стороны оппонентов по этому вопросу)) Сложилось впечатление, что это люди с математическим образованием, возможно даже чистые математики, а не прикладники.
— вообще, я подобные споры наблюдал, когда общался с людьми с философским или теологическим бэкграундом на тему ИИ. В логику могут, наверное, лучше меня. Но… Подход «математика лишь инструмент» практичен (хоть и нефальсифицируем), а их подход видится мне и нефальсифициуемым, и непрактичным. Ну или практичным, но в каких-то задачах, которые я обычно не решаю.

Не ответил пока на ваш комент в этой теме. Не хотелось заниматься отпиской, а аргументированно ответить не было возможности. Постараюсь ответить.
— спасибо, что вообще поддерживаете интересную дискуссию =)
Вероятно, теория «мира идей», изначальных категорий каждой сущности, была одной из первых попыток разобраться с природой абстрактного мышления, без какой-то — опять-таки — идеи высшего начала тут вряд ли обходится, может быть и в роли переноса свойств рассудка вовне. Если правильно понимаю, у Канта речь идёт не столько даже о врождённых идеях, сколько о онтологически предзаданных в структуре мозга особых определённых способах обработки информации образованных эволюционно, при постоянном столкновении с явлениями, посредством которых только и способны частично проявлять себя, трансцендентные, в своей целостности, ноумены при взаимодействии с агентом\наблюдателем, видом с данным, конкретным набором свойств. Т.е. сама структура обработки данных, якобы, не способна преодолеть этот заданный способ взаимодействия, как бы мы не расширяли количество и даже качество этих взаимодействий, включая опыты и новейшие измерения. Ведь и интерпретация показаний, и принцип действия измерительных приборов основаны на сравнительно ограниченном понимании общей «ситуации». Можно понять, почему, где-то в конце двадцатого века в среде эпистемологов была затронута проблема, вообще, переосмысления возможностей науки как таковой, о критериях истинности, проблемах верификации\фальсификации, чёрных лебедей и т.п.

Можно поразмышлять и про «припоминание идей», а можно — и про озарение, видение художника (в общем смысле), как о прорыве в новое качество — позволяющее быстрее и полнее ухватывать суть (усматривать истину) конечно, не с позиций конкретной пользы и точного знания, и без выстраивания традиционных логических связей и, возможно, вне условных субъект-объектных отношений, что может быть актуализировано в особых новаторских формах, содержащих в себе условную полноту идеи.
Вероятно, теория «мира идей», изначальных категорий каждой сущности, была одной из первых попыток разобраться с природой абстрактного мышления, без какой-то — опять-таки — идеи высшего начала тут вряд ли обходится, может быть и в роли переноса свойств рассудка вовне.
— да, похоже. Опять же, она хорошо ложится на метафору поиска — когда мы решаем, скажем, уравнение, мы ищем корни в некотором воображаемом пространстве решений. Такая отправная точка.

Если правильно понимаю, у Канта речь идёт не столько даже о врождённых идеях, сколько о онтологически предзаданных в структуре мозга особых определённых способах обработки информации образованных эволюционно, при постоянном столкновении с явлениями, посредством которых только и способны частично проявлять себя, трансцендентные, в своей целостности, ноумены при взаимодействии с агентом\наблюдателем, видом с данным, конкретным набором свойств.
— полагаю, «врождённые идеи» — это сокращённое и неполное описание того, что вы раскрыли =) Другое описание — набор базисных функций, из которых исследователь пытается собрать модель чувственного опыта. Функции — не в смысле, что они ощущаются как математика, а в смысле, что они шаблоны закономерностей, которые мы вообще способны различить.

Т.е. сама структура обработки данных, якобы, не способна преодолеть этот заданный способ взаимодействия, как бы мы не расширяли количество и даже качество этих взаимодействий, включая опыты и новейшие измерения. Ведь и интерпретация показаний, и принцип действия измерительных приборов основаны на сравнительно ограниченном понимании общей «ситуации».
— ну тут двойственно. С одной стороны, чтобы… Например, решить в реальном мире задачку по теормеху, нам надо выкинуть бОльшую часть этого мира за скобки. Так что вроде бы да, мы действуем в рамках парадигмы, и не способны вылезти за её пределы. С другой стороны, мы явно заметим, если результат расчёта станет расходиться с опытом, потому что у нас начнут ломаться механизмы. Тогда станет понятно, что у нас каким-то проблемы на уровне модели (теормеха). Например, надо учитывать ещё термодинамику (которую возможно, надо ещё открыть).
Насколько я понимаю, плохая модель реальности будет систематически приводить к ситуациям с отрицательной полезностью. Неважно, какая система ценностей у агента — если он ошибается в своих моделях реальности, то он он хуже (чем мог бы, чем раньше, чем конкуренты) достигает целей, и это хороший сигнал обратной связи.
А схема познания, не завязанная на уже существующие модели мира, у нас есть — это раздел «обучение с подкреплением» в машинном обучении. При всей проблемности этой сферы именно она даёт теоретическую базу того, как по максимуму отбросить свои знания о реальности и выстроить их заново, с учётом того, что ситуация изменилась. Так что выход из парадигмы есть, он довольно трудоёмкий и опасный, но он есть и неплохо изучен)

Можно поразмышлять и про «припоминание идей», а можно — и про озарение, видение художника (в общем смысле), как о прорыве в новое качество — позволяющее быстрее и полнее ухватывать суть (усматривать истину) конечно, не с позиций конкретной пользы и точного знания, и без выстраивания традиционных логических связей и, возможно, вне условных субъект-объектных отношений, что может быть актуализировано в особых новаторских формах, содержащих в себе условную полноту идеи.
— я бы не стал упоминать истинность без уточнения, какими тестами её потенциально можно проверить)
Но что художник/писатель точно может, так это проводить «смену парадигмы», переразбить реальность иным способом, либо указать на какие-то её свойства, достойные особого внимания. Ну или научить людей не до конца доверять своим моделям реальности.
Ну и писатель/режиссёр может дать что-то близкое к жизненному опыту, что воспринимается лучше, чем лекции философов и учёных)
Я могу предположить пока так: что мы способны взаимодействовать, и даже качественно расширять взаимодействие и постигать условную истину — в общем, сравнительно неплохо ориентироваться в каком-то секторе знаний об универсуме, уже не завязанных только лишь на мир данный нам в ощущениях, через весь доступный нам арсенал, будь то: экспериментные обратные связи, логики, мат-аппарат. Однако, если предположить, что это всё происходит с ограниченной, в части познающего субъекта, частью «реальности», то сама ноуменальная реальность (что бы это ни значило) бесконечно непознаваема. Вероятно, можно представить, что в этой области (бесконечной) абсолютно непознаваемого вечно «находится» то на часть чего ещё даже нет — а может и не будет — и самих вопросов.
мы способны взаимодействовать, и даже качественно расширять взаимодействие и постигать условную истину… экспериментные обратные связи, логики, мат-аппарат
— да, истину в этом смысле мы постигать можем. Научным методом или иными похожими способами, сильно завязанными на взаимодействие с реальностью. Но… Скажем так, я неоднократно видел, как люди говорят, что художники могут увидеть какую-то «истину», которую не могут увидеть учёные/инженеры/достигатели целей. Мне показалось, что вы тоже говорили об этом, поэтому я и придрался — насколько я понимаю, эмпирическую «истину» художники познают примерно теми же методами, что и учёные, и с искусством это не связано. Либо здесь мы имеем в виду какую-то иную «истину», не в эмпирическом смысле.

если предположить, что это всё происходит с ограниченной, в части познающего субъекта, частью «реальности», то сама ноуменальная реальность (что бы это ни значило) бесконечно непознаваема. Вероятно, можно представить, что в этой области (бесконечной) абсолютно непознаваемого вечно «находится» то на часть чего ещё даже нет — а может и не будет — и самих вопросов.
— ну… Можно предположить, что у реальности очень много скрытых переменных, которые никак на нас не влияют, и потому их нельзя заметить. С точки зрения машинного обучения вполне себе гипотеза =) Но только зачем? У такого подхода есть какие-то практически ценные следствия? Может, он удобно позволяет решать какие-то задачи?
У такого подхода есть какие-то практически ценные следствия? Может, он удобно позволяет решать какие-то задачи?

Возможно, лишь для поиска предельного основания бытия, — хотя бы примерно сориентироваться насчёт своего места в координатах этой реальности. Попытаться чисто гипотетически, в общих чертах, набросать контуры и границы. Не то, чтобы это всё уходило только в сферу мыслительных спекуляций. Касаемо предельных оснований, думаю, можно применять даже и апофатический богословский метод, в принципе, на таком уровне абстракции, какая уже разница, особенно на первых порах, как делать попытки обозначить границы познания.
Возможно, лишь для поиска предельного основания бытия, — хотя бы примерно сориентироваться насчёт своего места в координатах этой реальности.
— я немного вникал в философию, по крайней мере античную и средневековую. Вникал в то, какие могут быть основания считать, что какой-либо объект существует. Вникал в споры идеалистов и материалистов.
А потом я столкнулся с машинным обучением и в частности с обучением с подкреплением, и вдруг оказалась такая странная штука.
Ни для какой мыслимой цели, которую можно измеримо достичь, не требуется домысливать никаких принципиально ненаблюдаемых сущностей.
Допустим, я живу в 2-мерном мире, а рядом есть параллельный 2-мерный, и взаимодействия никакого нет и невозможно. Если бы у меня появилась подробная карта того параллельного мира, я бы не смог решить с её помощью какие-либо задачи в своём мире. Если бы у меня возникло подозрение, что параллельный мир есть, то я не мог бы проверить его наличие, ведь это означало бы взаимодействие. Так что даже если моя цель — познание ради познания, то идея параллельного мира, с которым нельзя взаимодействовать… Она мне ничего не даст.
В общем, я заметил очень сильную взаимосвязь между «можно узнать», «влияет на мою жизнь» и «можно использовать в своих личных целях». Если бы я был неограниченно умным, то эти три множества вообще бы слились для меня. Для меня «узнать» было бы равно «провести эксперимент» равно «попытаться использовать». У меня сложилось вот такое мнение, и я неоднократно «нарывался» на опровержение, но никто не опроверг. Так вот.

Очень похоже, что те части реальности, которые с нами не взаимодействуют… Их можно с тем же успехом считать несуществующими. Узнать о них всё равно нельзя — наблюдения предполагают взаимодействие. Так что даже наши домыслы не имеют особых шансов совпасть с действительностью.
Only those users with full accounts are able to leave comments. Log in, please.