13 August 2012

ИИ — Гедель против Тьюринга или критика искусственного разума. Точка зрения технаря

Artificial Intelligence
Sandbox
Десять лет назад я считал изложенные в данной публикации мысли достаточно банальными. Прочитав последние публикации на Хабре [1] я понял что это не так.

Термин “Искусственный интеллект” может быть великолепной иллюстрацией понятия прецессии симулякров. Его значение меняется каждый год, в зависимости от настроений рынка или моды философов-гуманитариев. Десятилетия назад шахматная программа считалась ИИ. Сегодня это банальный инжиниринг. Через десятилетия Ватсон и Сири будут стандартной компонентой в очередном фреймворке. ИИ — символ непознанного, как только мы отщипываем кусочек неизвестного — оно сразу теряет свою привлекательность.
Однако если забыть гуманитарные установки и подойти к делу с точки зрения технаря можно понять следующие вещи.

В самом определении лежит ссылка на естественный интеллект. Т.е. мы определяем термин через другой, еще менее определенный, и являющийся частью того кто дает определения. Более того, существующий в единственном экземпляре, нам неизвестен интеллект отличный от человеческого. А если учесть модные тренды в области бихевиористской экономики [2] — возможно несуществующий. Как ни странно, в нашем несовершенном мире, где люди большую часть жизни проводят в зарабатывании денег, они не пользуются при этом рациональным мышлением, применяя лишь наборы стандартных шаблонов.

В результате термин ИИ часто применяется как buzzword.

Однако мы все привыкли работать с нечеткими постановками задач, ведь программист — это профессиональный конвертор галлюцинаций заказчика в жесткую формальную систему. И потому указанные выше соображения нас не смогут остановить.

Разными людьми и разными школами термин ИИ понимается по разному, однако в семантическом спектре я бы выделил две основные технические тенденции. Я буду называть их Тьюринговским подходом (от теста Тьюринга) и Геделевским подходом (от машины Геделя [3]).

Геделевский подход — это ИИ как универсальный решатель задач. В конструкции такого объекта ничего особо сложного нет, первый General Problem Solver [4] был создан в конце 50-х. Модная сегодня машина Геделя — это современное состояние наших представлений.
Представим себе что у нас есть волшебная палочка, которая выполняет наши желания. Но палочка к сожалению китайского производства, б/у и часто глючит. Выполняет не все желания, некоторые выполняет совсем не так как нам хотелось бы, хотя бывает что работает как надо. Самый разумный шаг в такой ситуации — заказать у волшебной палочки простое желание — сделать себя лучше и стабильней за период времени не больше заданного. Возможно она это сделает не так хорошо как бы нам хотелось — но ведь мы не ограничены в количестве итераций. Рано или поздно процесс сойдется и мы получим то что нам нужно.

Это краткое и очень упрощенное описание машины Геделя — объекта перестраивающего и оптимизирующего себя под задачу и делающего это оптимально.

Строго говоря универсальный решатель задач — штука достаточно простая, все что требуется, это перебирать пространство поиска, оптимизируя этот перебор на лету, генерируя и опровергая эвристики поиска и эвристики поиска эвристик. Тривиальный движок генетического программирования делает почти то же самое и также может быть с полным правом назван Геделевским ИИ (но не Геделевской машиной).
Если к нам завтра прилетят марсиане, разумные вирусы или еще более экзотическая форма разума и предъявит свою реализацию Геделевского ИИ — она будет идентична нашей, поскольку требования к реализации на 100% объективны и не зависят от наших представлений.

И это главное отличие данного направления от Тьюринговского ИИ.

Тьюринговский ИИ — это что-то, проходящее тест Тьюринга, машина неотличимая от человека по социальным параметрам. И вот здесь начинается ад в реализации. Ибо просто определить что такое человек достаточно сложно. Личность из 19-го века тест Тьюринга в нашем времени не пройдет. Так же как и китаец при индийских оценщиках. Вообще для наперед заданного состава судейской коллегии тест Тьюринга не пройдет большинство населения нашей планеты.
Любой программист, хоть раз анализировавший выход алгоритма генетического программирования поймет, что человеческая личность — это мешанина интронов, junk code, унаследованных фрагментов и некоторого количества работающей логики размазанной по общему бардаку.
Воспроизводить это в коде тяжело и бессмысленно, годы работы научных коллективов на моделирование того, что любая женщина сделает за 9 месяцев — не высока ли цена?
И код этот будет сложно повторить, в каждой личности имплементация будет разной.
Однако и приз хорош, рыночная ценность Тьюринговского ИИ неизмеримо выше чем Геделевского. В нашем замкнутом мире мы контактируем с огромным количеством объектов, но самый часто встречающийся — это другой человек. И его имитация, более дружелюбная, подстраивающаяся под наше настроение, говорящая нам приятные вещи (пополам с рекламой) будет стоить дорого и продаваться быстро. Любому инвестору ясно, что Сири популярней Ватсона.

Важно понимать, что эти две парадигмы приводят к двум принципиально разным продуктам и обозначают разные объекты, несмотря на то, что обе называются одним термином — ИИ. Продукты, ориентированные на человека, и продукты, построенные по объективным, человеко-независимым требованиям, очень разные не только снаружи. Разделение подходов встречается в различных областях, не связанных с ИИ. Веб-дизайнер, нарисовавший сайт на флеш-анимации будет очень гордиться тем, что сайт красив (для человека), привлекателен (для человека), но что сайт не индексируется роботом, дизайнер просто не заметит. И наоборот, некрасивый HTML-сайт из Web 1.0 будет прекрасно понят любым парсером без особого напряга, и даже если прилетят марсиане со зрением в области рентгеновского излучения — есть возможность передать им html-файл с сохранением смысла. В отличие от визуальных эффектов флеш-анимации. Субъективный подход — это слова Стива Джобса о “продукте имеющем сердце”. Это когда мы выбираем язык программирования исходя из личного комфорта, а не из простоты майнинга кода или кодогенерации. Это общая дилемма.

В каждом подходе есть свои плюсы и свои минусы. Надо просто не забывать, что мы тоже можем работать как машины Геделя. И что объективный подход рано или поздно сходится к оптимальному решению. А субъективный не сойдется никогда, т.к. оптимального решения субъективной проблемы просто не существует.
Нельзя создать объективную метрику — лучше или хуже две программы, проходящие тест Тьюринга. В каждом поколении людей, в каждой культуре Тьюринговский ИИ будет другой. Ну как телевизоры с диагональю на один дюйм больше прошлогодней модели и с поддержкой нового стандарта super-hyper-ultra-HDTV v.314. Это продукт моментального старения — аккурат на момент продажи.
Мечта производителя.
Пример вечной прецессии симулякров.

Ссылки:
1. здесь

2. Бихевиористская экономика
От Нобелевской премии по экономике за 2002 до
вот такой книжки
Или всем известной “Фрикономики”

3. Машины Геделя
точка входа

4. General problem solver — первый исторический документ.
очень старый скан
Tags:искусственный интеллектинфосфера
Hubs: Artificial Intelligence
+56
10.6k 137
Comments 97
SEO-специалист
December 7, 202064,900 ₽Нетология
Python для работы с данными
December 7, 202031,500 ₽Нетология
UX-дизайнер
December 7, 202047,940 ₽Нетология
iOS-разработчик с нуля
December 7, 202070,740 ₽Нетология
Top of the last 24 hours