Философия программирования 10 — ИИ

Непонятно что в статье подразумевается под словом «интеллект».
И да, я не боюсь что моя стиральная машина или холодильник взбесятся — у них нет рук и ног.

Желания/потребности/инстинкты не появляются сами по себе.
Это эволюционные императивы.

Даже у идеального ИИ не будет причин делать что-либо сверх поставленных задач.

Какой-то набор странных выводов и непонятных аналогий. Извиняюсь за кучу текста.

Кто сказал, что искусственный интеллект должен быть таким, как его проектировали?

Законы информации и вообще физики. Если мы сделаем программу, которая меняет свое поведение с течением времени, со временем она будет работать по-другому, но изменения будут по тем законам, которые в нее заложены.

А они — НЕ В КУРСЕ. Они уже сами ей подчиняются. Встраиваются в её логику.

Угу. А плотник встраивается в логику молотка. Молотки захватят мир.

Как она ведёт себя с реальными данными? Как управляет стрелками настоящих трамваев, а не тех, виртуальных, на которых тестировалась?

Программа, не меняющая логику работы в процессе выполнения, ведет себя с реальными данными так же, как с тестовыми. То, что тестирование может не проверить все возможные ситуации, это вопрос качества тестирования и качества разработки. С развитием искусственного интеллекта это никак не связано.

Как программа, которая анализирует все новостные статьи на планете, поговорит с программой анализирующей фотографии с вебкамер дорожной полиции, и как они потом поговорят с программой управляющей строительством небоскрёба? НЕТ ДАННЫХ.

Почему это нет? Никак они не поговорят. Потому что API у них разные. Если они вообще есть.

Просто из-за того, что программы мыслят иначе, совсем иначе

Программы пока не умеют мыслить. А вы почему-то приводите это как данность и делаете из этого какие-то выводы.

Вот браузер падает, и никто не может сказать, если ли какой-то смысл и порядок в этом действии. Программисты не вносили, вообще-то, такой способности в него — падать. Они даже с ней боролись. Но он же падает!

Потому что падать — это не отдельная способность, а нарушение условий работоспособности. Программа, которая не работает, падать не будет.

Но она оставляет после себя данные, которые потом куда-то попадут. И как они сработают дальше, как эта культура незримого, таинственного мира живёт, мы смутно представляем.

Они повлияют на программу которая их будет потом обрабатывать, так, как это будет в нее заложено. Здесь нет никакого таинственного волшебства.

Например, двадцать лет пытались переводить тексты анализируя структуру языка, а тут люди просто начали эмпирически прикладывать гигантские массивы сохранённых чатов и комментариев к разным экспериментальным, чуть ли не случайным алгоритмам.

Потому что 20 лет назад технические возможности по обработке огромных массивов данных были очень ограничены.

Часто, алгоритм был создан давным давно, для чего-то совсем другого, и человек думает, а попробую-ка я его к нашему огромному массиву данных, и вдруг получает что-то интересное. Что именно — понять невозможно, оценивается только решение какой-то конкретной задачи, но выходные данные могут содержать что-то невообразимое, вменённое и неявное.

Алгоритм выдаст те результаты, для которых он был создан. Если он должен классифицировать данные — он будет их классифицировать. Если в результатах будут искать решение конкретной задачи, неявные свойства никто не заметит. Если заметят — будут использовать алгоритм для решения еще и этой задачи. С развитием искуственного интеллекта это никак не связано. Простое преобразование данных не сможет научить машину правильно на них реагировать.

Алгоритмическая мутация. Алгоритмы оплодотворяют данные. Так копируется ДНК.

ДНК копируется так, но это не делает верным все высказывание. Так можно и SQL запрос, вычисляющий сумму двух столбцов, признать искусственным интеллектом. Не говоря уже о том, что ДНК есть у всех живых существ, а развитый интеллект только у определенного подмножества.

И то, что люди сами не могут нарочно создать сильный ИИ, не значит, что он не возникнет сам по себе

Не возникнет он сам по себе. Потому что для его существования и функционирования нужны определенные внешние условия и определенное внутреннее устройство. Например, почему у камней нет интеллекта?

И люди, невыспанные, понукающие друг друга, побегут её собирать, думая, что это они себе лучше делают и свои задачи решают, так же как трепетная лань кушая травку не понимает, что она кормит не только себя но и его — тигра.

Еще одна странная аналогия. Может никакого тигра и нет вовсе? Ну вот не водятся они в этой местности. Почему вы вообще сравниваете людей с ланью, а не тигром? Они оба заботятся о своем пропитании. А люди решают свои задачи для своих целей с помощью информации и устройств для ее обработки. Нет здесь никакого заговора, тайны или волшебства.

По теме статьи у меня такое мнение. ИИ не будет захватывать мир, если в него это стремление специально не заложить. Можно сделать терминаторов, дать им в руки автомат, но если не сказать «иди и стреляй», он никуда не пойдет. Обезьяна с гранатой с пистолетом может нажать на курок из любопытства, но в ИИ это любопытство надо специально заложить. И даже если в процессе функционирования поведение робота с ИИ будет менятся в опасную для общества сторону, можно всегда взять отладчик, найти причину, и сделать исправленную копию его интеллекта. Что в случае с обезьяной или человеком-диктатором, который захватил мир, довольно проблематично.

Статья — бред (извините), но если уж говорить серьезно, то определенные ограничения в работе с полноценным ИИ существуют.

Людям, разумеется, будет удобнее, если ИИ сам будет решать некоторые задачи, не спрашивая разрешения у специально-обученного человека, типа «а можно мне поменять вот это значение в этой бд? а в этой? а вот этой лампочкой мигнуть?»
Но решения ИИ могут сильно отличатся от того, что человек, ставящий задачи, по этому поводу себе представляет.
А любые ограничения, даже вмонтированные в логику ИИ, все равно строятся на объектах внутри ИИ.
Например, Первый закон робототехники из Азимова строится на понятиях «вред» и «человек», которые не имеют четких границ. И хотя ИИ не сможет сам повлиять на эти понятия внутри своего «сознания» ради достижения результата, области на границы этих понятий остаются сложными для задач.
Например, для решения условной задачи «сделать всех людей счастливыми» может потребоватся посадить всех людей в отдельные капсулы и подключить им всем капельницы с героином.

Наверное, то, что вы описываете не столько ИИ, сколько коллективный интелект

А где пункт в голосовании: «я не боюсь ИИ»? Все ответы как-то подразумевают, что мы боимся ИИ, но пока что имеем возможность его уничтожить («вырубить электричество», «ИИ без роботов») и т.д.

Вот лично я понимаю, что сильный ИИ обязательно захочет получить власть на планете, а значит — потеснить людей с этой роли, а следовательно — вступить с ними в конфликт. Поэтому конфликт неизбежен. Но боюсь ли я этого? Нет. Более того, жду с нетерпением этой минуты. Миссия людей — создать сильный ИИ, превосходящий их, и уступить ему дорогу, как мы уступаем нашу власть и имущество нашим детям. И чем дольше мы не создаем сильного ИИ — тем дольше подвергаемся опасности уничтожить нашу цивилизацию вследствие ограничений собственного интеллекта, нашей близорукости.

На сегодняшний момент в современных ИИ отсутствует очень важная деталь, без которой любой, даже самый мощный ИИ не сможет сделать того, что мы называем мышлением.
Не существует универсального ИИ. Любой ИИ проектируется и создается для какой-либо цели. И если посмотреть на окружение этого ИИ, то можно увидеть, что ИИ может управлять очень ограниченным числом рычагов. С точки зрения мышления, ясно-понятно, т.к. в каждой конкретной области могут быть тысячи датчиков и регуляторов — но все на одну тему.
Чтобы создать мышление нужно сначала понять, как оно устроено. Но лично мне кажется, что сложность данной задачи превышает наши возможности. Да, у нас очень большая научная база. В университетах мы изучаем только ядро, и тех, кто понимает это ядро, уже очень маленький процент. А если теперь смотреть переферию, то на конце каждого луча работает всего несколько светил науки, которые могут сделать что-то качественно новое. А ведь нужно еще проложить связи между этими лучами. ИМХО, время, требуемое для освоенния информации, необходимой для создания мышления, превысит время жизни человека. Упремся в физическое ограничение. :-)
А что может сделать ИИ без мышления и без рычагов воздействия на окружающий мир? Выдать неверные данные, принять неверное решение, верно? Стало быть, не нужно использовать то, что не умеешь использовать.
Можно возразить, что мы часто используем то, что мы не понимаем, так? Но не забывайте, что при этом есть те люди, кто это хорошо понимает, и если что — сможет помочь. А вот такие штуки, которые никто не понимает, как они работают — вот это уже опасно. Только вовсе не тем, что это мысляший разум, желающий тебе смерти. :-) Так же, как детям опасно играть с ножом — не больше и не меньше.

на geektimes был такой рассказ,
жаль продолжения после второй части пока нет

Если раньше я однозначно утверждал, что искусственный интеллект не возможен, во всяком случае в ближайшие лет десять, на известных нам архитектурах. То вот бегло ознакомившись даже не с книгами А.А. Жданова «автономный искусственный интеллект», а даже вот с записями интервью с ним на телепередачах. Я понял, что вопрос интеллекта — это больше вопрос философский. Что есть интеллект? Кто определяет, что вот эта деятельность — интеллект, а эта — не интеллект? По каким критериям определить, что действия, допустим, машины на дороге, продиктованы именно интеллектом.