Комментарии 12
При подборе материала рекомендую использовать кастомный поиск по двум сайтам, который я создал. Это значительно проще, чем забивать в поиск сначала «site:habrahabr.ru», а потом «site:geektimes.ru».
Основная проблема искусственного интеллекта в том, что никто до конца не понимает, как он работает
Конечно не понимают, ведь ИИ ещё не создали. А как работают нейронные сети – их разработчики прекрасно понимают. Насколько я далёк от математики, и то – недавно прошёл небольшой курс и более менее разобрался.
Промышленного робота «А» запрограммировали прекращать перемещение, если есть сигнал с датчика прикосновения, и мы можем быть уверены, что если на его пути будет велосипед, стена или маленькая девочка в платье с блестками, он остановится. А другого робота «В» заставили самому подстраивать коэфициенты, которые транслируют вход с датчиков в выход на моторы, так, что в условиях, сходных с обучающей выборкой, он будет вести себя как ожидается. А как он отреагирует на условия вне выборки? Вот это как раз и «не понятно до конца» автору статьи
PS надо учить по GTA5, там можно симулировать реакцию людей на аварийные ситуации
Не вижу разницы между
как работают нейросети
и
нейросеть реализует некий алгоритм
Нейронная сеть – это не магия, это строгая математика. Какой алгоритм в неё заложили – так она его и будет реализовывать. И если в алгоритме обучения сети нет ошибок, то на новые данные она будет реагировать очень даже ожидаемо.
Вот это как раз и «не понятно до конца» автору статьи
Автору статьи, в этом случае, надо пройти базовый курс по нейронным сетям, а не бросаться громкими фразами.
Я такой заголовок читаю как: «Мы (автор статьи и его друзья) не понимаем как работает ИИ, и у нас это вызывает проблемы и стыд.»
Кажется сама проблема высосана из пальца и подайтся журналистами не совсем корректно, в духе рентв.
почему-то мне кажется что достаточно иметь огроменный накопитель на котором будет лог обучения и какие нейроны в каких слоях в какое состояние переключились после прохода картинки по обучению… ну а потом при возникновении спорного момента — достаточно будет достать все нейроны, отработавшие в принятии этого решения и показать исходники которые эти нейроны затрагивали группируя по слоям. чисто в теории тогда можно было бы и увидеть что картинки с гантелями в нейросеть запихивались только в виде культуристов, которые эти гантели и держат в руках а потому как и ребенок, никогда не видевший чего-то — нейросеть точно так же и не будет знать гантели — это часть человека-культуриста или всетаки отдельный предмет? Вот если б вы в своей жизни никогда не сталкивались бы с гантелями отдельно на полках а только слышали о них и видели на картинках с культуристами — вы б никогда б и не поверили что гантели могут быть отдельно от культуриста. ну по крайней мере вам это было бы очень сложно обьяснить.
Так что не все тут так сложно. другое дело что глубинным обучением пытаются сэкономить годы разработок! это ж легко — взял нейросеть 10000х10000х100х100 и скормил её онлайн базу штрафов а потом после обработки — подсовываеш машину а оно тебе сумму какую с этой машины можно надоить. да вникать не надо. но вот если надо — возникнут проблемы — сам-то человек не анализировал то что кормил нейросети… вот и результат для человека странный… ведь человек знает об окружающем мире намного больше чем то что он скармливает машине.
Основная проблема искусственного интеллекта в том, что никто до конца не понимает, как он работает