Comments 10
1. Великолепный подарок на день программиста, спасибо!
2. Вот это вот все — оно да. А вовсе не GPT! Я думаю вы поняли… ;)
Круто! Нет, реально круто!
Это все постепенный медленный прогресс… Но что интересно, каждая следующая разработка приближается к тому, как работает настоящий человеческий мозг. Мы ведь тоже заранее планируем, куда именно пойти при изучении нового места, прокручивая в голове что от него можно ожидать и что там может случиться. Увидев необычный предмет, у нас заранее появляется любопытство и желание с ним экспериментировать, а не в момент самого взаимодействия. Особенно это заметно у младенцев, то как они целенаправленно изучают новые предметы, а не просто удивляются свершившемся факту (хотя и это тоже). Подробнее тут: https://bair.berkeley.edu/blog/2020/07/24/icm-kids/
И чтобы выучить новый навык, мы тоже прорабатываем последовательность действий в воображении. Тренируемся, обучаемся мысленно. Все это очень похоже на то, как устроен последний Plan2Explore. С поправкой на то, что это первые робкие шаги, а не завершенный алгоритм, конечно.
А главное — это все (и дример с вариациями и ГПТ) вполне укладывается в мое представление о сознании! Осталось только правильно совместить.
Порадует ли нас, когда совместят? Или просто капитализация совместивших компаний подрастет на порядок-другой?
На их месте, добившись, сразу организовал бы картельный сговор, направленный на ограничение роста мощностей доступной потребителям электроники и подобные цели. Так, чтобы даже шибко умные и осведомлённые ребята не смогли повторить.
Или запретите использовать видеокарты ?
Прогресс не остановить. Или смиритесь, или попытайтесь возглавить забег.
Основная задача не в том, как планировать, а в том, как из входной информации получить образы, с которыми можно планировать.
Особенно это заметно у младенцев, то как они целенаправленно изучают новые предметы, а не просто удивляются свершившемся факту (хотя и это тоже).В более общем плане возможно заинтересует направление исследований, кот. проводит известный спец. по когнитивной психологии из MIT Д. Таненбаум, см. последнюю работу, носящую обзорный характер. Это целое направление связанное с построением внутренней модели мира младенцами исходя из возможностей когнитивного ядра, и ее адаптации в процессе обучения и получения новой информации. В статье есть ссылки на конкретные работы, в том числе по генеративным физическим моделям. Представление о когнитивном ядре можно получить по этой ссылке, правда данные по конкретным исследованиям в ней несколько устарели, эта область развивается весьма интенсивно.
World Models — обучение в воображении