Comments 120
мы, люди, тоже не обращаем внимания при вождении на этот шум.
Хосспаде. "Вы" — это кто? Я — обращаю, постоянно, в ожидании очередной подлянки, которую может подложить мне этот йоппаный мир. Эффект зловещей долины — он не из ниоткуда взялся!
смею не согласиться. Сколько раз в "этих ваших тиктоках" видел видео на подобии "девушка показывает своему парню видео с красоткой, а потом спрашивает какого цвета у нее был маникюр\футболка\что-угодно" Тем самым проверяя было ли его внимание сконцентрировано на женских достоинствах
Вы сначала расскажите, с чем конкретно Вы не соглашаетесь.
А спермотоксикоз у меня уже лет тридцать как закончился.
И фокусы все с первого раза разгадываешь?
И всем незнакомцам Вы тыкаете?
И вообще Вы серьёзно сейчас, на голубом глазу, сравнили нарисованное нейронкой с фокусами? Вы по жизни кого фильм снимать нанимать будете — фокусника или всё-таки режиссёра?
Интересные претензии у ТЕБЯ.
Выше пишешь:
> Хосспаде. "Вы" — это кто? Я — обращаю
Да ТЫ! Ты один такой.
это к контексту обобщающему МЫ не обращаем.
Да, хосспаде, мы люди, мы большинство людей. Если у тебя это получается, значит талант и можно было уважительнее коммент писать.
А не:
Хосспаде, ну вы тупые, а Я вот "круче" вас, Я не Вы.
Ну и если Вы указываете на правило русского языка, на котором здесь пишите, обращаясь с прописной буквы в. Почитайте пожалуйста правила русского языка. Нет, не статьи "умных" (в кавычках) людей, а правила написания "вы".
Из дебат по поводу "Вы"
"...читается не уважение, а глупость" и невежество в языке.
Почитайте пожалуйста правила русского языка.
Вот я их как раз и почитаю (II), а Вы не льстите себе — Вы почитаете правила не русского, а какого-то олбанского.
тоже больно умный выискался.
В этом и дело, что вы ищите авторитета, а не думаете своей головой выбирая нужную информацию из 10ка словарей.
Авторитетное мнение - это перекладывание ответственности с себя на того человека. Одним словом - ребячество.
В. И. Даль в «Толковом словаре живого великорусского языка» называет обращение на вывместо ты «искаженной вежливостью»: «Ты, мест. 2-го лица ед. ч. <...> Искаженная вежливость заменяет слово это множественным числом (то есть заменяет ты на вы), но у нас доселе простой человек говорит всякому ты, и Богу, и Государю...». «Вместо тщеславной похвальбы сельского учителя (эманципированного), что он крестьянским мальчикам говорит вы, – продолжает Даль, – учитель лучше бы сделал, заставив их себе говорить ты; в этом было бы более смысла». И убеждает пословицей: «Лучше по чести тыкать, чем с подвохой выкать».
Ну и для вашего оправдания напишу, если эта тема так задевает.
Употребление местоимения вы вместо ты при обращении к одному лицу само по себе уже представляет проявление уважительного отношения к этому лицу. Окончательное решение о написании Вы с прописной (для подчеркивания этого уважительного отношения) принимает автор текста.
Если не понятен смысл вышесказанного - я имею полное право по правилам русского языка писать и ты тебе и вы, а если это затрагивает тебя и обижает - это нужно разбираться в себе а не указывать другим людям как жить и выражаться.
Разница только в том, насколько с уважением я пишу слово ты и насколько с подхалимством и выказыванием своего превосходства над всеми остальными я пишу Вы.
Сколько раз в "этих ваших тиктоках" видел видео на подобии "девушка показывает своему парню видео с красоткой, а потом спрашивает какого цвета у нее был маникюр\футболка\что-угодно" Тем самым проверяя было ли его внимание сконцентрировано на женских достоинствах
Что говорит о клинической меркантильности самой девушки, оценивающей сколько стоят вещи на человеке.
*загуглите карикатуру: где мужчина смотря на женщину видит её достоинства, а женщина смотря на мужчину видит ценники всего что на нём*
Эффект слепоты невнимания может возникнуть у любого, даже очень внимательного человека. Фокусники не дадут соврать :). Мозг не видит всего в мельчайших деталях, он лишь дает иллюзию такой видимости. И да, я при вождении машины тоже практически не обращаю внимания на вращение колес других машин: это бы отвлекало от контроля дорожной обстановки.
Никто не говорит, что SORA генерирует полностью правдоподобные видео. Но неужели не видно, что эта нейросетка совершила большой скачок в правдоподобии за счет эффекта масштаба? Раньше была откровенная крипотень, теперь есть несуразности и зачастую ощущение неестественности, но видео стало вполне смотрибельным.
И да, я при вождении машины тоже практически не обращаю внимания на вращение колес других машин
Ви так говорите, как будто это что-то хорошее
Сын отцу:
— Папа, я уже умею водить, проверь меня!
— Ну хорошо, садись, поехали, посмотрю, как ты умеешь водить.
Проездили четверть часа, сын соблюдает все знаки, разметку, светофоры и т.п. Подъезжают обратно к полъезду.
— Ну как, пап, умею я водить?
— Сынок, пять кварталов назад по левой стороне девушка в красном платье на воооот такенных каблуках шла — ты заметил, какого размера у неё сиськи?
— Нет, не заметил...
Отец протягивает руку за ключами:
— Не умеешь ты, ещё сынок, водить, не умеешь...
Ну сравнили. Сиськи и колёса!
Есть другой вариант этого анекдота
Отец и сын едут на машине – сын за рулем.
— Пап, ну как, я уже хорошо умею водить?
— Сын, ты видел, нам навстречу ехал темный Форд? Какой «поворотник» у него мигал?
— Форд помню, «поворотник» не помню…
— Ну а знак какой проехали только что?
— Не заметил. А какой был знак?..
— Ну ты, ведь, за рулем! И знак был, и девушка красивая в мини-юбке стояла на тротуаре. Девушку тоже не видел?
— Не, не видел…
— Значит, еще плохо водишь. Давай, сынок, учись!
Ну вот моя нейрофизиология позволяет заметить поворотник форда, дорожные знаки, пешеходов на тротуаре (которые могут захотеть оказаться на дороге) и другие элементы дорожной обстановки, но ценой отказа от информационного шума вроде вращения колес машин, рекламных баннеров и размера сисек девушки в красном платье.
Использование органов управления переходит в автоматизмы еще на этапе обучение в автошколе, потом появляется хорошее ощущение габаритов машины. Но я не представляю, какой опыт вождения нужно иметь, чтобы в разряд автоматизмов перешел контроль дорожной обстановки, особенно в городе с плотным движением. Трафик очень динамичен, на дороге переводчески появляются ямы, шумахеры, шашечники, подрезальщики, пешеходы-самоубицы, правило ДДД никто не отменял – это все требует ресурсов внимания, а они не бесконечны. Наблюдал маршруточников, которые, вероятно, освоили этот дзен, но они водят 8 часов в день, 5-7 дней в неделю. Если вы так умеете, то круто.
И да, я при вождении машины тоже практически не обращаю внимания на вращение колес других машин
Неправда, ты сразу заметишь, если кто-то едет на ручнике с заблокированными колёсами.
Глаз, точнее система обработки сигналов в человеческом мозге реагирует на изменение.
В зависимости от того, как устроен твой мозг конкретно, мозг может игнорировать периферическое зрение вообще или иметь четкость в этом периферическом зрении почти как в центре.
У художников, скажем, фотографическое зрение и пейзаж увиденный в одну секунду могут воспроизвести с очень высокой точностью.
Обычные люди, большинство людей запомнят какую то деталь важную им.
А некоторые, малая часть не запомнят ничего, потом что в этот момент мозг занят другим.
Если ты замечаешь детали - нужно пользоваться этим в жизни, а не хвастаться этим в комментах.
И не говори, что ты узнал первый раз, что другие люди не замечают ничего вообще.
или иметь четкость в этом периферическом зрении почти как в центре
Такого не может быть ни у одного человека, потому что количество колбочек резко снижается по мере удаления от центральной ямки, число палочек также падает от центра к периферии. Кроме того, фоторецепторы за пределами центральной ямки не имеют выделенных аксонов и сгруппированы в рецептивные поля.
Поэтому для хорошего запоминания пейзажа в любом случае придется двигать глазами, но это может происходить неосознанно из-за автоматии саккад. На xkcd есть наглядная картинка про поле зрения человека.
То есть лет через 50 планета будет представлять собой бесконечное поле солнечных батарей, под ними располагаются датацентры, которые симулируют идеальную реальность для горстки избранных.
Избранные в свою очередь лежат в защищенных бункерах, при этом являясь богами в своих бесконечных мирах, а остальное человечество вымерло за ненадобностью.
Такое себе
Нет. Не избранные. Все
Ускорителей Nvidia не хватает, других тоже не хватает, ChatGPT-18 понимает, что вокруг есть, к тому времени, десяток миллиардов нейроускорителей, естественных. И просит поделиться вычислительной мощьностью.
Получаем Матрицу. И люди в ней не батарейки, а нейроускорители, на которой Матрица что-то свое считает, симулирует
всё это было в Симпсонах у Пелевина. Хотя уверен что и в Симпсонах тоже.
Слишком опасно на мой взгляд, люди могут начать сопротивляться, бороться и вообще. На мой взгляд более безопасно это развить технологию ускорителя на основе Organoid Intelegence. Безопаснее выращивать brain organoid соединять их микроэлектродами в большие вычислительные кластеры. Благо уже и разработки активные ведутся: Brainoware, проект в Европе https://cordis.europa.eu/project/id/101098791, Cortical Labs и другие.
Ножек у мозговых органоидов нет, в лес не убегут, палки и копья в руки не возьмут, так как ручек нет.
Такая картина представляется мне, только когда во Вселенной уже неоткуда будет брать энергию.
Огромные бункеры ютятся возле последней остывающей звезды, все события происходят в воображаемых мирах, потому что это тупо менее энергозатратно, чем делать что-то в реальности.
И есть вероятность, что мы уже находимся в этом виртуальном сне в конце времён. Ничего уже нельзя изменить. Всё кончено.
Вопрос на засыпку
Как я понял, первоначальной идей, было то что машины хоть и вели войну против людей, но не могли устроить геноцид, по этическим соображениям. Погружение людей в симуляцию, было для них способом содержания военнопленных. Концепция реальности для машины отличается от концепции реальности для живого (естественно эволюционировавшего) существа. Но тем не менее, для заключения в симуляцию всего человечества, потребовалось соблюсти формальность, получить подписи полномочных представителей ООН и военного командования коалиции. Полагаю этого требовал какой то формально-этический блок.
Архитектор упоминал термоядерный синтез. Но вообще Вачовские изначально заложили болт под любые глубокие рационализации сюжета, тем что отвергли закон сохранения энергии.
Это всего лишь хрень, которую скрытый агент "матрицы" втирал в мозг наивному юноше. Нео, как и бывает у ойтишников, уроки физики прогуливал и про законы сохранения не в курсе. Поэтому сработало.
НЕО: Любой, кто изучал физику в школе, знает о законах термодинамики!
МОРФЕУС: А где ты ходил в школу, Нео?
(Пауза)
НЕО: …В Матрице.
МОРФЕУС: Машины придумали изящную ложь.
(Пауза)
НЕО (робко): А могу я где-нибудь взять учебник по настоящей физике?
МОРФЕУС: Такой вещи не существует, Нео. Вселенная не подчиняется математическим законам.
Да, HPMOR rulezz.
Правда, это уже совсем другая история (ц)
МОРФЕУС: Такой вещи не существует, Нео. Вселенная не подчиняется математическим законам.
Осталось понять, по каким законам работают компьютеры "Навуходоносора", как он сам летает, экзоскелеты (которые с пулемётами), да и вообще тела (которые выбрались из матрицы), раз всё-всё — и физика, и механика, и биология работают не так, как мы знаем.
(Да, я в курсе, что это просто подборка приколов в конце HPMOR. Но мы же читатели рациональные — мы на слово не верим, нам доказательства подавай!)
Ничего себе PCA )
Про фМРТ прямо сильно понравилось. Интересный вопрос, будет ли латент формируемый из активаций нейронов одинаковым для меня и для Васи Пупкина из соседнего подъезда, и будет ли постоянным для каждого человека в течении жизни? Если да то надеюсь что в старости когда совсем ослепну можно будет себе вместо глаз стереокамеру повесить и ее сигналы напрямую в мозг декодить, круто)
Я тут не эксперт по части медицины, но мне кажется что в какой-то из статей я видел, что отдельно обучали часть модели под человека, а часть общую, но сходу найти не смог. Про временные изменения тем более хз(
С вкручиванием железа в мозг как раз всё интересно.
С одной стороны есть уровень физический. С физическим подключением сигналов к мозгу всё традиционно плохо. Интерфейсы ненадёжные, долго не живут, сигналы деградируют, железки вызывают отторжение. Если не взлетит и новое поколение интерфейсов у товарищей вроде Маска, то всё тухло, и придётся сидеть ждать прорывов в биоинженерном деле.
А с другой стороны есть уровень логический. И вот тут всё очень интересно. Потому что да, вариации в "устройстве мозга" между разными людьми крайне значительные. Но с другой стороны мозг - штука всеядная. И может научиться раскодировать чуть ли не любую байду в удобоваримые для себя данные.
Так что на логическом уровне всё приятно. Если с одной стороны у нас учится машина, а с другой учится органика, то хороший интерфейс очень даже возможен.
Что-то подобное уже есть и сейчас. Это я про камеру вместо глаз. Где-то я встречал информацию об этом. Но искать долго. Правда там пока лишь силуэты, контуры, без цвета. Зато не полная слепота, как было бы без операции. Но это я давно видел. Наверняка уже сильно продвинулись вперёд. Если уж чипы а головы внедряют, думаю, что и с глазными протезами тоже уже далеко ушли
ну это какая-то философия уже.
Общий посыл понятен. Идея в том, чтобы обучать как можно более сложные сети на как можно более полной информации о мире. В итоге есть шанс получить сеть, которая будет понимать все и будет в состоянии решать любые задачи как человек.
ИМХО, здесь может быть все же одна проблема. В такой постановке мы создаем сеть, которая может "грезить" о том, как мир мог бы себя вести, но в ней нет механизма, который мог бы заставить мир вести себя так, как поставлено в задаче.
Это тонкое различие, может его даже вовсе нет, это предположение.
Сейчас если мы задачем вопрос чату GPT с просьбой построить стратегию достижения некой цели, он может справиться с этой задачей. Но здесь интересно как он это делает. По сути он имеет картину мира в которой есть вопросы о стратегии и хорошие ответы на них. И он грезит в этой картине, генерируя продолжение мира - ответ, зная начало мира - вопрос.
В этой схеме нет места целевой функции - насколько хороша стратегия, и нет итерационных попыток нахождения лучших стратегий. Есть только предсказание "что обычно отвечают на такие вопросы".
Например, если сделать робота на этих принципах и попросить его собрать мебель из Икеи, робот будет мыслить в ключе "как обычно собирают мебель" а не в ключе "цель - собранная мебель, ищем наилучший из возможных путей достижения цели". Человек решает эту задачу вторым способом, если решает ее впервые. И вероятно решает эту задачу первым способом, если он делал это уже 500 раз.
Если это предположение о неполноте существующей модели верно, то нам потребуется еще один щаг - научиться делать с нейронной сетью нечто, что позволило бы ей активно искать стратегии достижения цели.
Глобально мысль очень правильная, и уже ведется работа в сторону аналога AlphaGo для LLM — когда мы при генерации пишем не 1 предложение, а 1000 — и потом переранжируем их по успешности (оценка этой же или другой модели). Далее для, скажем, топ-10 самых перспективных генераций делаем еще по 1000 вторых предложений, и тд. Чуть более подробно можно глянуть в моей лекции вот тут (https://youtu.be/tJ1xjP17OZs?t=3049 кинул таймкод, но советую канеш всё глянуть), и в этом же ключе как proof-of-concept рекомендую мою предыдущую статью на хабре https://habr.com/ru/companies/ods/articles/781138/
Спасибо, материалы исключительно интересные.
Не понял,хотя перечитал статью выше два раза.нейронки определяют положительный или отрицательный образ по своему одному признаку и перед этим их никто не учил что есть положительные отзывы а что есть отрицательные?
это сложно объяснить, если человек не знаком с концепцией эмбеддинга и основами машинного обучения. Тут не пальцах так просто не показать, всё что мог изложить - отобожено в статье.
принцип не вполне понятен.если можно на пальцах обьяснить?когда нейронка обучена на отрицательных и положительных отзывах это понятно.но здесь я так понимаю речь о том что она не была обучена ?
Не претендую на истину, но мне это представляется так: нейронка учится сжимать входящие данные до 15 параметров (енкодинг), что бы их можно было разжать обратно в максимально похожий текст. Покрутив каждый из этих 15 параметров, можно понять за что они отвечают. По всей видимости, сохранять негативность отзыва является весьма выгодным условием для такого сжатия.
Мне кажется наиболее близким примером, является игра в ассоциации, когда одним словом, нужно описать, что нарисовано на карточке, что бы другие игроки поняли какая это карточка. Только тут вместо слова, вот эти параметры
Идея в том, чтобы обучать как можно более сложные сети на как можно более полной информации о мире
Да, только это не информация о мире как я понял, это всё модели и симуляции, т.е. нейросеть будет обучаться на симуляциях мира, а не на настоящих фактах о мире. Это же просто путь в никуда, все эти AGI будут отдавать всё менее и менее правдоподобную информацию о реальном мире.
Так в статье же решение и описано, в тех случаях когда симуляция/модель обученная на ней косячат - перенести действие в реальный мир (ну либо симуляцию допилить).
Учитывая какие ролики из этой симуляции выходят - черновое обучение на модели можно провести, а дообучать уже на меньшем количестве примеров (как с описанным в статье примером где модель для генерации изображений дообучили на выбранных человеком примерах).
Способ менять действия симуляции в общем то тоже в статье под которой мы собрались описан в начале на примере с машинкой/отзывами.
"Если это предположение о неполноте существующей модели верно, то нам потребуется еще один щаг - научиться делать с нейронной сетью нечто, что позволило бы ей активно искать стратегии достижения цели."
Над этим работают (тот же ЛеКун, Google Robotics, NVidia) - autonomous intelligence, воплощённые агенты, скорее даже сеть агентов (включая большие серверные модели), которые будут учиться не только наблюдая мир, но и действовать с некоторой целью активно уточняя модель мира - пробуя, настраиваясь и т.п.
Автономные планетоходы, бурильщики астероидов, строители радиотелескопов с апертурой диаметра солнечной системы --> экспансия ИИ в космос, заодно и человечества.
активно искать стратегии достижения цели
Завод по производству скрепок? Страшно представить на какие преступления готов пойти ИскИн у которого единственная цель это максимизация прибыли любой ценой.
Не, не завод. Да и зачем прибыль ИИ? А представить не страшно, по крайней мере не страшней, чем представить на какие преступления готов пойти человек (далее по тексту) без обратной связи влияющей на оценку текущего состояния и постановку цели от других агентов и/или реальности. Мир как мир получается, который самоубийцам кажется адовым, а кому-то вполне стоящей штукой, чтобы жить. Ничего особенного. Отбор и эволюция отработают и на следующем уровне.
Прибыль компании, в которой владельцы поставили руководителем ИскИна с требованием максимизировать прибыль, забыв поставить ограничения, и уверенно придерживаясь мнения "люди - ошибаются, компьютеры - не ошибаются".
Мир как мир получается, который самоубийцам кажется адовым, а кому-то вполне стоящей штукой, чтобы жить. Ничего особенного. Отбор и эволюция отработают и на следующем уровне.
В отличии от человека - это абсолютный психопат, который ради поставленной цели убьёт любого не раздумывая раньше, чем тот хоть что-то сделает.
владельцы [ ] уверенно придерживаясь мнения "люди - ошибаются, компьютеры - не ошибаются". - ну эти люди психопаты явно ;-).
Достаточно быть неспециалистом не разбирающемся в компьютерах. Британский суд снял обвинения с 39 работников почты. Их ложно обвинили в краже из-за ошибки ПО
Из-за сбоев системы в период с 2000 по 2014 год до 900 операторов могли быть привлечены к ответственности и осуждены.
много текста=> писалось с нейросеткой, не читаем
Ян говорил: «Я не думаю, что мы можем научить машину быть разумной исключительно на основе текста, потому что я думаю, что объем информации о мире, содержащейся в тексте, ничтожен по сравнению с тем, что модели нужно знать.
Надо же, я считал по-другому, и кажется был более прав:
Для ИИ не требуется обязательно копировать области мозга, обрабатывающие изображение, звук, осязание и все остальные сигналы, поступающие от органов чувств человека. Для общения достаточно одного канала - текстового. С помощью письменного языка человечество научилось описывать любые наблюдаемые объекты реального мира, и даже ненаблюдаемые понятия, и действия над ними. Текст - это концентрированный источник информации, который может покрыть все потребности ИИ в общении. Это как материнское молоко для младенца - идеальный продукт для питания без дополнительных усилий.
По поводу "ничтожности", ЛеКун ошибался (кмк). Действительно, текст на котором обучалась LLM - это концентрат накопленных нашей культурой, с её искажениями и предвзятостями, знаний.
Да, слепой от рождения человек вполне может общаться. Но общением ИИ не ограничивается.
А мир "слепых" от рождения людей ограничен для накопления новых знаний о нашем мире и некоторых видов деятельности (которые мы хотим автоматизировать с помощью ИИ). Напомню также, что уровень автономности и интеллектуальная мощь - это перпендекулярные оси. ИИ уровня животных - тоже пригодится для роботов.
Какие сигналы потребуются обрабатывать кроме текста (зрение или сигнал с радиотелескопов) и можно ли их сразу без потерь преобразовать в текст - другой вопрос.
Мне вот интересно, а почему нет до сих пор голосового бота, с которым можно было просто поговорить? Для изучающих иностранный язык это была бы просто бомба. Но вот такие сложные вещи как Text-to-Video имеются, а голосового ChatGPT, который бы принимал вопросы голосом (это уже есть) и ОТВЕЧАЛ бы на них так же голосом - нет.
Я бы еще в копилку вопросов добавил: "Почему еще нет realtime переводчика"?
Полагаю надо использовать несколько простых моделей для этого.
Audio-to-text model (или утилита), чтобы звук с микрофона переделать текст.
llama, gemma, etc.. даже 2b подойдет тут думаю. чтобы текст человека распознать и ответить
Text-to-audio model (или утилита), чтобы ответ преобразовать в голос
Но вам даже для такой простой оснастки уже нужно много оперативки и какую-то хотя бы средненькую модель видеокарты, чтобы ждать несколько секунд, а не минуты
Еще программировать придется :)
Вроде приложение chatgpt на мобилках с оплаченной подпиской такое умеет. По крайней мере как раз видосы от изучающих языки встречал как они с ним говорили.
У меня есть ChatGPT с подпиской, и на смартфоне, и на ПК - пока не нашел ничего похожего.
на смартфоне нужно зайти в режим голосового ассистента и начать промптить модель про урок по изучению языка
В сентябре минувшего года ChatGPT запустил функцию голосового запроса, благодаря которой пользователи могут голосом проговаривать запрос для чат-бота, не печатая его в форме. Новая же функция позволяет настроить чат-бота таким образом, чтобы он всегда устно отвечал на запросы пользователя. (тут)
Подозреваю, что неправильно Вас понял, но гляньте на gliglish.com
В общем-то, есть такие. Вы плохо искали. Есть даже стартапчик один, работающий в сотрудничестве с openai по этой теме. И он именно для изучения языка. Там реально можно пообщаться. Тебя поймут, а ещё твое произношение оценят и дадут совет, что надо поправить. И даже программу составят индивидуальную. Правда приложение платное, но демки хватает для знакомства.
Вот пара приложений таких: elsa speak, speak.
в смысле готового приложения для смартфона локального ?
ресурсов не хватает вероятно чтобы все это локально крутить.
так то - ставим SillyTavern, ставим плагин https://docs.sillytavern.app/extras/extensions/speech-recognition/ для ввода голосом, ставим и настраиваем например https://docs.sillytavern.app/extras/extensions/alltalk/, подключаем koboldCppp/text-generation-webui с локальной модель и общаемся голосом
Ну или вообще берем Skyrim, ставим и настраиваем https://www.nexusmods.com/skyrimspecialedition/mods/89931 после чего общается с эрикой(новый компаньон) голосом.
Есть уже давно. Сайт такой видел и пробовал(на основе GPT 3.5 сделан), думаю нагуглить несложно будет.
А как же https://m.youtube.com/watch?v=eLx8_NAqptk ?
И всё это симулировано выученной моделью мира. Нейронка просто наблюдала за тем, что происходит в игре при тех или иных обстоятельствах, с учётом действий водителя машинки, и теперь сама выступает в качестве игрового движка.
Среднестатистическое состояние динамической картинки - это черная вертикальная линия. Модель стремится восстановить черную вертикальную линию.
Машинка это отдельная часть картинки, среднестатистически неподвижная. Модель сохраняет группу пикселей в данных координатах.
Никакой связи между машинкой и поворотами нет, ни в игре, ни в реконструкции видео.
Мне показалось, или я с этой статьей и поисковиком потратил пару часов рабочего времени?
А может всё-таки лучше в больших количествах делать дешевых механических ботов и запустить их на закрытый полигон, есть например заброшенные города и промышленные объекты. И пусть эти боты учатся там взаимодействовать с окружением и выживать. Через некоторое время они сами начнут ремонтировать себя, добывать огонь (для переплавки и ковки запчастей), строить промышленные объекты, хим. предприятия. Эволюция будет идти ускоренно, поэтому через небольшой промежуток времени у них появятся аналоги LIGO и ITER, потом теория струн и квантование гравитации.
Снова интересный лонгрид! Придется читать! Где бы времени найти? )
Вот это да! Наглядный пример того, что научпоп вполне может быть тортом даже для хабра. Как говорится - и палка стреляет.
Кажется, в порноиндустрии ожидается вал безработных
Статья замечательная! Большое спасибо за вашу работу по ней.
Меня в этой статье больше заинтересовала та часть, что про МРТ и человеческое мышление. Интересно, можно ли это понимание как-то приспособить для решения практических задач, связанных с обучением человека, а не нейросетей. Если столько всего для обучения и развития нейросетей придумали, неужели для людей ничего сообразили? Если вы что-то знаете на эту тему, как никак, вы пока готовили статью, многое прочитали, напишите, пожалуйста, в ответе. Многие это оценят.
Проснулся сегодня и понял, что мои сны похожи на правую часть вот этого:
То, что в фокусе, прорисовано очень хорошо, даже с деталями. А периферия достраивается по ходу дела. Как будто кто-то крутит ползунки настройки. Стоит переместить фокус внимания на другой фрагмент мира и бывший ранее в фокусе фрагмент может измениться до моего лёгкого офигевания - "ведь был же сарайчик!".
В общем, получается, что прямо по статье - во сне естественный интеллект тренирует сам себя при помощи построения виртуальной реальности. Подсознание строит симуляции, по которым затем гоняет сознание для лучшей адаптации к изменяющейся реальности.
An interesting connection to the neuroscience literature is the work on hippocampal replay that examines how the brain replays recent experiences when an animal rests or sleeps. Replaying recent experiences plays an important role in memory consolidation [68] — where hippocampus-dependent memories become independent of the hippocampus over a period of time [67]. As Foster [68] puts it, replay is “less like dreaming and more like thought”. We invite readers to read Replay Comes of Age [68] for a detailed overview of replay from a neuroscience perspective with connections to theoretical reinforcement learning.
Memory Consolidation [link] Authors, W., 2017. Wikipedia.
Replay Comes of Age [link] Foster, D.J., 2017. Annual Review of Neuroscience, Vol 40(1), pp. 581-602. DOI: 10.1146/annurev-neuro-072116-031538
Но что куда более важно — существуют доказательства, что наше восприятие в значимой степени определяется будущим, предсказанным нашей внутренней моделью мира. Мозг — это предиктор. Интересующиеся могут почитать вот эту или эту статьи
Более подробно с концепцией предиктивного кодирования в мозге ("байесовском" мозге) можно ознакомиться в этом переводе с дополнениями.
Спасибо большое за такую перкрасную во всех смыслах статью!
Есть ли какие-то ссылки в которых есть инструкция или код, как повторить эксперимент с машинкой и думом локально, для самообучения работе с энкодерами\декодерами?
есть оригинальный код world models https://github.com/hardmaru/WorldModelsExperiments и чуть более свежая реимплементация на торче https://github.com/ctallec/world-models , но вообще для энк-дек (VAE) можно погуглить что-то отдельно, вещь старая и популярная.
А пытались ли совместить это всё с NeRF?
Одна из лучших статей, которую я читал. По всем показателям. И да - человечество устаревает.
И да - человечество устаревает.
Прикиньте, никто не молодеет.
Осталось только самая мелочь — кто будет давать стране угля, в смысле энергию и запчасти для этих ваших нейросетей, когда все человеки йок. Пока что полным-полном нейросетей-художников, но кто слышал про нейросети-шахтёры, нейросети-сталевары, нейросети-электрики, нейросети-микроэлектронщики, тысячи миллионы их?
Судя по всему, картинку с тигрёнком и яблоней, которую Маск в свой иск вставил, как раз эта система сгенерировала.
Какие, однако, разнообразные претензии вызывает деятельность OpenAI: сначала The New York Times жалуется, что её статьи один-в-один цитируются, что вроде как не подобает продвинутой системе ИИ. Потом Маск, наоборот, жалуется, что это уже практически сильный ИИ и поэтому «эти модели перестанут попадать под действие лицензии Microsoft и станут более открытыми для массового пользователя».
Настоящее предназначение OpenAI SORA: как и зачем симулировать «Матрицу» для ChatGPT