Комментарии 8
Очень, видимо, хочется ему еще протянуть хайп. Но по факту практически всем уже пофик, и вся эта тема ушла в несколько ниш и как бы всё...
Наверное глупость, но с момента знакомства с компами в 80х, когда променял электронику на программирование, я впервые за 30+ лет вдохновлен настолько-же сильно новыми возможностями AI.
Вот, правда, для меня GPT4 и GPT API - ежедневные инструменты, повышающие продуктивность и освобождающие для креатива.
И я с нетерпением ожидаю Episodic memory, Modular AI, и толпу разных AI агентов, которые будут выполнять для общества самые разные задачи, от заботы о здоровье, с тракингом, анализом, предсказанием и предупреждением, до массы креативных задач.
Мне не понятен смысл применения "мыслит", "осознаёт" к натренированным моделям ML. Модель поставляется либо с фиксированным набором весов, либо в pre-trained состоянии, подразумевающим fine-tuning, что опять-таки продуцирует фиксированный набор весов. Где там мысль? Ладно бы они в процессе работы научились себе топологию менять, хоть как-то имитируя постоянное создание новых связей мозга, но ведь, насколько знаю, и эта, топологическая, часть - фиксирована.
Человеческий мозг мыслит? Ответ очевиден. При этом его топология и веса меняются существенно медленнее, чем скорость мышления (топология в большинстве областей мозга вообще фиксируется раз и на всегда при развитии мозга, оставляя только возможность к деградации, а меняются только веса). Отсюда вывод: процесс мышления != изменению топологии нейронной сети.
При этом мы, как люди, наличие мышления оцениваем не по передаче нервных импульсов в мозгу, а по их импакту, то есть по "выводу" - речи, письму, мимике, действиям. У людей в коме, ведь, электрическая активность мозга сохраняется, но мыслями и сознанием мы это не называем.
Резюмируя, применительно к цифровым нейронкам, под мышлением подразумевается не способность нейронки перестраивать топологию (хотя технически это ничем не запрещается), а способность выдавать соответствующий контексту/адекватный "вывод" - письмо, речь, изображение, видео etc.
PS: если говорить про изменение топологии, то иногда кажется что и человеку не плохо бы иметь возможность зафиксировать топологию и веса нейронки в одном состоянии, которое наиболее эффективно решает какой-то спектр задач, дабы не терять навыки и не скатываться в переобучение, которое замыливает глаз.
Топология мозга в постоянном изменении, уверен Вы знаете об отмирании нейронов начиная с определенного возраста и постоянном образовании новых связей на протяжении всей жизни (можно почитать\послушать Савельева на эту тему).
Конечно, я не утверждал "мышление == морфология мозга", это было лишь как гипотеза в какую сторону могло бы пойти развитие.
Я скорее про то, что "знания" ML модели - это фиксированные веса + алгоритм, что не кажется похожим на мышление.
термодинамические флуктуации
Квантовые?
Илья Суцкевер, главный научный сотрудник OpenAI, о своих надеждах и опасениях относительно будущего ИИ