Pull to refresh
75
-0.2

Биофизика

Send message

ChatGPT: влияем на галлюцинации или как потопаешь, так и полопаешь

Level of difficultyEasy
Reading time10 min
Views9.9K

В этой статье посмотрим как можно влиять на так называемые «галлюцинации» ChatGPT.

А что такое эти «галлюцинации»? По сути это придумывание фактов нейронной сетью, ну или просто — враньё. Управление «галлюцинациями» позволит получать то что мы хотим, ну или по крайней мере улучшит вероятность получения правдивого ответа.

Читать далее
Total votes 20: ↑17 and ↓3+14
Comments10

Может ли GPT-4 на самом деле писать код?

Level of difficultyEasy
Reading time17 min
Views62K

С момента выпуска ChatGPT я видел достаточно много статей о его способности писать код. Люди рассказывали о том, как они попросили его спроектировать и реализовать головоломку с числами (не зная, что «изобретённая» им игра уже существует) и как бот клонировал Pong; и даже я сам использовал его для создания нескольких простых вспомогательных скриптов на Python. Это очень мощный и довольно полезный инструмент.

Но во всех примерах, которые публиковали эти люди, было нечто общее. Все эти задачи были решены раньше или были крайне несущественными модификациями таких задач. И хотя, откровенно говоря, программирование во многом буквально в этом и заключается — в соединении готовых решений и в подстройке готового кода под ваш конкретный сценарий использования, сложная часть программирования — это решение задач, которые никто ещё не решал.

Поэтому я решил протестировать бота на особенно сложной «алгоритмической» задаче, которую решил пару лет назад. Я выбрал нечто мелкое и изолированное, чтобы уместить в промпт ChatGPT, но с достаточным количеством тонких моментов, чтобы он, по моему мнению, испытал бы проблемы с реализацией.
Читать дальше →
Total votes 58: ↑55 and ↓3+52
Comments38

Величайшие программисты XXI века. Юрки Алакуйяла — гений сжатия

Level of difficultyEasy
Reading time8 min
Views18K
Пару дней назад на Хабре обсуждали, что сжатие информации — главная концепция нашей жизни. И вот перед нами представитель этой самой индустрии. Человек, который видит мир через призму теории информации, энтропии, хаоса и закономерностей.

Мало кто слышал имя Юрки Алакуйяла (@jyzg), но все мы используем его разработки. Картинки JPEG частенько генерируются фантастическим JPEG-энкодером guetzli с применением психовизуальных моделей, а HTTP-трафик в интернете жмётся кодеком brotli, тоже лучшим в своём классе.

Д-р Юрки Алакуйяла — активный член опенсорсного сообщества и исследователь. Работает техлидом Google Research Europe (Швейцария). Среди последних разработок — алгоритмы сжатия JPEG XL, WebP lossless и др.
Читать дальше →
Total votes 88: ↑88 and ↓0+88
Comments5

Самая большая ошибка в истории физики

Reading time19 min
Views46K
© 2018 HOWSTUFFWORKS

Сегодня мы обсудим одну из величайших нерешённых проблем фундаментальной физики — знаменитую катастрофу энергии вакуума. Что делает эту проблему такой увлекательной, так это то, что она сплетает воедино две самые успешные теории 21 века: квантовую теорию поля и общую теорию относительности, при этом демонстрируя, что что-то пошло катастрофически не так в нашей попытке понять происхождение расширения Вселенной. Чтобы разобраться, в чём собственно дело, нам придётся совершить путешествие по самым захватывающим идеям современной физики — от мельчайших квантовых флуктуаций вакуума до загадочной тёмной энергии, которая является движущей силой эволюции Вселенной.
Читать дальше →
Total votes 117: ↑117 and ↓0+117
Comments37

Физические итоги прошлых лет: что же было дальше?

Reading time13 min
Views17K

Последние несколько лет я рассказывал на Хабре про самые интересные достижения из мира физики. Все они были по-своему прорывными, но предсказать, какое будущее ожидает тот или иной результат, было непросто. По-моему сейчас настал отличный момент, чтобы оглянуться назад и посмотреть, что же стало с достижениями прошлых лет и как они изменили наш мир за эти годы.



Credit: E. Kulaeva / Shutterstock

Читать дальше →
Total votes 72: ↑72 and ↓0+72
Comments26

Даниэль Канеман «Думай медленно… Решай быстро»: механизмы наших ошибок

Reading time9 min
Views25K

Труд Даниэля Канемана «Думай медленно… Решай быстро» — из тех, о которых все как минимум где-то слышали; он не случайно оказался на первой строке в рейтинге самых упоминаемых книг на HackerNews. Это книга о том, как мы ошибаемся, о системности наших ошибок, заложенной в самой природе мышления. Несмотря на то, что исследование находится на пересечении двух научных областей – психологии и экономики – написано оно доступно и увлекательно, с многочисленными простыми примерами, которые помогают наложить теорию на повседневную жизнь. В этой статье мы хотели бы представить обзор первой части книги, где рассказывается о принципах мыслительного процесса и предпосылках когнитивных искажений
Читать дальше →
Total votes 12: ↑10 and ↓2+8
Comments8

Мозг, сенсорные системы и их моделирование

Reading time38 min
Views7K

Моделирование объектов, процессов, явлений - способ и средство изучения и исследования окружающего мира и мира содержащегося внутри нас, включая и тот, что как мы думаем, находится в мозге. Ясное, отчетливое понимание явления, процесса или объекта помогает создать адекватную модель, программа исследования способствует получению результатов, отвечающих на вопросы, возникшие до постановки задачи. Не менее важен и итоговый этап исследования - интерпретации результатов, способ их представления доступный пониманию окружающими. Моделированием мозга, его функций, принципов работы научный мир и любители занимаются давно, но существенных успехов пока достичь не удается. Проблема оказалась не просто трудной, а сверхтрудной. Но людей это не останавливает. Пока удалось создать мозг не обезьяны, не мыши, а всего навсего таракана.

Читать далее
Total votes 9: ↑6 and ↓3+3
Comments4

Отдача от глубокого обучения снижается. Что с этим делать

Reading time12 min
Views12K

В настоящее время глубокое обучение используется для перевода, прогнозирования укладки белков, анализа рентгеновских и других медицинских снимков , а также для игр, столь сложных как го  - вот лишь некоторые варианты применения этой технологии, которая становится всепроникающей. Успех в этой и других отраслях привел технологию машинного обучения от безвестности в нулевые до доминирования сегодня.

Хотя, славные дни глубокого обучения начались сравнительно недавно, зародилась эта парадигма много лет назад. В 1958 году, когда компьютеры-мейнфреймы еще занимали целые залы и работали на электронно-лучевых трубках, Фрэнк Розенблатт из Корнельского университета, исходя из знаний о том, как устроены связи между нейронами в мозге, спроектировал первую нейронную сеть, которую прозорливо описал как «устройство для распознавания образов». Но амбиции Розенблатта сильно опережали его время – и он об этом знал. Даже в своей инаугурационной статье он был вынужден признать, с каким волчьим аппетитом нейронная сеть жрет вычислительные ресурсы, сетуя на то, что «по мере того, как количество связей в сети растет… нагрузка на традиционный цифровой компьютер вскоре становится чрезмерной».  

Читать далее
Total votes 25: ↑23 and ↓2+21
Comments27

Из классической механики получили квантовую. Опять

Reading time6 min
Views20K

Всем известно, что классическая механика является предельным случаем квантовой с одной стороны и теории относительности – с другой. Последние две наиболее точно описывают реальность, в то время как первая считается лишь удобным частным случаем. Из квантовой физики можно получить классическую, но не наоборот.

Еще один важный момент заключается в том, что многими по умолчанию подразумевается полнота волновой функции и фундаментальность уравнения Шредингера.

Но догмы имеют обыденность рушиться: теоремы о запрете признаются несостоятельными, скрытые переменные (как локальные так и не очень) имеют место быть, энтропия замкнутой системы может уменьшаться, а убеждения касательно кривизны вселенной регулярно обламываются новыми измерениями.

Читать далее
Total votes 40: ↑37 and ↓3+34
Comments77

Позиция науки: что такое регрессивная гипнотерапия и как гипноз помогает путешествовать в прошлое

Reading time11 min
Views36K

Если взять за основу работы школы Павлова, то в гипнозе как в редком, и отсюда возможно интересном феномене, мало чего удивительного. Обычная ультра парадоксальная стадия, которая вызывает состояние "внушенного сна наяву". Поэтому будем держаться классической теории советских клиницистов и разберем по полочкам внутреннюю кухню гипнотерапии и отдельно стадии гипноза. Для желающих углубиться в предмет есть две фундаментальные монография Платонова К. И. "Слово как физиологический и лечебный фактор" и книга Лифшица С.Я. "Гипноанализ инфантильных травм у истериков".

Читать далее
Total votes 22: ↑11 and ↓110
Comments26

Детерминизм vs. квантовая механика, или можно ли предсказывать будущее

Reading time10 min
Views24K

Это статья о том, совместима ли детерминистическая картина мира с квантовой механикой, откуда в ней появляется фундаментальный рандом, как это должно влиять на наше мировосприятие, а также можно ли (гипотетически) достаточно точно моделировать будущее, хотя бы в терминах вероятностей (спойлер: вероятно, нет).

Читать далее
Total votes 18: ↑18 and ↓0+18
Comments92

О когнитивистике на русском

Reading time12 min
Views21K

Всем здравствуйте. Я когнитивист-теоретик. На протяжении своей недолгой научной карьеры я пытаюсь объяснить родственникам и друзьям, чем занимаюсь. Этот пост консолидирует некоторые мои ответы о том, что такое когнитивистика, что делать, если объект вашего изучения — самый чернейший ящик, почему междисциплинарные исследования с отсутствием единой методологии — это ОК, и есть ли шансы извлечь из всего этого какую-то пользу. Спойлер: да, недаром крупные западные университеты ежегодно штампуют когнитивистов в промышленном масштабе, и все они куда-то (благополучно) деваются.

В изложении я буду придерживаться пусть и упрощенного, но профессионального языка моей специальности, чтобы, кроме всего прочего, донести атмосферу. Если это станет препятствием для понимания и диалога — жалуйтесь!

Читать далее
Total votes 29: ↑25 and ↓4+21
Comments87

Нейрофизиология осознанности: как медитация влияет на наш мозг (на этот раз по делу)

Reading time4 min
Views31K
В этом году здесь уже была статья с таким названием, но по странной иронии она не раскрывала содержание своего заголовка. Я постараюсь это исправить, ведь сама тема интересная и полезная.

Есть так называемая практика осознанности, иногда полностью состоящая из наблюдения за своим дыханием, и есть множество положительных эффектов, которые с ней коррелируют — стрессоустойчивость, уменьшение тревожности, повышение обучаемости и другие, вплоть до полного прекращения страдания. Но почему это происходит? Как связано монотонное скучное внимание к дыханию c улучшением мозговой деятельности и почему именно это всё называется осознанностью (mindfulness)?
Читать дальше →
Total votes 38: ↑31 and ↓7+24
Comments79

Сбер выложил русскоязычную модель GPT-3 Large с 760 миллионами параметров в открытый доступ

Reading time10 min
Views172K
Последнее десятилетие в области компьютерных технологий ознаменовалось началом новой «весны искусственного интеллекта». Впрочем, ситуацию в индустрии в наши дни можно, наверное, охарактеризовать уже не как весну, а полноценное «лето ИИ». Судите сами, за последние неполные 10 лет только в области обработки естественного языка (Natural language processing, NLP) произошли уже две настоящие технологические революции. Появившаяся в результате второй из них модель GPT-3 произвела настоящий фурор не только в технологических медиа, но стала знаменитой далеко за пределами научного сообщества. Например, GPT-3 написала для издания «The Guardian» эссе о том, почему ИИ не угрожает людям. GPT-3 сочиняет стихи и прозу, выполняет переводы, ведёт диалоги, даёт ответы на вопросы, хотя никогда специально не училась выполнять эти задачи. До недавних пор все возможности GPT-3 могли по достоинству оценить лишь англоязычные пользователи. Мы в Сбере решили исправить эту досадную оплошность. И сейчас расскажем вам, что из этого получилось.


Источник изображения
Читать дальше →
Total votes 165: ↑160 and ↓5+155
Comments241

Квантовая теория. Вселенная из волн вероятностей

Reading time24 min
Views77K
Квантовая теория является одной из самых точных моделей, описывающих окружающий нас мир, а технические решения, разработанные благодаря применению аппарата квантовой механики, прочно вошли в повседневную жизнь современного общества. И тем удивительнее, что понимание даже базовых концепций этой сферы знаний вступает в серьезные противоречия с интуицией, не только людей далеких от науки, но и самих исследователей, подтверждением чему является большое количество различных интерпретаций. В этой статье, предлагаю рассмотреть основные понятия квантовой теории с показавшейся автору наиболее интуитивно-понятной точки зрения, несколько модифицированной теории вероятностей.

image Что будет, если по аналогии с двущелевым опытом, все пространство на пути частицы до экрана будет заполнено щелями?
Читать дальше →
Total votes 74: ↑71 and ↓3+68
Comments153

Можно ли воссоздать полную нейросеть мыши из тонких послойных разрезов мозга?

Reading time13 min
Views23K
image
Источник фото
Карликовая многозубка, самое маленькое млекопитающее по массе. Внутри маленький целостный сложный мозг, который уже принципиально можно картировать

Короткий ответ — можно, но не полную и не очень точную. То есть мы ещё не можем скопировать её сознание, но приблизились к этому как никогда. Проживите ещё лет двадцать — и, возможно, ваш мозг тоже получится забэкапить.

Чтобы приблизиться к оцифровке сознания и такому экзотическому виду бессмертия, стоит сначала разобраться с живыми нейронными сетями. Их реверс-инжиниринг показывает нам, как вообще может быть устроен процесс мышления (вычислений) в хорошо оптимизированных системах.

60 лет назад, 13 сентября 1960 года, учёные собрали первый симпозиум из биологов и инженеров, чтобы они могли разобраться, в чём же разница между сложной машиной и организмом. И есть ли она вообще. Науку назвали бионикой, а целью обозначили применение методов биологических систем к прикладной инженерии и новым технологиям. Биосистемы рассматривались как высокоэффективные прототипы новой техники.

Военный нейроанатом Джек Стил стал одним из людей, заметно повлиявших на дальнейший прогресс в области технологий, в том числе в области ИИ, где развитие получили такие направления, как нейроморфная инженерия и биоинспирированные вычисления. Стил был медиком, разбирался в психиатрии, увлекался архитектурой, умел управлять самолётом и сам чинил свою технику, то есть был вполне неплохим прикладным инженером. Научная работа Стила стала прообразом сценария фильма «Киборг». Так что с некоторой натяжкой можно назвать его прадедушкой Терминатора. А где Терминатор, там и Скайнет, как известно.

Этот пост написан на основе материалов будущей книги нашего коллеги Сергея Маркова «Охота на электроовец: большая книга искусственного интеллекта».
Читать дальше →
Total votes 70: ↑69 and ↓1+68
Comments96

Дуализм частица-волна: наглядно

Reading time4 min
Views27K

«Если вам кажется, что вы понимаете квантовую теорию… то вы не понимаете квантовую теорию.» — Фейнман Р., лекции «Характер физических законов» (1964), гл. 6.


Это и подобные высказывания о непостижимости законов квантовой механики всегда раздражали меня. Корпускулярно-волновой дуализм, свойства квантовых частиц вести себя как волны и как частицы — неужели нельзя их понять наглядно, увидеть не как поведение математических решений, а воочию? В этом обзоре я представлю результаты, оспаривающие этот мистицизм.

Total votes 16: ↑15 and ↓1+14
Comments86

Сознание и мозг

Reading time29 min
Views46K

Сознание — рефлексия субъектом действительности, своей деятельности, самого себя. Оно порождается не природой, а самим человеком и окружающим миром, семьей, обществом.
В свое время Г. В. Ф. Гегелем были высказаны идеи о трех слоях в его учении о субъективном духе, который выделял три ступени в развитии субъективного духа: антропологию, феноменологию и психологию. Сегодня этот подход вполне применим к сознанию.
Читать дальше →
Total votes 25: ↑19 and ↓6+13
Comments51

Будущее математики?

Reading time7 min
Views40K
В этом переводе презентации британского математика Кевина Баззарда мы увидим, что следующий комикс xkcd безнадежно устарел.

image

Каково будущее математики?


  • В 1990-х компьютеры стали играть в шахматы лучше людей.
  • В 2018 компьютеры стали играть в го лучше людей.
  • В 2019 исследователь искусственного интеллекта Christian Szegedy сказал мне, что через 10 лет компьютеры будут доказывать теоремы лучше, чем люди.

Конечно, он может быть не прав. А может быть и прав.
Читать дальше →
Total votes 104: ↑104 and ↓0+104
Comments202

Модели мира. Могут ли агенты учиться в своем воображении?

Reading time7 min
Views2.6K
От переводчика: вопросы, поднятые в прошлой моей статье (видимо не слишком удачной) тем не менее вывели меня (огромное спасибо комраду Kilorad за ссылку!) на материал, который я посчитал необходимым перевести и выложить сюда. Да, я, к сожалению, посредственно владею как языком оригинала, так и собственно темой, но… Этот материал должен здесь быть! Готов к всяческим дополнениям/поправкам/критике (перевода, ибо исходная работа не моя) — дабы все было корректно.

Аннотация


Мы исследуем построение моделей популярных сред обучения с подкреплением генеративными нейронными сетями. Наша модель мира может быть быстро обучена (без учителя), чтобы сформировать сжатое пространственное и временное представление окружающей среды. Используя паттерны (features), из модели мира в качестве входных данных для агента, мы можем получить очень компактную и простую стратегию для достижения поставленных целей. Мы даже можем обучить агента полностью в «его воображении» (в среде, воссозданной по его модели мира) и перенести полученную стратегию обратно в реальный исходный мир.
Читать дальше →
Total votes 6: ↑6 and ↓0+6
Comments49
1
23 ...

Information

Rating
Does not participate
Registered
Activity