Pull to refresh
106
0
Роман Левентов @leventov

Исследователь этики и безопасности ИИ

Send message

Йошуа Бенжио о замедлении развития ИИ-систем, которые проходят тест Тьюринга

Level of difficultyEasy
Reading time7 min
Views3.5K

Примечание переводчика: Йошуа Бенжио это один из самых авторитетных и цитируемых исследователей ИИ в мире. Он получил премию Тьюринга в 2018 году вместе с Джеффри Хинтоном и Яном Лекуном за развитие алгоритмов и теории искусственного интеллекта. Из этой троицы, Хинтон, как и Бенжио, тоже, кажется, сильно обеспокоен траекторией развития ИИ. Лекун наиболее оптимистичен и наименее озабочен. Завтра, в пятницу, Лекун вместе с Эндрю Нг проведут вебинар, на котором расскажут, почему они против идеи замедления развития систем, более мощных, чем GPT-4.

Читать далее
Total votes 9: ↑5 and ↓4+1
Comments7

Психология ИИ должна проверять теории сознания в ИИ и информировать дизайн взаимодействия людей и ИИ

Reading time5 min
Views2.1K

Данный пост - продолжение поста пользователя Buck "The case for becoming a black-box investigator of language models". Я хочу выделить еще две причины для изучения поведенческой психологии ИИ, о которых Buck не упомянул: 1) данные по психологии ИИ будут нужны для проверки теорий сознания в ИИ; и 2) психология ИИ должна информировать дизайн интерфейсов взаимодействия человека и ИИ, их ограничений, а также правил и принципов поведения людей и ИИ в средах из взаимодействия.

Читать далее
Total votes 14: ↑6 and ↓8-2
Comments60

Порочный круг эпистемической безответственности, или «А чо такова?»

Reading time11 min
Views4.7K

Проблема эпистемической безответственности, как я назову ее в этом посте, состоит в том, что люди иногда соглашаются, что их рассуждения (и, следовательно, модели, которых они придерживаются и используют в качестве основы для своих действий) иррациональны или нелогичны. Например, люди сознательно используют уже опровергнутые теории, например, астрологию. Тем не менее, люди не действуют в соответствии с этим знанием и не обновляют свои модели и планы действий.

Более «мягкая» версия этой проблемы возникает, когда люди соглашаются, что они не знают, рациональны ли их рассуждения: например, потому, что они не искали никаких фактов, опровергающих теории, которыми они пользуются, или не пытались придумать какие-либо аргументы, опровергающие их рассуждения или модели. Также, люди могут не знать, как проверить, верна их теория или нет, т. е. не владеют необходимым эпистемологическим аппаратом (хотя эти люди едва ли будут мыслить такими категориями). Затем, люди не действуют в соответствии с этим "знанием о своем незнании". Примерами этой версии проблемы эпистемической безответсвенности могут служить некритическое восприятие людьми новостей в СМИ или заявлений, сделанных политиками, и, в некоторой степени, плохие научные практики, например описанные в эссе Ричарда Фейнмана "Cargo Cult Science".

Анатолий Левенчук называет эту пробему "А чо такова?" и обсуждает этом посте, а также по ссылкам из него.

Читать далее
Total votes 31: ↑26 and ↓5+21
Comments50

Кто нанимает в русскоязычные команды вне РФ и Беларуси? (апрель 2022)

Reading time3 min
Views53K

После 24-го февраля появились десятки каналов в Телеграме, постов на VC, Хабре, страничек в Notion, которые собирают компании с удаленкой и релокацией. Но я не нашел ресурсов или каналов, которые концентрируются на одном аспекте: русском языке общения в командах.

Гораздо сложнее уехать тем, у кого уровень английского - средний и ниже. Но даже специалистам с хорошим английским бывает сложно влиться в культуру западных компаний. В конце концов, кому-то просто хочется говорить на работе по-русски.

Для этих людей я собрал в этом посте какие-то компании с русскоязычными командами разработки, которые релоцируют из РФ и Беларуси сейчас (то есть это не компании в Прибалтике, Польше и Чехии), либо позволяют удаленку из-за границ РФ с зарплатой в долларах или евро.

Пост не претендует на полноту или оригинальность. Хочется сделать русско-эмигрантский аналог постов Who is hiring? на Hacker News, где участники сообщества рекламируют вакансии в своих фирмах в комментариях.

На мой взгляд, это важный аспект, потому для ИТ-специалиста с хорошим английским, у которого главная цель - уехать из РФ или Беларуси, найти работу - вообще не проблема даже без всяких чатов и каналов. Английский - единственный профессиональных язык общения в огромном количестве компаний в Англии, Германии, Швеции, ОАЭ, Юго-Восточной Азии, куда довольно легко попасть (потому что сейчас везде острая нехватка специалистов), а релоцируют быстро и без особых проблем.

Читать далее
Total votes 33: ↑28 and ↓5+23
Comments18

Самый простой шаг к глобальной устойчивости биосферы

Reading time6 min
Views6.7K

Практически все аспекты декарбонизации и достижения глобальной устойчивости, такие как транспорт, атомная энергетика, солнечные панели, ветряки, водород, прямой захват углерода, биотопливо, практики сельского хозяйства, и многие другие вызывают ожесточенные споры и разногласия.

Кто-то доказывает, что на большом масштабе (а не масштабе пилотных проектов) тот или иной подход перестанут работать, или их побочные эффекты перекроют пользу: например, так говорят про солнце/ветер, прямой захват углерода, и, иногда, электромобили.

Другие сомневаются в том, что мы сможем добывать достаточное количество металлов, чтобы производить батарейки или солнечные панели, или волнуются об их влиянии на экологию, если мы не будем их полностью перерабатывать. Атомная энергетика - это, конечно, самый главный объект аргументов в духе "давайте подумаем о рисках".

Третьи сомневаются в экономической или энергетической целесообразности некоторых подходов в целом. Например, я недавно переводил статью о целесообразности водорода на транспорте (и в энергетике).

Наконец, изменение климата, хотя и очень важная проблема, как мне кажется, занимает непропорционально много внимания людей по сравнению с другими проблемами устойчивости, таких как продолжающееся вымирание видов (в тропиках), сокращение популяции рыб, сокращение популяции насекомых и птиц в средних широтах, эрозия и загрязнение почв, и др.

В этом мутном облаке обсуждений, сомнений, и чувства беспомощности, мы почти забываем об одной эффективной, очень технически простой, абсолютно экономичной, и безрисковой идее, которая "покупает" человечеству 20-30 лишних лет на совершенствование технологий. Эта идея - есть гораздо меньше рыбы и красного мяса, а освобождающиеся пастбища и поля засадить лесом.

Читать далее
Total votes 34: ↑24 and ↓10+14
Comments179

Водородный транспорт — хорошая идея только в теории

Reading time13 min
Views56K

Некоторые люди совершенно очарованы идеей об электрических автомобилях на водородных топливных элементах (ТЭ). Как можно не очароваться? На вход подается водород, абсолютно "чистое" топливо, а на выходе получается только вода или пар, и никакого углекислого газа, оксидов азота, сажи, и т. д. Водородный двигатель — тихий и компактный. Это не тепловой двигатель, и поэтому на него не распространяются жесткие ограничения цикла Карно. Заправка очень быстрая и не сильно сложнее чем обычная бензиновая заправка.

Кроме того, если вы — нефтяная компания, и спрос на бензин и дизель начнет уменьшаться, вы только что обнаружили новое топливо, которое можно продавать! Вы спасены!

Все правильно?
Total votes 55: ↑54 and ↓1+53
Comments604

Алгоритм для рейтинга комментариев, поощряющий хорошие аргументы

Reading time4 min
Views6K

Сайты вроде Хабра, Пикабу, Реддита, и Hacker News имеют древовидные системы комментариев к постам. Зарегистрированные пользователи могут голосовать за комментарии. Сайты используют рейтинги комментариев двумя способами:

- Управляют вниманием читателей комментариев. "Лучшие" комментарии отображаются сразу под постом, "худшие" - в подвале. Хабр почти не управляет вниманием читателей: он лишь блюрит "плохие" комментарии, но не переупорядочивает их. Впрочем, я (как наверное и многие другие читатели) часто листаю комментарии только цепляясь взглядом за двузначное значение рейтинга.

- Дают какие-то плюшки авторам "хороших" комментариев. Например, в некоторых сабреддитах нужно иметь определенный рейтинг комментариев в данном сабреддите чтобы опубликовать пост.

Кроме того, рейтинг комментариев, естественно, влияет на их авторов: положительный рейтинг поощряет авторов писать больше таких комментариев, а отрицательный - меньше. Таким образом, рейтинги комментариев еще неявно влияют на дискуссию на сайте.

Читать далее
Total votes 27: ↑23 and ↓4+19
Comments67

Проблемы с конкурентностью, которые вы регулярно замечаете в коде на Го?

Reading time1 min
Views4.2K

Короткий пост, основной ценностью которого станут комментарии (я надеюсь).

Я перешел на Го довольно недавно. Пока отметил три проблемы.

Читать далее
Total votes 21: ↑4 and ↓17-13
Comments4

«Культурный код: секреты чрезвычайно успешных групп и организаций» — заметки из книги

Reading time10 min
Views7.9K
Я прослушал книгу "Культурный код" Даниела Койла ("The Culture Code: The Secrets of Highly Successful Groups" by Daniel Coyle) после прочтения отрывка, который оставил впечатление «вот оно!»

Вся книга оказалась на том же уровне, что и вступление. Она полностью поменяла мое представление о работе в командах. Пока из всех книг о работе которые я прочитал, я думаю что «Культурный код» повлиял на меня больше всего. На второе место и третье место я бы поставил "В работу с головой" Кэла Ньюпорта ("Deep Work" by Cal Newport) и "Принципы" Рэя Далио ("Principles: Life and Work" by Ray Dalio).

На мой взгляд, «Культурный код» обязателен к прочтению всем, кто работает в команде.

Этот пост — мои заметки из книги.
Читать дальше →
Total votes 10: ↑9 and ↓1+8
Comments14

Как найти работу в компании, которая помогает бороться с глобальным потеплением?

Reading time10 min
Views3.8K


Я — программист. Несколько месяцев назад я решил найти работу в компании, которая как-то помогает бороться с глобальным потеплением.

Гугл сразу привел меня в статью Брета Виктора "What can a technologist do about climate change?". Статья помогла мне в целом сориентироваться в моем поиске, но все же оказалась частью устаревшей, частью непрактичной в деталях. Поэтому основную массу черновой работы по поиску и систематизации возможностей мне пришлось проделать самому.

Цель этого поста — сэкономить ваше время, если вы также задумываетесь о работе против изменения климата, а также перечислить как можно больше доступных направлений.
Читать дальше →
Total votes 35: ↑8 and ↓27-19
Comments86

Большой JVM-опрос: версии Java, альтернативные JVM-языки, версии Java EE

Reading time1 min
Views16K
image

С прошлого аналогичного опроса прошло больше года, и пришла пора его повторить и расширить.

Ретроспектива:
Какие версии Java вы используете? — 18 февраля 2015
Какие версии Java вы используете? — 14 февраля 2014

Опросы под катом
Total votes 18: ↑16 and ↓2+14
Comments104

Зачем нужен свободный код и как на нем зарабатывать

Reading time5 min
Views67K
Linux Torvalds
Мы наблюдаем бум свободных проектов. В основном, благодаря Гитхабу. 23 декабря 2013 года на сервисе был создан 10-миллионный проект. К 23 декабря 2015 года количество проектов более чем утроится: прямо сейчас на Гитхабе 28 миллионов проектов.

Многих привлекает идея свободности, потому что она перекликается с идеей «улучшения мира», как основной мотивации продуктивной деятельности человека.

Но так как обычная работа программистов в конторах очень далека от open source, возникает вопрос, как кормиться (а желательно, и разбогатеть!), большую часть времени занимаясь свободными проектами.

Судя по последним вопросам на Тостере, у людей много ожиданий, но мало понимания в этой области. Поэтому я решил написать это эссе.

Само по себе выкладывание проекта не является улучшением мира


Польза миру это либо польза людям, либо природе, либо культуре/гуманизму, либо экономике, либо науке. Первые три категории не имеют ничего общего со свободным кодом, потому что людям, природе и культуре прекрасно помогает несвободный код. Пользу науке часто рассматривают как ту же помощь экономике, только в очень далекой перспективе, хотя большинство ученых с этим не согласно, считая познание мира самостоятельной ценностью. Но еще учитывая и то, что свободный программный проект с научной новизной — экзотика, сконцентрируемся на том, как свободный код помогает экономике.

Вы выложили код. Чем вы помогли экономике в этот момент? Ничем, поэтому и миру вы пока ничем не помогли.

Ваш проект может спасать людей от рака, быть бесплатным, экономить миллионы долларов, и при этом быть закрытым.

Сконцентрируйтесь не на том, чем вообще полезен ваш проект, а чем полезна его свободность.

Синергетический эффект свободного кода


Читать дальше →
Total votes 89: ↑68 and ↓21+47
Comments108

Статистика кода JDK 7

Reading time7 min
Views16K
Захотелось получить статистику Java исходников и узнать, сколько в среднем бывает параметров у методов, методов в классах, конструкторов и т. д. Вопрос не совсем праздный, потому что на основе этих данных можно вычислить оптимальный размер по умолчанию для контейнеров для этих сущностей в программной модели кода (AST), чтобы сэкономить память. В частности, речь идет о проекте Spoon. С помощью этой библиотеки я и провел анализ, кстати.

Что может быть логичнее, чем протестировать статистику исходников JDK, чтобы делать некие предположения о любом Java-коде. Попутно я собрал самые необычные экземпляры — например, методы с наибольшим кол-вом параметров.
Читать дальше →
Total votes 27: ↑22 and ↓5+17
Comments12

Все уже украдено до нас

Reading time4 min
Views80K
image

Думаю, у многих хоть раз была мысль — я родился слишком поздно, все уже открыто, придумано и т. д.

Хорошо Декарту, или, тем более, всяким древнегреческим математикам, доказывать простенькие теоремки и вписывать свое имя в историю. Сейчас далеко не каждый (да что там, единицы на тысячи человек) физически способны добраться до переднего края науки, не выбросившись из окна главного корпуса МГУ по пути.

Хорошо ушлым ребятам в начале девяностых, поднимали миллионные бизнесы буквально с полоборота. Хорошо тем, кто вовремя прочухал перспективность интернета и открыл сайты в очевидных пустующих нишах. Брину и Пейджу, ведь когда они запускали Гугл, еще не было Гугла.

Джобс собирал компьютеры в гараже и продавал. Сейчас запуск нового техпроцесса обходится Интелу в миллиарды долларов.

Короче, слишком сложно нынче пробиться. Очень высокая конкуренция, куда ни плюнь.

У меня есть для вас обнадеживающая новость. В мире разработки ПО это абсолютно не так. Нерешенные задачи россыпями валяются на дороге, некому взять и сделать.
Читать дальше →
Total votes 115: ↑93 and ↓22+71
Comments154

Проверочное состояние в Java

Reading time2 min
Views22K
Ключевое слово assert (проверка) появилось в Java 1.4. Мне кажется, многие до сих пор стараются его избегать, или заворачивать в утилитные статические методы с возможностью быстро поменять assert condition : message; на
if (!condition)
    throw new AssertionError(message);

по всему коду. Кто-то боится, что проверки недостаточно надежные, и если кто-то забудет их включить, какие-то баги останутся незамеченными. Кто-то, наоборот, маниакально думает о производительности: если кто-то включит проверки для подсистемы/библиотеки, написанной ребятами из первой группы, и забудет исключить пакеты или классы «производительной» библиотеки, исполнение будет замедленно бесполезными вычислениями.

Хотя, по-моему, ничего страшного в проверках нет, их можно и нужно расставлять по коду как можно щедрее. Во-первых, как я уже упомянул (но для кого-то это может оказаться в новинку), проверки можно гибко настраивать (включать/отключать в пакетах и отдельных классах) как из командной строки при запуске JVM, так и программно (через ClassLoader), так что если вы вдруг захотите включить проверки в одной системе и выключить — в другой, это уж точно решаемая проблема.

Во-вторых, иногда хочется проверять не тривиальные условия вроде какая-то булева переменная == false или true, а поддерживать некоторое проверочное состояние внутри класса и сверяться с ним в методах. С помощью трюка с assert можно добиться этого практически бесплатно при исполнении с отключенными проверками.
Читать дальше →
Total votes 24: ↑16 and ↓8+8
Comments44

Битва key-value хранилищ

Reading time2 min
Views54K

Какие key-value хранилища вы используете в бою?


Позаимствовал список с сайта db-engines.com (кстати, очень любопытный сайт, рекомендую), включил все базы с ненулевой «популярностью» оттуда. Не отмечайте базы которые просто пробовали/интересно, а только те, что крутятся и приносят деньги вашей компании прямо сейчас.

Обратите внимание: MongoDB это НЕ key-value хранилище, однако за нее можно проголосовать, см. пункт «Хранилище документов в качестве key-value».

Пишите, если забыл какую-то популярную базу (т. е. забыли авторы сайта db-engines.com), добавлю в опрос.

Какие свойства key-value хранилища вам важны?

Читать дальше →
Total votes 62: ↑46 and ↓16+30
Comments57

Проблема профиля GeekTimes

Reading time2 min
Views6.8K
Сначала хотел написать это размышление как к комментарий к новости о выделении GeekTimes.

Господа Тематические Медиа!

В целом, что-то мне эта идея подозрительно не нравится. Все-таки IT-тематика, в первую очередь, программирование, была таким рефреном во всем Хабре, даже в абсолютно непрофильных постах в комментариях часто обсуждались вещи, как-то связанные с программированием.

Да даже это не главное. Вспомните, что с 2008 (или 2009?) года не программисту, причем не хорошему, стало на Хабр очень сложно попасть. То есть пишуше-комментаторская аудитория была цельная, даже обсуждая всякую хрень.

Если вы определяете GT как «сайт для гиков, но обо всем подряд», то получается, что вытащили из него сердцевину, корень, не оставляя определяющего направления. Вот вам метафора: если вы спилите дерево и воткнете ствол (GT) в землю, он засохнет через месяц, а из пня и корневища (Хабр) попрут новые побеги (непрофильные посты). Но если вы отпилите веточку (определенную тему), прикопаете и польете, у нее будет шанс пустить свои собственные корни. (Это называется вегетативное размножение.)
Читать дальше →
Total votes 106: ↑80 and ↓26+54
Comments35

Метахабы — зло

Reading time2 min
Views3K
Метахабы — это хабы общей направленности, на которые нет смысла подписывается (если вы вообще пытаетесь фильтровать Хабр), потому что в лучшем случае на один пост в сфере ваших интересов там будет два-три вообще не для вас.

Метахабы — чистое зло, потому что теоретически интересные для меня посты до меня не доходят, так как авторы кладут их только в метахабы, либо занимают место среди трех хабов (в которые можно положить пост) одним-двумя метахабами, и на тематические, но чуть менее релевантные хабы места не хватает.

Я писал об этой проблеме ровно год назад, писал в поддержку, но безрезультатно. Надеюсь привлечь этим постом внимание к проблеме. (Справедливости ради, за год как минимум удалили потрясающе бессмысленный хаб Переводы, но этого недостаточно.)

Для примера разберу метахабы из раздела «Программирование»:
  • Программирование
  • Веб-разработка

Читать дальше →
Total votes 37: ↑19 and ↓18+1
Comments18

Что используете для IM на смартфонах?

Reading time1 min
Views13K
Рынок соцсетей уже пару лет как поделен и относительно стабилен, сейчас основная движуха идет на рынке мгновенных сообщений на смартфонах и планшетах. Интересно, какова ситуация в гиковой русскоязычной среде. Предыдущий и в чем-то аналогичный опрос на Хабре: Общение в интернете: раньше и теперь.
Читать дальше →
Total votes 22: ↑11 and ↓110
Comments32

Статистика Github

Reading time31 min
Views34K

О публикации кода на Github или другом открытом хостинге часто говорят, как о такой живительной эвтаназии, после которой патчи, фиксы, сообщения о проблемах и прочие коммиты от сторонних разработчиков польются рекой. У меня пока противоположный опыт. В парочку моих относительно заметных проектов вообще никто и ничего реально не привнес, не говоря уж об остальных проектах. Более того, я несколько раз делал очень серьезные изменения/улучшения в чужие проекты, но их авторы морозились и не приняли изменения. Исходя из этого я развил теорию: мол, вся эта открытость и коллаборация — это красивые слова, реально все пилят что-то свое и зарабатывать деньги или пиар кому-то другому совершенно не горят желанием. Чтобы проверить теорию, я посчитал кое-какую статистику по всем репозиториям на Github, у которых больше 700 звездочек, таких чуть больше 4 тысяч.

Ни одной картинки, но много больших таблиц
Total votes 53: ↑42 and ↓11+31
Comments36

Information

Rating
5,017-th
Date of birth
Registered
Activity