Articles / Profile of kraidiky / Habr

@kraidiky

User

Profile Publications 15Comments 1.5KBookmarks 92

kraidiky Apr 3 2023 at 14:21

Мы пока не на столько умны, чтобы создать искусственный интеллект, который нас пощадит

Easy

13 min

Popular scienceArtificial Intelligence

Opinion

Мы пока не на столько умны, чтобы создать искусственный интеллект, который нас пощадит.

«Шок Будущего» в который человечество повергло появление ChatGPT, вызвал огромное обсуждение вопросов безопасности AI. Ещё месяц или даже неделю назад серьёзные специалисты в машинном обучении с презрением обходили стороной вопросы общего искуcственного интеллекта, как удела сторонних наблюдателей. И вдруг все, включая специалистов, вспомнили свои страхи, надежды и соображения связанные с ИИ человеческого и сверхчеловеческого уровня. За последнее время я читал множество таких рассуждений, и ни у кого пока не увидел один аргумент, который непосредственно относится к устройству ChatGPT и делает его очень опасным, словно это какая‑то слепая зона. Ну, если никто, то я. «Душа поэта не вытерпела безвестности, и он щедро делится своими высокими идеями.» © анонимус

Я покажу тебе, глубока ли кроличья нора.

kraidiky Mar 12 2021 at 12:05

Было ли вчерашнее падение Ростелекома кибератакой?

2 min

9.8K

Information Security*Network technologies*IT-companies

Recovery Mode

Сначала вопрос: если бы вы, будучи ростелекомовцем узнали, что как и обещал Байден несколько дней назад на Россию будет совершена кибератака, которую вы пропустили из-за устаревшего оборудования, стали бы вы об этом объявлять публично? Какие должны были быть ответные действия Ростелекома и государства, если бы это было правдой? Опрос в конце статьи.

Поскольку в комментариях, которые я успел прочитать, версия никем не обсуждалась, несмотря на то, что напрашивалась, не могу не поделиться сообщением от C.ber...g.me (название запикано, чтобы не сочли за рекламу, но и не сослаться на авторов тоже было бы нечестно), и распостранённого экспертами одного автострадного тинктанка:

«Пара слов про вчерашнее падение государственных и некоторых других сайтов.

Вы, наверное, уже видели сообщения из анонимных источников о том, что BGP-анонс со специально сформированным payload якобы уронил маршрутизаторы Juniper в Ростелекоме (и, наверное, даже посмеялись над этой новостью, ибо Juniper с версией 16.7 существовать не может по определению).

Мы тут смеяться не стали, а пошли выяснять, какие есть возможности.

Читать дальше →

kraidiky Jan 19 2021 at 03:19

Взломы и Вакцины, всё как вы любите…

7 min

17K

Information Security*Antivirus protection*BiotechnologiesHealth

За ссылки и первую часть текста спасибо SecAtor.

Европейское медицинское агентство (ЕМА) признало на прошлой неделе факт утечки в сеть некоторых данных в отношении лекарств и вакцин от COVID-19, полученных хакерами в результате компрометации ее сети. При этом ЕМА сообщает, что на ее работу и работу европейской сети регулирования лекарственных средств инцидент никак не повлиял, утверждение и распространение вакцин не нарушено. Призывают уголовно наказать виновных если поймают. "Если" как лаконично высказались когда-то жители Лаконии.

twitter.com/CryptoInsane/status/1349835605027516417
twitter.com/CryptoInsane/status/1350006585641340929
Хакеры слили украденные данные в отношении вакцины Pfizer в паблик. Перуанский исследователь CryptoInsane разметил сегодня в Twitter два сообщения, в которых сообщил об утечках данных, вероятно через специализированные сайты. По первой части в комментариях поминается ransomware Conti, во второй solarleaks.net

И, наконец, завершающая часть - французские журналисты из Le Monde изучили утечку данных в отношении вакцины Pfizer и выяснили, что на EMA оказывалось давление со стороны руководства Евросоюза с целью оформить скорейшее одобрение файзеровской вакцины для применения в ЕС. При этом нарушения EMA выявило серьезные, вплоть до того, что применяемые в ходе клинических испытаний образцы вакцины не соответствовали тем, которые поставлялись для самой вакцинации.

Знаю, что многие на Хабре хотели привиться именно этой вакциной, ну потому что понятно, Европе как-то побольше доверия. Если вы уже кинули минус в карму автору, можете заглянуть под кат посмотреть подробности

того что накопали французские журналисты..

+31

kraidiky Nov 3 2020 at 12:58

Навеянное Prolog-ом коммерческое решение пробыло больше 10 лет в эксплуатации

13 min

5.1K

Game development*Prolog*Artificial Intelligence

Для большинства программистов которые хотя бы слышали про Prolog это только странный артефакт из времён когда компьютеры были размером с динозавров. Некоторые сдали и забыли в институте. И лишь узкие как листочек A4 специалисты сталкивались с чем-то подобным в современном мире. Так уж получилось, что далёком 2003-ем году я использовал некоторые решения подчерпнутые из Prolog-а, в коммерческих играх на Flash и больше десятилетия они радовали французов. Причём применил я это полудекларативное решение не потому что прочитал книжку Братко и впечатлился, а потому что это было реально нужно нашему проекту. Я до сих пор регулярно порываюсь воспроизвести то решение на современном уровне, потому что оно очень много где было бы полезным в современном игрострое, но, к сожалению, каждый раз находятся дела поважнее… В общем об этом всём и расскажу.

Скриншот той самой флэшовой игры до сих пор приветствует вас на сайте toox.com/jeux/jeux-de-cartes/coinche

Ещё раз предупреждаю, всё что будет дальше не про Prolog, а про надёрганные из него идеи

+24

kraidiky Aug 8 2020 at 11:54

Похудеть без самоистязаний и СМС

2 min

11K

Health

Это будет очень короткая статья. Открыл я «Просто похудеть» — непросто и дочитал её ровно до слов «Спорт не приводит к сбросу веса. Точка.» Чё???

Лично мой максимальный вес 104кг, что при моём росте в 175 даёт Индекс Массы Тела 34, попросту говоря ожирение. И я не диабетик, так что оправданий никаких. Лично мой минимальный вес, полученный без каких либо ограничений в пище и державшийся несколько лет 91кг, что всего лишь выше нормы, и нормально для человека выжимающего ногами 230 килограмм никогда в жизни не качавшись.

Для этого нужно всего лишь...

kraidiky Jun 29 2020 at 17:13

Играем в Бога, причиняем непрошеную помощь науке и немножечко Сингулярности

8 min

5.2K

Popular scienceBiotechnologies

Если вы хотя бы на пол шишечки интересуетесь современной наукой, то знаете кто такой Марков. Лауреат премии «Просветитель», реально просветитель, автор кучи прекрасных книг, и афигенных роликов на ютубе, а ещё основной двигатель сайта elementy.ru, отличающегося тем, что статьи готовят профессионалы, а не журналисты, со ссылками на первоисточники и никогда никакого хайпа, что очень хорошо для мозговой гигиены. В общем он не только изучает увеличение мозга хомосапиенсов, но и реально его наполняет всяким интересным.

Так вот Марков выкатил новую свою работу «Коэволюция мозга и культуры», абстракт на элементах, доклад на ютубе и оригинал в рецензируемом журнале на басурманском наречии. И мне захотелось поиграть его моделями и пооптимизировать его код. К чему я вас и приглашаю.

Это реальная научная работа о меметике!

+11

kraidiky Apr 9 2020 at 18:07

Подбор важности фич для k-nearest neighbors (ну или других гиперпараметров) спуском похожим на градиентный

18 min

4.1K

Python*Data Mining*Data visualization*Machine learning*

Истинный ерундук может не только исполнить неисполнимое, но и послужить предостерегающим примером

Экспериментируя с простейшей задачкой машинного обучения я обнаружил, что интересно было бы подобрать в довольно широком диапазоне значения 18 гиперпараметров одновременно. В моём случае всё было на столько несложно, что задачку можно было бы взять и грубой компьютерной силой.

Обучаясь чему-то мне бывает очень интересно изобрести какой-нибудь велосипед. Иногда получается реально придумать что-то новое. Иногда обнаруживается, что все придумано до меня. Но даже если я всего лишь повторю путь пройденный за долго до меня, в награду я часто получаю понимание глубинных механизмов алгоритмов их возможностей и внутренних ограничений. К чему и вас приглашаю.

В Python и DS я, сказать мягко, новичок, и многие вещи, которые можно реализовать в одну команду по своей старой программистской привычке делаю кодом, за что Python наказывает замедлением даже не в разы, а на порядки. Поэтому весь свой код я выкладываю в репозиторий. Если знаете как реализовать сильно эффективнее — не стесняйтесь, правьте там, или пишите в комментариях. https://github.com/kraidiky/GDforHyperparameters

Тем, кто уже крутой датасатанист, и всё в этой жизни попробовал небезинтересна будет, я полагаю, визуализация процесса обучения, которая применима не только к этой задачке.

Читать дальше →

kraidiky Dec 17 2019 at 01:22

WTF per Hour

5 min

2.7K

Game development*Algorithms*C#*Unity3D*

Душа поэта не вытерпела безвестности, и он щедро делится своими высокими идеями. (с) анонимус

Некоторое время назад я написал три статьи «Архитектурные решения для мобильной игры» посвящённые архитектуре моей мечты:
• Часть 1: Model
• Часть 2: Command и их очереди
• Часть 3: View на реактивной тяге

Я даже думал сделать из этого продукт на ассетсторе, но в ходе голосования выяснилось, что людям идеи и обсуждения гораздо важнее готового кода. С тех пор я поработал в двух игровых конторах, одна занимались и одна до сих пор занимается десктопными играми, но идеи организации User Interface через реактивности в обоих случаях пришлись очень кстати, в разы ускорили некоторую часть работы над сложными интерфейсами, и сделали возможным реализацию интерфейсов, которые до того казались слишком уж сложными. Всё это показало, что даже стадия первых закрытых бетта-тестов ещё не слишком поздно, чтобы сделать проекту сильно лучше.

Читать дальше →

kraidiky Jan 15 2019 at 09:22

Архитектурные решения для мобильной игры. Часть 3: View на реактивной тяге

11 min

4.7K

Development of mobile applications*Designing and refactoring*Game development*Unity3D*

В предыдущих статьях мы описали как должна быть устроена модель удобная и с широкими возможностями, какая к ней подойдёт система команд, выполняющая функции контроллеров, пришла пора поговорить о третьей букве нашей альтернативной абривиатуры MVC.

Вообще-то в ассетсторе есть готовая очень навороченная библиотека UniRX реализующая реактивность и инверсию контроля для unity. Но о ней мы поговорим в конце статьи, потому что этот могучий, огромный и соответствующий стандартам RX инструмент для нашего случая довольно таки избыточен. Делать всё что нам нужно прекрасно можно и не подтягивая RX-а, а если вы им владеете, вам не составит труда делать всё то же самое с его помощью.

Архитектурные решения для мобильной игры. Часть 1: Model
Архитектурные решения для мобильной игры. Часть 2: Command и их очереди

Читать дальше →

+10

kraidiky Jan 11 2019 at 08:27

Архитектурные решения для мобильной игры. Часть 2: Command и их очереди

23 min

7.7K

Development of mobile applications*Designing and refactoring*Game development*Unity3D*

В первой части статьи мы рассмотрели как должна быть устроена модель, чтобы пользоваться ей было легко, а отлаживать её и прикручивать к ней интерфейсы просто. В этой части мы рассмотрим отдачу команд на изменения в модели, во всей её красоте и разнообразии. Как и раньше, приоритетом для нас будет удобство отладки, минимизация телодвижений, которые нужно сделать программисту, чтобы создать новую фичу, а также читабильность кода для человека.

Архитектурные решения для мобильной игры. Часть 1: Model
Архитектурные решения для мобильной игры. Часть 3: View на реактивной тяге

Читать дальше →

+11

kraidiky Jan 10 2019 at 09:30

Архитектурные решения для мобильной игры. Часть 1: Model

20 min

15K

Development of mobile applications*Game development*Unity3D*

Эпиграф:
— Как я тебе оценю, если неизвестно что делать?
— Ну там будут экранчики и кнопочки.
— Дима, ты сейчас всю мою жизнь описал в трёх словах!
(с) Реальный диалог на митинге в игровой компании

Набор потребностей и отвечающих им решений, о которых я поговорю в этой статье, сформировался у меня в ходе участия примерно в десятке крупных проектов сначала на Flash, а позже на Unity. Самый крупный из проектов имел больше 200000 DAU и дополнил мою копилку новыми оригинальными вызовами. С другой стороны, подтвердилась уместность и нужность предыдущих находок.

В нашей суровой реальности каждый, кто хоть раз архитектурил крупный проект хотя бы в своих мыслях, имеет свои представления о том, как надо делать, и часто готов отстаивать свои идеи до последней капли крови. У окружающих это вызывает улыбку, а менеджмент часто смотрит на всё на это как на огромный чёрный ящик, который никому углом не упёрся. Но что если я скажу вам, что правильные решения помогут сократить создание нового функционала в 2-3 раза, поиск ошибок в старом в 5-10 раз, и позволят делать многие новые и важные вещи, которые раньше были вообще недоступны? Достаточно лишь впустить архитектуру в сердце своё!
Архитектурные решения для мобильной игры. Часть 2: Command и их очереди
Архитектурные решения для мобильной игры. Часть 3: View на реактивной тяге

Читать дальше →

+20

kraidiky Feb 4 2015 at 02:24

Давайте изобретать велосипеды

3 min

20K

Programming*Algorithms*

Мотивации пост.

Я занимаюсь алгоритмами обучения нейронных сетей. Пока что простых нерекурентных нейронных сетей. Пока сравнительно простыми алгоритмами, той или иной формой градиентных спусков. Сегодня разговаривал на интересном семинаре по нейроинформатике, и меня спросили, зачем переоткрывать то, что придумано?

И правда, есть же матлаб. Любой может в два движения создать и обучить стандартную сетку одним из готовых стандартных и уже оптимизированных алгоритмов, обучить какой-нибудь страшно стандартной задаче классификации и всё у него будет хорошо. Тем более это актуально, учитывая что с 70-ых годов прошлого века в деле обратного распостранения ошибки не произошло ничего принципиально нового. А новые сетки уже тоже есть в матлабе.

В этом посте я постараюсь показать, почему нужно изобретать велосипед.

Читать дальше →

+42

kraidiky Jan 28 2015 at 00:22

Ансамбль синапсов – структурная единица нейронной сети

11 min

35K

Programming*Algorithms*

Recovery Mode

В мае прошлого года сотрудники лаборатории глубокого обучения Гугла и учёные из двух американских университетов опубликовали исследование «Intriguing properties of neural networks». Статья о нём вольно пересказывалась здесь на Хабре, и само исследование также критиковалось специалистом из ABBYY.

Гугловцы в результате своих исследований разочаровались в способностях нейронов сети распутывать признаки входных данных и стали склоняться к мысли, что нейронные сети не распутывают семантически значимые признаки по отдельным структурным элементам, а хранят их во всей сети в целом как в голограмме. В нижней части иллюстрации к этой статье чёрно-белыми я привёл карты активации 29, 31 и 33-его нейронов сети, которую обучил рисовать картинку. То, что тушка птицы без головы и крыльев, изображаемая для примера 29-ым нейроном, покажется людям семантически значимым признаком гугловцы считают всего лишь ошибкой интерпретации наблюдателя.

В статье я на реальном примере постараюсь показать, что и в искусственных нейронных сетях распутанные признаки можно обнаружить. Постараюсь объяснить, почему гугловцы увидели то, что они увидели, а распутанных признаков увидеть не смогли, и покажу, где в сети скрываются семантически значимые признаки. Статья является популярной версией доклада, прочитанного на конференции «Нейроинформатика — 2015» в январе этого года. Наукообразную версию статьи можно будет почитать в материалах конференции.

Очень-очень много трафика

+50

kraidiky Apr 27 2014 at 21:22

Подглядываем за метаниями нейронной сети

8 min

32K

Algorithms*Data visualization*

В комментариях к моей предыдущей статье о происходящем в нейронной сети проскользнула фраза, что, к сожалению, визуализация процессов обучения редко бывает возможна на реальных задачах с большими данными. Действительно очень жаль. Давайте же попытаемся это исправить. Под катом я предлагаю простую и, как ни удивительно, информативную визуализацию процесса обучения нейронной сети, не зависящую ни от характера задачи, ни от свойств самой сети, то есть доступную для сколь угодно сложной задачи.

Читать дальше, с картинками

+38

kraidiky Apr 17 2014 at 01:17

Что происходит в мозгах у нейронной сети и как им помочь

26 min

41K

Algorithms*Mathematics*

From sandbox

В последнее время на Хабре появилось множество статей о нейронных сетях. Из них очень интересными показались статьи о Перцептроне Розенблатта: Перцептрон Розенблатта — что забыто и придумано историей? и Какова роль первого «случайного» слоя в перцептроне Розенблатта. В них, как и во многих других очень много написано о том, что сети справляются с решением задач, и обобщают до некоторой степени свои знания. Но хотелось бы как-то визуализировать эти обобщения и процесс решения. Увидеть на практике, чему там научился перцептрон, и почувствовать, насколько успешно ему это удалось. Возможно, испытать горькую иронию относительно достижения человечества в области ИИ.
Языком у нас будет С#, только потому что я недавно решил его выучить. Я разобрал два наиболее простых примера: однослойный перцептрон Розенблатта, обучаемый коррекцией ошибки, и многослойный перцептрон Румельхарта, обучаемый методом обратного распространения ошибки. Для тех, кому, как и мне, стало интересно, чему они там на самом деле обучились, и насколько они на самом деле способны обобщать – добро пожаловать под кат.

ОСТОРОЖНО! Много картинок. Куски кода.

Читать дальше →

+62