Pull to refresh
94
Karma
0
Rating
Dmitry Kann @yktoo

Byte cruncher

  • Posts
  • Comments

GPT-2 нейросеть от OpenAI. Быстрый старт

Machine learningArtificial Intelligence

image


Не успели отшуметь новости о нейросети BERT от Google, показавшей state-of-the-art результаты на целом ряде разговорных (NLP) задач в машинном обучении, как OpenAI выкатили новую разработку: GPT-2. Это нейронная сеть с рекордным на данный момент числом параметров (1.5 млрд, против обычно используемых в таких случаях 100-300 млн) оказалась способна генерировать целые страницы связного текста.


Генерировать настолько хорошо, что в OpenAI отказались выкладывать полную версию, опасаясь что эту нейросеть будут использовать для создания фейковых новостей, комментариев и отзывов, неотличимых от настоящих.


Тем не менее, в OpenAI выложили в общий доступ уменьшенную версию нейросети GPT-2, со 117 млн параметров. Именно ее мы запустим через сервис Google Colab и поэкспериментруем с ней.

Читать дальше →
Total votes 54: ↑52 and ↓2 +50
Views87K
Comments 70

News

Show more

Повышение производительности работы в Mac OS X, в том числе путем уменьшения использования мыши

IT-companies
Sandbox
Мне кажется целесообразным поделиться личным опытом роста производительности работы в Mac OS Х (на примере 10.7), в частности, путем максимального отказа от использования мыши (через что придем и к многим другим способам).

С чем связана актуальность проблемы?
1. Эргономически прицелиться и попасть мышью в мелкий объект всегда хуже для времени, мелкой моторики и зрения, чем использовать операции, не требующие идентификации мелких объектов и «прицеливания» в них. Для наиболее массового примера достаточно сравнить количество людей в Windows, которые переключают клавиатуры комбинацией клавиш или мышкой в соответствующем меню на рабочем столе (которое вроде тоже бы в пределах доступности).

2. Для мобильной работы большая разница – брать с собой мышь или нет. Если в Windows многим недостаточно внутренних тачпадов для полноценной работы, то при взгляде на макбук с подключенной мышью возникает когнитивный диссонанс – т.к. часть вещей, ради которых человек взял ее с собой в дорогу, объективно имеет более эффективное альтернативное решение, если избавится от определенной парадигмы сознания.

3. Меньшее использование мыши в OS X для переходящих с Windows позволяет предотвратить ряд неудобств и ошибок – в частности, «эффект красного крестика» и «синдром единственного рабочего стола», а также лучше понять отличия между окнами и процессами.

Речь пойдет не о банальной замене мыши клавиатурными комбинациями, а о более системных изменениях, принципиально меняющих организацию работы.

Итак.
Читать дальше →
Total votes 44: ↑34 and ↓10 +24
Views44.7K
Comments 61

Ускоряем SSD в нетбуке Acer Aspire One A110

Laptops
image

На днях компания Acer выпустила новую прошивку для SSD-накопителя этого нетбука. Как известно, данный накопитель отличается крайне низким быстродействием, и обновленная прошивка призвана улучшить ситуацию.

Так как у меня как раз таки имеется нетбук такой модели, то я сразу же решил проверить новую прошивку в действии.

Нет, ничего разбирать мы сегодня не будем. Всё очень просто.

Внимание! Прошивка работает только для SSD производства Samsung. Перед началом работы убедитесь, что в вашем Aspire One А110 установлен именно такой накопитель.

Кроме того, данные на SSD-накопителе после прошивки будут потеряны. Сохраните!
Читать дальше →
Total votes 35: ↑30 and ↓5 +25
Views17K
Comments 56

HD плееры: для гиков и для потребителей

Computer hardware
Из комментариев к другому моему топику:
И что ж теперь покупать попкорн?
Купите WD TV HD, СЦ местный, стоит куда дешевле, выглядит лучше
где то читал что у плееров такого типа стоит старый чип, который HD еле тянет...

Попробуем разобраться, какой из этих вариантов лучше предпочесть, и какие соображения влияют на ответ.
Читать дальше →
Total votes 40: ↑37 and ↓3 +34
Views1.4K
Comments 100

как способ изучения Английского

Learning languages
Многие из читателей хабра регулярно слушают разные подкасты, этот полезный вид времяпрепровождения можно сделать ещё более полезным, если слушать подкасты на английском.

Поделюсь теми, на которые подписан я:

Читать дальше →
Total votes 100: ↑91 and ↓9 +82
Views10K
Comments 108

Разговорный английский за месяц

Lumber room
Перепечатано с моего ЖЖ.

Решился написать про свой опыт изучения английского в экстремально короткие сроки (1 месяц) — вдруг кому пригодится. Также выдам немного инфы про то, как собеседовался за границу.

Читать дальше →
Total votes 9: ↑6 and ↓3 +3
Views9.4K
Comments 220

Отличный сервис для скачивания файлов

Data storageCloud services
Предыстория.

Год назад, когда славные студенческие времена уже подходили к концу, передо мной возник очередной студенческий квест. Один солидный профессор, пользующийся непререкаемым авторитетом на нашей кафедре, готов был выступить в роли моего дипломного руководителя, что практически гарантировало мне халявную сдачу диплома. Задача же состояла в том, что взамен профессор хотел получить новейшую версию одного известного и очень дорогого математического пакета. Дополнительная сложность заключалась в том, что нужна была версия для Linux.

Из-за таких сложностей найти нужный дистрибутив удалось далеко не сразу, и только на одном китайском сервере. Я уже был даже готов скачать эти 4 гига, заплатить за трафф из собственного кармана, и ни о чём не беспокоясь, писать диплом… но, как оказалось, сервер отдавал файлы ОЧЕНЬ медленно, постоянно рвал соединение, и, как назло не поддерживал докачку (хорошо было хотя бы то, что дистрибутив был разбит на части).
А тут, собственно, начинается полезная часть рассказа.
Читать дальше →
Total votes 101: ↑89 and ↓12 +77
Views3.1K
Comments 69

Обзор CyanogenMod

Development for Android
Сегодня я расскажу вам немного о CyanogenMod. Это такая замечательная прошивка, основанная на исходном коде android. Официально разработка идет под вот этот вот список аппаратов, но на деле поддерживаемых девайсов намного больше. А все благодаря ребятам с xda-dev, которые портируют прошивку на свои телефоны.

Помимо множества незаметных пользователю внутренних изменений, направленных на улучшение производительности и стабильности, прошивка обладает рядом крайне удобных и полезных функций и настроек, которые отсутствуют в оригинальной прошивке и о которых я, собственно, и собираюсь повествовать.

Читать дальше →
Total votes 116: ↑109 and ↓7 +102
Views91.5K
Comments 156

Интересные приемы программирования на Bash

Programming
Sandbox
Tutorial
Эти приемы были описаны во внутреннем проекте компании Google «Testing on the Toilet» (Тестируем в туалете — распространение листовок в туалетах, что бы напоминать разработчикам о тестах).
В данной статье они были пересмотрены и дополнены.
Читать дальше →
Total votes 181: ↑175 and ↓6 +169
Views120.6K
Comments 67

Правильные способы исключения файлов в Git

Git
Иногда встречаю в файле .gitignore то, чего там быть никак не должно. Например, папка .idea, в которой лежат конфиги известных IDE от JetBrains. Это часть вашего рабочего окружения и она никаким боком не относится к проекту и репозиторию. Если над проектом работает несколько человек и каждый из них добавит конфиги своего окружения в .gitignore, то он превратится в нечитаемую помойку.

В этом топике я расскажу о правильных способах исключения файлов и о том когда какой способ использовать.
Читать дальше →
Total votes 98: ↑74 and ↓24 +50
Views195.4K
Comments 68

Переезд проекта с SVN на Git

Website developmentGitVersion control systems
image
Много лет подряд в качестве системы контроля версий для большого количества проектов использовали только SVN. Но наступил момент, когда количество разработчиков на одном из проектов заметно увеличилось, проект уже запущен в работу, и нужно как активно разрабатывать параллельно несколько фич, так и фиксить уже имеющиеся баги в оперативном режиме. Единый trunk в SVN не позволяет этого делать, а организация бранчей в нем же превращает жизнь разработчиков в ад. Поэтому было принято решение о переезде этого проекта с SVN на Git.
Читать дальше о том, как это делается от А до Я
Total votes 119: ↑113 and ↓6 +107
Views64.1K
Comments 51

12+ полезных Google Chrome chrome:// команд

Google Chrome
Все знают, что для того чтобы попасть в меню у Хрома, нужно нажать на Гаечный ключ в правом верхнем углу.

Однако есть несколько особенностей, которые не доступны из меню, которые вы можете увидеть только с помощью chrome:// команд.

Под катом приведены 12 самых полезных chrome:// команд, которые должны знать все.
Читать дальше →
Total votes 217: ↑196 and ↓21 +175
Views383.9K
Comments 55

Добавление и удаление на ходу SATA/SCSI устройств

Configuring Linux
Современный Linux (2.6+) может обнаруживать новоподключенные устройства (на шинах, которые поддерживают hotplug). Их можно, так же отключать, предварительно отмонтировав файловые системы и сделав sync. Среди hotplug шин не только USB, но и SATA, SCSI и SAS (в теории, это же применимо и к PATA, но там много глупых контроллеров, которые не умеют адекватно реагировать на исчезновение устройства).

Отключать их лучше не дёргая на ходу физическое устройство, а сказав ядру полностью забыть про про него (гарантируя тем самым, что никаких операций ввода-вывода с устройством производиться не будет, даже если вспохватившийся кеш). Кроме того, иногда нужно выполнять эмуляцию процедуры plug-unplug без физического дёргания питания/шины данных (что не очень хорошо для железа). Самая типичная ситуация — это отладка скриптов udev.

Удаление устройства


echo 1 >/sys/block/sdX/device/delete

(x — буква устройства, sda, sdb, etc).

Эта команда удаляет указанное устройство. Заметим, это низкоуровневая команда, которая не проверяет кеш и статус примонтированности, так что лучше сначала сказать umount & sync.

К сожалению, я не знаю метода совместить выключение шпинделя диска с его удалением с точки зрения ядра. Шпиндель можно отключить командой scsi-spin, однако, при попытке удалить устройство, оно будет раскручено заново и удалено. А у удалённого устройства уже нельзя ничего останавливать (нет устройства). Так что эта часть проблемы пока не решена.

Добавление устройства


Мы не можем «добавить» устройство, мы можем отдать контроллеру команду «перечитать» список устройств, подключенных к тому или иному порту. Если там найдётся что-то интересное, ядру дадут знать.

echo "- - -" >/sys/class/scsi_host/hostX/scan

X — номер шины, совпадает с номером SATA порта на материнской плате. Если не знаете, можете смело делать для всех хостов по очереди, ничего, кроме небольшого лага в дисковых операциях, незаметного для софта и файловой системы, это не даст.

Обратите внимание, host'ы нумеруются с 0, а не с 1. (а в dmesg ata устройства нумеруются с 1).

Так же осуществляется и сканирование USB-SATA переходников (usb-боксов и внешних винчестеров — они просто фигурируют как ещё один scsi_host).

Если мы говорим про SCSI, то вместо "- — -" можно указать точный номер устройства/шины/LUN'а сканируемого устройства (например, «200 1 2»). SATA, в силу архитектурных особенностей (один target для одного initiator) принимает туда только «0 0 0».

Ещё об удалении… Если вы не знаете буквы устройства, но знаете его физическое место подключения, то удалять можно «прямым текстом», записью «1» в "/sys/bus/scsi/devices/targetX:0:0/X:0:0:0/delete".
Total votes 64: ↑54 and ↓10 +44
Views56K
Comments 48

Преодолеваем хабраэффект при помощи Coral CDN

IT Infrastructure
Tutorial
Вы выкладываете на Хабрахабре гиперссылку на интересный сайт, а он вскорости обрушивается под наплывом посетителей, начинает подтормаживать или вообще перестаёт отвечать.

Вы помещаете в свою блогозапись иллюстрацию с другого сайта, а она вскорости не выдерживает напора зрителей, перестаёт отображаться или сменяется на уродливое уведомление о превышении объёмов выделенного ей траффика.

Таковы бывают неприятные проявления хабраэффекта — естественного DDoS, аналогом которого на Заокраинном Западе является слэшдот-эффект.

Ну а как противостоять естественному DDoS?

Первыми приходят на ум наиболее бесхитростные способы.

Читать дальше →
Total votes 146: ↑132 and ↓14 +118
Views3.7K
Comments 47

Skype и стандартные всплывающие сообщения в Ubuntu

Configuring Linux
Пишу чтобы не забыть, а в дальнейшем использовать, надеюсь кому-нибудь тоже будет полезно. Озадачился заменить скайповские попапы на стандартные убунтовские нотификации, уж больно глаз режут. Есть задача, есть желание её решить. Как оказалось решение достаточно несложное. И так, решение.
Читать дальше →
Total votes 75: ↑69 and ↓6 +63
Views7.3K
Comments 50

Спасаем данные в Linux с помощью ddrecovery

Configuring Linux
«Input/output error (5)» сказала система при копировании файла и заставила погрузиться в неприятные раздумья о новом винчестере и подлом партизане SMART. К счастью все важные данные сохранились в резервных копиях, и всё-же постараться вытащить один файл очень хотелось — 34Гб образ виртуальной машины содержал в себе несколько документов потерять которые было бы неприятно.
Читать дальше →
Total votes 52: ↑46 and ↓6 +40
Views49.8K
Comments 18

Удобный доступ к файлам на удаленных хостах

Configuring Linux
На Хабре достаточно много разработчиков работают с файлами на удаленных хостах. На локальной машине запускается IDE, отладчик, все необходимое, а сами файлы находятся на сервере, где они регулярно бакапятся, автобилдятся, тестируются и так далее. Очень удобный рабочий вариант. Да я сам его использую.
Единственная проблема, доставляющая неудобство — файлы все же находятся на другом компе, и доступ к ним не такой простой и прозрачный как к «своим».
Под катом — как сделать такой доступ максимально удобным. Чтобы он запускался автоматом когда надо, а самое главное — чтобы не запускался, когда не надо!
Читать дальше →
Total votes 41: ↑40 and ↓1 +39
Views50.8K
Comments 64

Information

Rating
5,829-th
Location
Нидерланды
Registered
Activity