Открыть список
Как стать автором
Обновить
  • по релевантности
  • по времени
  • по рейтингу

В Москве пройдет хакатон по анализу текстов. Регистрация до 14 декабря

ПрограммированиеХакатоныИскусственный интеллектNatural Language Processing
Приглашаем всех 15 декабря принять участие в очном хакатоне по анализу данных «Новый Год hack 2019» в Москве в Научном парке МГУ.

Хакатон проводят компании Лаборатория Наносемантика и Контакт-центр «Гран» вместе с МФТИ и МГУ.

Под катом — описание задач, критериев оценки, условий участия и призы.

image
Читать дальше →
Всего голосов 7: ↑7 и ↓0 +7
Просмотры1.8K
Комментарии 5

Исследователи выяснили, что системы ИИ не различают предложения с перемешанными словами

Машинное обучениеИскусственный интеллект

Исследователи из Обернского университета пришли к выводу, что многие ИИ, предназначенные для обработки естественного языка (Natural Language Processing, NLP), не замечают, когда слова в предложении перемешиваются, а его значение меняется. Это показывает, что ИИ на самом деле не понимают язык, и создает проблемы в обучении систем NLP.

Читать далее
Всего голосов 14: ↑13 и ↓1 +12
Просмотры3K
Комментарии 19

Авторы проекта GPT-Neo пытаются создать аналог GPT-3 с открытым исходным кодом

Open sourceМашинное обучениеИскусственный интеллект

В июне OpenAI презентовала модель машинного обучения GPT-3, обученную на 175 млрд параметров. Эта модель является одной из самых сложных. В отличие от предшественников GPT-2 и GPT-1 ее исходный код или обучающий набор данных решили не открывать. Теперь создатели проекта GPT-Neo от EleutherAI решили воссоздать аналог GPT-3.

Коммерческая лицензия на GPT-3 доступна только для Microsoft, которая инвестировала $1 млрд в OpenAI и построила суперкомпьютер на базе Azure, предназначенный для дальнейших исследований компании.

Было предпринято уже несколько попыток воссоздать GPT-3 с открытым исходным кодом. Однако нынешнюю можно назвать самой серьезной. Создатели GPT-Neo Коннор Лихи, Лео Гао и Сид Блэк собирают рядовых исследователей в области машинного обучения с открытым исходным кодом, чтобы начать проект не позднее августа.

GPT-Neo это кодовое название серии языковых моделей, основанных на преобразователях в стиле архитектуры GPT с открытым исходным кодом. У проекта есть кодовая база, построенная на Tensorflow-mesh (для обучения на TPU) и на Deepspeed (для обучения на GPU). Обе могут масштабироваться до размеров GPT-3, но проекту пока не хватает TPU для полного обучения модели со 175 млрд параметров.

Большую часть модели уже построили и обучили модели размера GPT-2, а также реализовали несколько экспериментальных архитектур. В настоящее время ведется работа над завершением репликации модели размера GPT-2.

Как отметили исследователи, самая большая модель, которую им приходилось тренировать для одного шага, включала 200 млрд параметров.

В октябре команда ученых из Мюнхенского университета Людвига-Максимилиана разработала методику глубокого обучения для моделей обработки естественного языка. Она обучила модель Transformer NLP с 223 млн параметров, которая превзошла GPT-3 более чем на 3% в тесте SuperGLUE.

А на днях в Google представили метод, который, по утверждению компании, позволил обучить языковую модель, содержащую более триллиона параметров. Исследователи заявили, что новая модель с 1,6 трлн параметров, по-видимому, является крупнейшей в своем классе на сегодняшний день.

Читать далее
Всего голосов 8: ↑8 и ↓0 +8
Просмотры3.4K
Комментарии 3

OpenAI: более 300 сторонних приложений работают на GPT-3

Разработка мобильных приложенийМашинное обучениеИскусственный интеллектNatural Language Processing

OpenAI сообщила, что спустя девять месяцев после выпуска NLP-алгоритма GPT-3 его используют более 300 приложений. Модель генерирует, в среднем, 4,5 млрд слов в день.

Читать далее
Всего голосов 6: ↑6 и ↓0 +6
Просмотры1.8K
Комментарии 0

Разработчик натренировал модели OpenAI на интерпретацию человеческого языка в команды терминала

PythonРазработка под LinuxИскусственный интеллектNatural Language ProcessingВизуальное программирование

Разработчик представил базовую оболочку на Python, которая позволяет языковой модели OpenAI интерпретировать команды оболочки Linux bash и запускать задачи. Однако проверять запуск команд перед запуском нужно вручную.

Читать далее
Всего голосов 12: ↑12 и ↓0 +12
Просмотры1.4K
Комментарии 1

Музыканты хотят извлечь музыку из мозга

Чулан
Факт воздействия музыки на мозг хорошо известно и давно изучается. Сами музыканты, пожалуй, лучше других знают о необычайной силе такого воздействия. Под влиянием музыкальных ритмов человек может успокоиться или возбудиться, получить вдохновение или впасть в подавленное состояние. Из-за музыки сильно меняется характер мозговых волн, которые улавливает специальная аппаратура.
Читать дальше →
Всего голосов 15: ↑13 и ↓2 +11
Просмотры477
Комментарии 3

Рефрейминг как методика изменения убеждений

Чулан
Формирование отношения с помощью фреймов

В НЛП есть такое понятие, как фрейм (англ. рамка). С его помощью мы можем формировать нужное нам отношение к любой информации. Незаменимый прием в PRе, рекламе, продажах, да и ввообще в любом убеждении людей.

Фрейм, это рамка (или фон), в которой воспринимается информация. Фреймом является дополнительная информация, дающаяся параллельно или перед основной информацией, и задающая логические или эмоциональные рамки ее восприятия для формирования определенного отношения.

Самый простой — визуальный фрейм. Представьте себе фотографию неизвестного вам лица. А теперь давайте поместим ее в розовую рамочку в форме сердечка. Даже если мы впервые видим эту фото, что мы можем подумать об этом человеке? А теперь представьте эту же фотографию на доске почета… в рубрике «Их разыскивает милиция»… :) Или в большой картинной раме, метр на метр, висящей посреди стены в зале для торжеств… Как мы начинаем воспринимать этого человека теперь?

В зависимости от того, что мы делаем с рамкой, мы заставляем воспринимать эту фотографию в том или ином ключе, и относиться к ней соответствующе. Это были нарочито буквальные примеры, имеющие больше цель иллюстрирующую фреймы. В жизни, кончено, все более завуалированно. Примерно так…

Предвыборная компания. Штаб. Политтехнологи, раскручивающие своего кандидата в народолюбцы. Готовятся к размещению в СМИ фотографии этого кандидата: одна, где кандидат общается с радостными студентами с улыбающимися лицами, другая, где он рядом с хорошо одетыми стариками выражающими почтение в глазах, третья — на фоне шикарного города с чистыми улицами, красивыми женщинами и дорогими машинами под голубым солнечным небом… Пять-десять разных фотографий с одним и тем же человеком, у которых есть что-то общее… что-то неуловимое сознанию, но приятное глазу и милое сердцу :)

Так создаются визуальные фреймы, формирующие нужное нам отношение к субьекту на бессознательном уровне. Но самое интересное начинается, когда мы подходим к вербальным (речевым) фреймам…

Представьте себе рекламную статью, которая начинается так: «Самые теплые куртки делает фирма Х! Такая морозоустойчивость обеспечивается...(далее сама статья)». Насколько вам интересна эта статья, если вы живете в среденей полосе? Скажем, «ну так...». А теперь давайте добавим в начало статьи одно предложение: «В этом году синоптики обещают особенно холодную зиму. Самые теплые куртки делает фирма Х! Такая морозоустойчивость обеспечивается...». Как на этот раз? Тема стала актуальной, а все что мы для этого сделали, это добавили фрейм контекста — «особенно холодную зиму», который на секундочку перенс читателя в те условия, где это важно.

Помимо контекстуальных фреймов, еще бывают эмоциональные фреймы. Самый забавный пример использования эмоционалного фрейма мне вчера прислали по почте. Спасибо большое Сергею, пример такой, что не могу не поделиться! Публикую прямо в исходном виде.


Взято отсюда.
Всего голосов 22: ↑8 и ↓14 -6
Просмотры1.4K
Комментарии 17

Как давать обратную связь сотруднику?

Чулан
К видео есть небольшая статья про ОСВК (обратную связь высокого качества). Прочтите её у меня в блоге Высшей школы отношений NTRS, когда захотите.
Всего голосов 13: ↑8 и ↓5 +3
Просмотры431
Комментарии 15

Глазные ключи доступа (eye accessing cues)

Чулан
Каждый из вас хотя бы изредка обращает внимание что собеседник в ходе разговора отводит глаза в сторону. Направление взгляда меняется в зависимости от темы разговора, отношению к вам, состояния, да и самой личности собеседника.

В терминах НЛП это называется глазные ключи доступа (eye accessing cues)

Дабы не ждать ближайшего разговора с человеком чтобы обратить своё внимание на направления взгляда собеседника воспользуемся конкурсной работой Michael Simon Toon «Thought Moments» для BritishFilms. Не могу представить примера, более наглядного, чем этот



Автор ролика использует следующие ключи:
IMAGINATION — воображение MEMORY — память
EXPRESSION — выражение LANGUAGE — язык
EMOTION — эмоции LOGIC — логика
Читать дальше →
Всего голосов 32: ↑22 и ↓10 +12
Просмотры1.3K
Комментарии 20

Как правильно говорить с «трудным» клиентом

GTD
Многим из нас время от времени попадаются «привередливые», «неадекватные» и «трудные» заказчики, партнёры, начальники, подчинённые и т.д. В этом посте я расскажу:
  • Как добиться своего в конфликтных ситуациях
  • Как вести разговор, не вызывая негативной реакции собеседника
  • Как держать конфликтную ситуацию под контролем
  • Как не допустить развития конфликта и как его устранить
Читать дальше →
Всего голосов 96: ↑87 и ↓9 +78
Просмотры37.6K
Комментарии 81

Гибридная реализация русской морфологии

Чулан
При создание поисковых решение одним из первых с чем приходиться сталкивать разработчику это предварительная обработка текста. Разбивка на термины, фильтрация стоп слов. Важной операцией влияющей на качество поиска на данном этапе является приведение слов к нормальной форме. Ниже приведены основные подходы к этой проблеме.
Читать дальше →
Всего голосов 17: ↑15 и ↓2 +13
Просмотры698
Комментарии 4

Заметки об NLP (часть 1)

Искусственный интеллектNatural Language Processing
В преддверии Нового года решил начать небольшой цикл статей, посвящённых наиболее интересующему меня лично направлению в обработке текстов на естественном языке. (То есть NLP в заголовке означает natural language processing — ваш К.О.) Синтаксический анализ, семантика, машинный перевод, поиск смысла слова в контексте — в общем, вся радость компьютерного лингвиста :)

Наверно, сразу имеет смысл определиться с уровнем изложения. Я сам пытаюсь заниматься компьютерной лингвистикой (с переменными успехами). Постараюсь рассказать о том, что конкретно волнует, чего уже можно, чего пока нельзя, и над чем как раз сейчас надо работать. Быть может, эти статьи помогут мне самому отструктурировать информацию в голове и опираться на уже готовую структуру в новом году. А если у читателей появятся свои идеи или мысли о сотрудничестве — ещё лучше.
Интересующихся прошу под кат
Всего голосов 67: ↑57 и ↓10 +47
Просмотры8.4K
Комментарии 54

Заметки об NLP (часть 2)

Искусственный интеллектNatural Language Processing
Хотя в первой части я и говорил, что не собираюсь останавливаться на морфологии, видимо, совсем без неё не получится. Всё-таки обработка предложений сильно завязана на предшествующий морфологический анализ.
Читать дальше →
Всего голосов 58: ↑47 и ↓11 +36
Просмотры3K
Комментарии 43

Заметки об NLP (часть 3)

Искусственный интеллектNatural Language Processing
(Начало: 1, 2) Что ж, подходим к самому интересному — разбору предложений. Тема эта многогранна и многоуровнева, так что подступиться к ней не очень просто. Но ведь трудности лишь закаляют :) Да и выходные, текст пишется легко…

Начнём с такого понятия, как синтаксический анализ предложений (по-английски parsing). Суть этого процесса состоит в построении графа, «каким-либо образом» отражающего структуру предложения.
Читать дальше →
Всего голосов 54: ↑47 и ↓7 +40
Просмотры4.5K
Комментарии 53

Заметки об NLP (часть 4)

Искусственный интеллектNatural Language Processing
(Начало: 1, 2, 3) На сей раз хочу немного отвлечься и порассуждать (а точнее, похоливарить) на тему статистических алгоритмов и вообще «обходных путей» компьютерной лингвистики.
В первых частях нашего разговора речь шла о «классическом пути» анализа текста — от слов к предложениям, от предложений к связному тексту. Но в наше безумное время появились и соблазны решить проблему «одним махом», найдя, если угодно, баг в системе или «царскую дорогу».
Читать дальше →
Всего голосов 47: ↑39 и ↓8 +31
Просмотры2.4K
Комментарии 52

Заметки об NLP (часть 5)

Искусственный интеллектNatural Language Processing
Что ж, продолжим. (Первые части: 1 2 3 4). Долго выбирал, что будет лучше для следующей темы — пофилософствовать о прагматике языка или поговорить конкретно об алгоритмах разбора. Учитывая, что предыдущая часть была неформальной, решил всё-таки переключиться на конкретику, а там посмотрим.

Итак, синтаксический анализ предложения. Давайте сразу определимся, что речь пойдёт о разборе в рамках концепции dependency parsing, причём определяющей методологией разбора будет точный анализ (не статистический). Начнём с небольшого обзора происходящего вокруг.
Читать дальше →
Всего голосов 55: ↑41 и ↓14 +27
Просмотры3.6K
Комментарии 41

Заметки об NLP (часть 6)

Искусственный интеллектNatural Language Processing
(Первые части: 1 2 3 4 5). Надеюсь, разговор о естественном языке читателей ещё не утомил! По-моему, тематика действительно интересная (хотя популярность топиков явно идёт на убыль :) ). Что ж, посмотрим, на сколько частей меня ещё хватит. Думаю, экватор мы уже прошли, но три-четыре темы затронуть ещё можно.

На сей раз заметка полностью посвящена проекту XDG/XDK, который я пытаюсь изучать на досуге. Назвать себя специалистом по XDG пока ещё не могу. Но потихоньку двигаюсь.
Читать дальше →
Всего голосов 68: ↑53 и ↓15 +38
Просмотры1.8K
Комментарии 24

Заметки об NLP (часть 7)

Искусственный интеллектNatural Language Processing
(Первые части: 1 2 3 4 5 6). Как и обещал вчера, продолжаем обсуждать XDG и движемся к следующим темам. Возможно, мы двигаемся слишком быстро, и действительно имело бы смысл публиковать одну статью раз в два-три дня, чтобы оставалось время всё обсудить. Но, наверно, пока «бензин есть», я буду продолжать писать. А потом можно будет вернуться и обговорить ранее освещённые вопросы. Мне кажется, что в компьютерной лингвистике разные темы настолько тесно связаны друг с другом, что разговор об одной из них без связи с другими малопродуктивен. А мы ещё не обо всём беседовали, так что лучше охватить взглядом как можно больше аспектов компьютерного анализа текста, а потом уже рассуждать о конкретике в рамках общей картины происходящего.
Читать дальше →
Всего голосов 39: ↑29 и ↓10 +19
Просмотры2K
Комментарии 17

Заметки об NLP (часть 8)

Искусственный интеллектNatural Language Processing
(Первые части: 1 2 3 4 5 6 7). В этой части я расскажу о синтактико-семантическом анализаторе — как я его вижу. Обратите, кстати, внимание на часть 7 — она до главной страницы не добралась, так что не уверен, что все интересующиеся её видели.
Читать дальше →
Всего голосов 54: ↑36 и ↓18 +18
Просмотры1.6K
Комментарии 45