Pull to refresh
17
-5
Александр Перевалов @perevalov_a

Researcher in NLP, IR, and Web Engineering

Send message

Мультимодальный AI Ассистент в Telegram: Как это работает?

Level of difficultyEasy
Reading time5 min
Views1.9K

Вот уже больше полутора лет генеративный искусственный интеллект (ИИ) не даёт покоя не только разработчикам, но и, порой далёким от цифрового мира, пользователям. Для одних — ИИ не более чем игрушка или развлечение, для других же — неотъемлемая часть рабочего процесса. Как я уже говорил в одной из предыдущих статей, считаю генеративный ИИ следующей ступенью технологической эволюции, новым техноукладом, и очередным успехом в автоматизации труда некоторых профессий, однако, речи о замене нас с вами быть не может. Давайте теперь поговорим об этой самой автоматизации: чем именно и в каком виде ИИ может нам помочь?

Читать далее
Rating0
Comments4

В мире незавершённых задач: почему важно доводить дела до конца?

Level of difficultyEasy
Reading time7 min
Views7.3K

Всё в этой жизни имеет своё начало и конец, это как с хорошей книжкой. Подумайте о том моменте, когда вы берётесь за новый проект, начинаете осваивать новый танцевальный экзерсис или пытаетесь впервые сыграть мелодию на фортепиано двумя руками вместо одной. В каждом из этих случаев мы что-то начинаем с определённой целью и желаемым результатом, даже если не всегда осознаём это. Словно наш внутренний ответ на призыв к приключениям, вне зависимости от того, исходил ли он от нас самих или из вне, мы открываемся новым переживаниям и часто узнаём интересные вещи, о существовании которых даже не подозревали!

Читать далее
Total votes 6: ↑3 and ↓30
Comments8

Lingua Franca — Машинный перевод с учётом именованных сущностей для вопросно-ответных систем

Level of difficultyMedium
Reading time7 min
Views1.1K

Машинный перевод может улучшить существующие вопросно‑ответные системы (англ. Question Answering — QA), которые имеют ограниченные языковые возможности, позволяя им поддерживать несколько языков. Однако у машинного перевода есть один основной недостаток: часто такие системы не справляются с переводом именованных сущностей, которые нельзя перевести дословно. Например, немецкое название фильма «The Pope Must Die» переводится как «Ein Papst zum Küssen», что дословно означает «Папа для поцелуев». На Русском языке название фильма звучит так: «Папа должен похудеть». Поскольку правильность именованных сущностей критична для вопросно‑ответных систем, необходимо как можно лучше обеспечить правильность их перевода. В данной статье я представляю наш метод машинного перевода, учитывающий именованные сущности, под названием «Lingua Franca». Он использует графы знаний для использования хранящейся там символьной информации с целью обеспечения правильности перевода именованных сущностей. И да, это работает!

Читать далее
Total votes 3: ↑3 and ↓0+3
Comments1

Как мы сделали свою ChatGPT Plus с голосовым вводом, чтением PDF, Youtube, и т.д

Level of difficultyEasy
Reading time4 min
Views6.2K

Не секрет, что ChatGPT это очень эффективный инструмент, который помогает как в обычной жизни, например, чтобы узнать рецепт борща, так и в профессиональной сфере: от копирайтеров и инста-блоггеров до программистов.

Вместе с тем, аналогов ChatGPT не так много, а её доступность в России ограничена. Более того, подписка на ChatGPT Plus и вовсе платная, стоит, кстати, довольно ощутимых денег.

Читать далее
Total votes 7: ↑3 and ↓4-1
Comments8

Заблокирован ли протокол OpenVPN? И как теперь быть?

Level of difficultyEasy
Reading time3 min
Views65K

Один мой знакомый держит свой OpenVPN сервер, он поделился со мной хронологией блокировки популярных VPN протоколов в России. С его разрешения, я публикую детальную информацию о том, как это происходило с точки зрения клиента и администратора OpenVPN.

Читать далее
Total votes 35: ↑20 and ↓15+5
Comments49

Почему ChatGPT нас (полностью) не заменит

Level of difficultyEasy
Reading time5 min
Views4.3K

Примечание: этот текст не был написан ChatGPT.

В последнее время технологии искусственного интеллекта (ИИ), включая генеративные нейронные сети, стали все более распространенными среди широких масс. Одним из самых продвинутых и широко известных примеров является ChatGPT, созданный на базе GPT-3.5 архитектуры, которая позволяет ему обрабатывать и анализировать естественный язык и давать точные и часто неожиданные ответы на разнообразные вопросы. ChatGPT может быть использован во многих областях, включая образование, здравоохранение, банковское дело и многие другие.

Несмотря на все его возможности, и вопреки многочисленным репликам в интернете, ChatGPT, как и любая другая «умная программа», не может полностью заменить человека на его рабочем месте. В этой статье мы порассуждаем на тему того, почему труд человека останется актуальным.

Читать далее
Total votes 12: ↑5 and ↓7-2
Comments118

Средства производства программиста

Reading time6 min
Views9.3K

Бытует распространённое мнение о том, что современный программист это некий новый общественный класс, имеющий безграничную свободу в плане производственных отношений. Причём, под "программистом" можно понимать эдакого абстрактного работника сферы ИТ, например, сисадмина, тестировщика или аналитика. Культ свободы в ИТ-сфере стал особенно актуальным с началом "пандемии", когда многие работодатели начали охотнее разрешать работать из дома. Безусловно, работа в ИТ чаще чем другие сферы подразумевает гибкий график, "удалёнку", относительно высокую зарплату и другие приятные вещи. Однако, не стоит забывать, что все вышеперечисленные бонусы в большинстве своём касаются только "чистых" ИТ-предприятий. Например, сложно представить программиста, устроенного на заводе или серьёзном госпредприятии, который постоянно работает из дома или из-за рубежа и приходит на работу когда хочет.

Читать далее
Total votes 16: ↑8 and ↓80
Comments28

Политическая экономия Facebook*

Reading time12 min
Views1.2K

* Компания Meta Platforms Inc., владеющая социальными сетями Facebook, признана экстремистской организацией, ее деятельность на территории России запрещена.

В данном посте я представлю перевод главы одной статьи случайно попавшейся мне на глаза. Статья называется "The Political Economy of Privacy on Facebook" (Политическая экономия конфиденциальности на Facebook), автор Christian Fuchs (Кристиан Фукс, Швеция) опубликовал её ещё в 2012 году, однако, мне показалось, что её содержание достаточно актуально и интересно продвинутым пользователям Сети. В статье автор даёт определение понятию конфиденциальность (privacy) в общем случае, а также применяет его на примере функционирования Facebook. Я бы хотел остановиться на одной из глав, одноимённой с названием данного поста — The Political Economy of Facebook (Политическая экономия Facebook). Автор, используя термины политической экономии и теории Маркса, описывает отношения между пользователями, сотрудниками и бенефициарами компании Facebook. Несмотря на то, что автор повествует о модели конкретной компании, я считаю, что она может быть применима ко многим современным социальным сетям и онлайн платформам, созданных по типу Web 2.0, где пользователи генерируют контент.

Читать далее
Total votes 2: ↑1 and ↓10
Comments2

Financial News Sentiment Dataset: определяем точку входа в акции по настроению новостей

Reading time5 min
Views5.9K

Набор данных Financial News Sentiment Dataset (FiNeS) содержит в себе заголовки финансовых новостей о компаниях, торгующихся на Московской и СПб биржах. Целевой переменной датасета является оценка тональности новостных заголовков в виде вещественного числа. Идеи для использования датасета: Создание трейдинговых стратегий на основе анализа тональности новостей "на лету"; Анализ новостного фона в разрезе времени (день/неделя) или в разрезе компании.

Читать далее
Total votes 12: ↑12 and ↓0+12
Comments14

Лингвистические особенности речи человека в диалогах с виртуальным ассистентом

Reading time5 min
Views2.4K

Зачастую, для создания виртуальных ассистентов используются подходы на основе машинного обучения и, конечно, подходы на основе правил. Оба (в большей степени машинное обучение) полагаются на исходные данные, которыми обычно являются человеческие диалоги. При этом, не учитывается фактор того, что пользователи диалоговых систем не будут общаться с ними так же как с реальными людьми.

Читать далее
Total votes 2: ↑2 and ↓0+2
Comments11

Проблема многоязычности Question Answering over Knowledge Graphs и новый датасет QALD-9-Plus, способный её решить

Reading time6 min
Views1.7K

Для разнородных групп пользователей (прим. язык, возраст), возможность одинаково эффективно взаимодействовать с веб-приложениями является одним из важнейших факторов такого понятия как "доступность" (англ. Accessibility). Это относится и к системам автоматического ответа на вопросы с использованием графов знаний (англ. Knowledge Graph Question Answering, KGQA), которые обеспечивают доступ к данным Семантической паутины (англ. The Semantic Web) через интерфейс на естественном языке. В ходе работы над такой темой, как многоязычная доступность KGQA-систем, мы с коллегами выявили несколько наиболее острых проблем. Одной из которых является отсутствие многоязычных бенчмарков для KGQA.

В этой статье мы улучшаем один из самых популярных бенчмарков для KGQA -- QALD-9, путем создания эталонных переводов вопросов из исходного датасета на 8 различных языков (немецкий, французский, русский, украинский, белорусский, армянский, башкирский, литовский). Одним из самых важных аспектов является то, что переводы были предоставленны и провалидированы носителями соответствующего языка. Пять из этих языков - армянский, украинский, литовский, башкирский и белорусский - насколько нам известно, никогда ранее не рассматривались в рамках KGQA-систем. А два языка (башкирский и белорусский) рассматриваются ЮНЕСКО как "находящиеся под угрозой исчезновения". Мы назвали новый расширенный датасет "QALD-9-plus". Датасет доступен онлайн.

Читать далее
Total votes 7: ↑7 and ↓0+7
Comments3

Иерархическая классификация ожидаемого типа ответа на вопрос в вопросно-ответных системах на основе графов знаний

Reading time4 min
Views1.6K

Одним из важных шагов, используемых людьми в поиске ответа на вопрос, является понимание того, какой именно тип ответа устроит автора. К примеру, на вопрос: "Который час?", мы ожидаем услышать ответ с типом "время", а на вопрос "Где родился Иван Петров?" -- ответ с типом "населённый пункт". То же самое верно и для вопросно-ответных систем (Question-Answering, QA), целью которых является поиск ответа на фактографические вопросы. В данной статье я представлю модуль определения ожидаемого типа ответа на вопрос (Expected Answer Type, EAT), который способен определять не только один класс, но и строить иерархию классов в качестве прогнозного значения. Модуль предоставляется как в виде веб-интерфейса (UI) так и в виде RESTful API. Данная функциональность позволяет конечным пользователям получать предсказания типа ответа для 104 языков, видеть достоверность прогноза и оставлять обратную связь. Кроме того, API позволяет исследователям и разработчикам интегрировать EAT-классификацию в свои системы.

Читать далее
Total votes 1: ↑1 and ↓0+1
Comments0

Как мы не сделали стартап в сфере телемедицины

Reading time2 min
Views3.9K

В 2019 году я и мой товарищ решили сделать проект под названием "Polyclinica". Его основной идеей было перенаправить трафик людей, "гуглящих" свои симптомы в приложение-чатбот (a.k.a симптом-чекер), рекомендующий пользователю врача, к которому стоит обратиться. К врачу также можно записаться прямо на сайте через интеграцию API https://docdoc.ru/. Мы разработали полноценный MVP, выступали на нескольких стартап-конференциях, но что-то пошло не так. Цель написания данной статьи -- проанализировать свои ошибки и получить обратную связь от компетентных читателей.

Читать далее
Total votes 11: ↑1 and ↓10-9
Comments24

FAQ чатбот COVID-19 — спустя год

Reading time3 min
Views1.3K

Около года назад я решил написать чат-бота, который отвечает на часто задаваемые вопросы о COVID-19. В тот момент многим показалось, что моя идея не более чем хайп, который спустя короткий промежуток времени потухнет. Однако, оказалось, что спустя год, данная тема только набирает обороты. В этой статье я расскажу о том, как мы создавали чат-бот для консультации по вопросам COVID-19 по просьбе МВД (BMI) Германии, а также выражу идею о создании аналогичного проекта в России.

Читать далее
Total votes 5: ↑0 and ↓5-5
Comments1

COVID-19 Telegram-бот // Отвечаем на FAQ вопросы автоматически

Reading time7 min
Views7.1K
В контексте всеобщего хайпа на Коронавирусе, я решил сделать хоть что-нибудь полезное (но не менее хайповое). В данной статье я расскажу о том, как за 2.5 часа (именно столько у меня ушло) создать и развернуть Telegram Бота с использованием Rule-Based NLP методов, отвечающего на FAQ-вопросы на примере с кейсом COVID-19.

В ходе работы, мы будем использовать старый добрый Python, Telegram API, пару стандартных NLP-библиотек, а также Docker.


Читать дальше →
Total votes 14: ↑8 and ↓6+2
Comments3

Как программисту написать диплом. Полное руководство

Reading time6 min
Views42K
Всем привет, меня зовут Александр и в этом году я заканчиваю магистратуру.

Так получилось, что сейчас я пишу 2 диплома или, правильнее сказать, 2 магистерских диссертации одновременно: одну на русском языке по российским стандартам, а вторую — на английском языке по немецким стандартам. Почему так получилось, я расскажу как нибудь потом (совсем другая история), а сейчас, я бы хотел поделиться своими знаниями в области написания работ бакалавров и магистерских диссертаций в преддверии летних защит.

image
Читать дальше →
Total votes 19: ↑7 and ↓12-5
Comments20

Как студенты из Перми попали в финал международного чемпионата по анализу данных Data Mining Cup 2019

Reading time5 min
Views3.7K
Всем привет. В этой статье я расскажу о нашем опыте участия в соревновании по анализу данных Data Mining Cup 2019 (DMC) и о том, как нам удалось войти в ТОП-10 команд и принять участие в очном финале чемпионата в Берлине.

image
Читать дальше →
Total votes 13: ↑12 and ↓1+11
Comments0

Мульти-классификация Google-запросов с использованием нейросети на Python

Reading time4 min
Views13K
Прошло уже достаточно времени с момента публикации моей первой статьи на тему обработки естественного языка. Я продолжал активно исследовать данную тему, каждый день открывая для себя что-то новое.

Сегодня я бы хотел поговорить об одном из способов классификации поисковых запросов, по отдельным категориям с помощью нейронной сети на Keras. Предметной областью запросов была выбрана сфера автомобилей.

За основу был взят датасет размером ~32000 поисковых запросов, размеченных по 14ти классам: Автоистория, Автострахование, ВУ (водительское удостоверение), Жалобы, Запись в ГИБДД, Запись в МАДИ, Запись на медкомиссию, Нарушения и штрафы, Обращения в МАДИ и АМПП, ПТС, Регистрация, Статус регистрации, Такси, Эвакуация.
Читать дальше →
Total votes 22: ↑20 and ↓2+18
Comments6

Чатбот, который «как Siri, только круче» на наивном Байесовском классификаторе

Reading time4 min
Views17K
Всем, привет! Не секрет, что в последнее время в мире происходит резкий всплеск активности, по поводу исследования такой темы, как искусственный интеллект. Вот и меня это явление не обошло стороной.

Предыстория


Всё началось, когда в самолёте я посмотрел типичную, на первый взгляд американскую комедию – «Почему, он?» (англ. Why him? 2016). Там, у одного из ключевых персонажей в доме был установлен голосовой помощник, который нескромно позиционировал себя «как Siri, только круче». К слову бот из фильма умел не только вызывающе разговаривать с гостями, иногда ругаясь матом, но также контролировать весь дом и прилегающую территорию – от центрального отопления до смыва унитаза. После просмотра фильма, мне пришла идея реализовать что-то подобное и я начал писать код.
Читать дальше →
Total votes 25: ↑23 and ↓2+21
Comments13

Information

Rating
Does not participate
Location
Пермский край, Россия
Registered
Activity

Specialization

Data Scientist, ML Engineer