Как стать автором
Обновить

Html Agility Pack — удобный .NET парсер HTML

.NET
Всем привет!
Как-то раз мне пришла в голову идея проанализировать вакансии размещенные на Хабре. Конкретно интересовало, есть ли зависимость между размером зарплаты и наличия высшего образования. А еще сейчас у студентов идет сессия (в том числе и у меня), то возможно кому-то уже надоело трепать нервы на экзаменах и этот анализ будет полезен.
Так как я программист на .Net, то и решать эту задачу — парсить объявления на Хабре я решил на C#. Вручную разбирать строки html мне не хотелось, поэтому было придумано найти html-парсер, который помог бы осуществить задачу.
Забегая вперед скажу, что из анализа ничего интересного не вышло и сессию придется сдавать дальше :(
Но зато немножко расскажу про весьма полезную библиотеку Html Agility Pack

Выбор парсера


Вышел на эту библиотеку я через обсуждение на Stackoverflow. В комментариях предлагались еще решения, например библиотека SgmlReader, которая переводит HTML в XmlDocument, а для XML в .Net инструментов полный набор. Но почему-то меня это не подкупило и я пошел качать Html Agility Pack.

Беглый осмотр Html Agility Pack


Справку по библиотеке можно скачать на странице проекта. Функционал на самом деле очень радует.
Всего нам доступно двадцать основных классов:



Названия методов соответствуют интерфейсам DOM (замечание k12th) + плюшки: GetElementbyId(), CreateAttribute(), CreateElement() и т.д., так что работать будет особенно удобно, если приходилось сталкиваться с JavaScript
Похоже, что html все же перегоняется в Xml, а HtmlDocument и др. классы это обертка, ну и ничего страшного в этом, ввиду этого доступны такие возможности как:
  • Linq to Objects (via LINQ to Xml)
  • XPATH
  • XSLT

Парсим хабр!


Вакансии на хабре представлены в виде таблицы, в строках дана информация о требуемой специальности и зарплате, но так как нам нужна информация об образовании, то придется переходить на страницу вакансии и разбирать ее.
Итак, начнем, нам нужна таблица, чтобы вытащить оттуда ссылки и инфу о позиции с зарплатой:
  1. static void GetJobLinks(HtmlDocument html)
  2. {
  3. var trNodes = html.GetElementbyId(«job-items»).ChildNodes.Where(x => x.Name == «tr»);
  4. foreach (var item in trNodes)
  5. {
  6. var tdNodes = item.ChildNodes.Where(x => x.Name == «td»).ToArray();
  7. if (tdNodes.Count() != 0)
  8. {
  9. var location = tdNodes[2].ChildNodes.Where(x => x.Name == «a»).ToArray();
  10. jobList.Add(new HabraJob()
  11. {
  12. Url = tdNodes[0].ChildNodes.First().Attributes[«href»].Value,
  13. Title = tdNodes[0].FirstChild.InnerText,
  14. Price = tdNodes[1].FirstChild.InnerText,
  15. Country = location[0].InnerText,
  16. Region = location[2].InnerText,
  17. City = location[2].InnerText
  18. });
  19. }
  20. }
  21. }

А после осталось пройти по каждой ссылке и вытащить инфу об образовании и заодно еще и занятость — здесь есть небольшая проблема в том, что если таблица с ссылками на вакансию лежала в div-е с известным id, то информация о вакансия лежит в таблице без всяких id, поэтому пришлось немножко поизвращаться:
  1. static void GetFullInfo(HabraJob job)
  2. {
  3. HtmlDocument html = new HtmlDocument();
  4. html.LoadHtml(wClient.DownloadString(job.Url));
  5. // html.LoadHtml(GetHtmlString(job.Url));
  6. // так делать нельзя :-(
  7. var table = html.GetElementbyId(«main-content»).ChildNodes[1].ChildNodes[9].ChildNodes[1].ChildNodes[2].ChildNodes[1].ChildNodes[3].ChildNodes.Where(x => x.Name == «tr»).ToArray();
  8. foreach (var tr in table)
  9. {
  10. string category = tr.ChildNodes.FindFirst(«th»).InnerText;
  11. switch (category)
  12. {
  13. case «Компания»:
  14. job.Company = tr.ChildNodes.FindFirst(«td»).FirstChild.InnerText;
  15. break;
  16. case «Образование:»:
  17. job.Education = HabraJob.ParseEducation(tr.ChildNodes.FindFirst(«td»).InnerText);
  18. break;
  19. case «Занятость:»:
  20. job.Employment = HabraJob.ParseEmployment(tr.ChildNodes.FindFirst(«td»).InnerText);
  21. break;
  22. default:
  23. continue;
  24. }
  25. }
  26. }

Результаты


Ну а дальше, сохраняем результаты в XML и смотрим в Excel-e, что же получилось… и видим, что ничего хорошего не получилось, потому что большинство компаний либо не указывают размер зарплаты, либо не указывают информацию об образовании (забывают, указывают в теле вакансии, или действительно неважно), либо не указывают все сразу.
Кому интересно, вот результаты в xlsx и xml, а здесь исходник

P.S.


При парсинге возникла такая проблема — страницы скачивались очень медленно. Поэтому я сначала попробовал WebClient, а потом WebRequest, но разницы не было. Поиск в гугле указал на то, что следует явно отключать Proxy в коде, и тогда все будет хорошо, однако это тоже не помогло.
Теги:.nethtml парсерhtml parserhtml agility pack
Хабы: .NET
Всего голосов 58: ↑41 и ↓17+24
Просмотры152K

Похожие публикации

Лучшие публикации за сутки