Semantics
Data Mining
Open data
Data visualization
29 March 2016

Частотный словарь запрещённых сайтов



Исследование проводилось в целях создания корпуса слов сайтов, заблокированных государственными органами Российской Федерации.


Из открытых источников был получен список ссылок, находящихся в реестре на момент проведения исследования. Всего в списке 24515 ссылок.

По каждому url мы делали get-запрос из страны, не имеющей законодательных ограничений на подобные деяния.

Ответы серверов распределились следующим образом:



Большинство сайтов вполне себе функционируют и переоценивать собственные взгляды на жизнь не собираются. Многие используют фаерволы, отсекая потенциально опасных (по их мнению) посетителей. Значительное количество просто ставит редирект на свежий белый домен.

Пара слов об «абузоустойчивости». Взглянем на распределение по tld (только 200 OK):



Не менее интересно распределение по странам, в которых физически находятся заблокированные ресурсы:





Интерактивная визуализация словаря

Статья не направлена на пропаганду чего-либо, а лишь отражает существующую реальность. Полученный материал, возможно, окажется полезным кому-либо для проведения собственных исследований.

+23
31.1k 48
Comments 31