О чем эта история? О том, что нас постоянно должен кто-то оберегать от крайностей в интернет дискуссиях. О том, что делается организаторами дискуссий, чтобы позволить нам хоть как-то приемлемо общаться, и как им не удается справиться с этой задачей. О том, чего нам не хватает при таком общении и что нового можно предложить в области модерирования.
Итак, на сцене под жарким светом софитов – модерация интернет дискуссий, а точнее комментариев.
Дискуссия на интересующую тебя тему — так это же здорово! Интересный собеседник на другом конце континента – это ли не мечта наших предков! Однако, в онлайн дискуссиях есть ложка дегтя: постоянно кто-то мешает.
С этой проблемой сталкиваются начинающие блогеры, впервые окунувшиеся в чудный онлайн мир и открывшие всему миру на своем блоге заветный диалог комментирования. С ней же бьются интернет-гиганты, вкладывающие в эту задачу ежегодно миллионы долларов и нанимающие сотни тысяч дополнительных модераторов в период всплеска активности пользователей, обсуждающих топовые новости, катастрофы, пандемии и т.д.
Когда-то такой проблемой был явный спам, а самыми большими вредителями были интернет-боты, которые были запрограммированы изображать из себя пользователей, и спамить для выгоды их хозяев по диалогам комментирования. С таким типом помех в дискуссиях организаторы, пусть с разной степенью успеха, но научились бороться. Научились их обескураживать и запутывать. Спасибо сервисам капчи, автоматическим фильтрам, нейросетям и Akismet, что с нами, что охраняете нас от явного спама!
Но, оказалось, что организаторам выдохнуть все же нельзя. Защитив обсуждение от массовых рассылок интернет-ботов, его также нужно защитить и от людей, не соблюдающих правила дискутирования онлайн. И тут оказалось, что автоматическими методами обойтись не получится, ибо слабы они.
Потому что они сейчас находятся еще не в той точке развития. Потому что они еще очень плохо понимают смысл человеческих диалогов. Потому что, по-прежнему, как и во времена Карела Чапека, лучшие умы человечества все еще бьются над задачей создания сильного ИИ, способного действительно понимать нас. Потому что нарушающий правила пользователь, при желании, преспокойно обходит фильтры, нейросети, и прочие псевдо-разумные автоматы.
В итоге, организация дискуссии, по-прежнему, требует присутствия человека модератора. Да, конечно, программы умнеют и позволяют сократить множество проверок. Но они и ошибаются, причем, и нередко, но метко. В итоге, за человеком-модератором, по-прежнему, остается окончательное решение: нарушает ли тот или иной комментарий правила, выходит ли он за рамки обсуждения, не обманул ли данный комментарий автомат. Ну так и где же нам взять нужное количество модераторов для всех диалогов?
Это может быть проще и для блогера, который хочет сосредоточиться на написании статей (а может и на чем-то более приятном) и который и не имеет возможности (да и не хочет — зачем ему это?) отвлекаться на модерирование обсуждений. Это может быть проще и экономически целесообразнее и для крупных интернет-компаний. Это, например, сделал в марте 2019 года видеохостинг YouTube, который ввел новые правила, после которых, десятки миллионов видео лишились кнопки «Оставить комментарий». А все потому, что рекламодатели не довольны комментариями, зачастую сексуального характера и отказываются рекламироваться в таком информационном окружении. Вот тут и привет автоматическому модерированию! Ну не могут они!
Казалось бы, да. Большинство пользователей заинтересованы в адекватном проведении дискуссии. В конце концов, адекватных людей больше, чем неадекватных, и они могли бы как-то участвовать в процессе модерации, как-то оценивать комментарии и друг друга самостоятельно. Очень заманчиво, не правда ли? Вроде, и модератор не особо тогда нужен. Как и в обычной жизни, когда адекватность дискуссий под нашим контролем и если кто-то мешает обсуждению, то сообщество просто исключает его. В некоторых случаях даже кулаками.
В интернете же все не так, потому что все равны, потому что нет доверия пользователям. По умолчанию. Давать возможность напрямую модерировать чужие комментарии простому пользователю — это безумие, интернет-харакири для организатора.
Вот, например, можно позвать модератора в случае нарушения. Помните? Та самая заветная кнопка “пожаловаться”. Класс! Только вот что-то лениво нашему блогеру, не спешит он особо. Да и вообще, может вы ее шутя нажали?
Или, например, если много пользователей указывают на нарушение, тогда, пожалуй, можно и довериться такой коллективной модерации и автоматически скрыть нарушение. Но и тут есть трудности. А что если недостаточно пользователей для организации коллективного голосования? И вообще-то, как-то есть подозрение, что такое голосование можно накрутить с разных браузеров.
Или можно попробовать выбрать наиболее объективных пользователей и дать им функции модерирования. Как, например, на Хабре. Но тут должно быть большое сообщество со своей историей, на основании которой можно выбрать объективных пользователей. А это бывает далеко не всегда.
Итак, если мы стоим на дзен-пути привлечения пользователей к адекватному проведению дискуссий, то мы, очевидно, приходим к вопросу:
Казалось бы, невозможно просто так взять и довериться оценке неизвестного пользователя. Но ведь можно создать условия, при которой этой оценке можно доверять! И такой успешный опыт в интернете уже есть! Такой метод использует широко известная и изрядно всем поднадоевшая reCaptcha. Точнее, одна из ее первых версий, в которой пользователю для авторизации на сайте предлагалось написать несколько слов. Одно из этих слов было проверочным и известно системе, а другое слово было неизвестно системе, и его требовалось распознать. Сами же пользователи не знали, какое слово известное, а какое нет, и для того, чтобы быстрее авторизоваться, вынуждены были отвечать честно, а не гадать!
В итоге, пользователи, которые отвечали честно и правильно вводили проверочное слово, считались объективными, и reCaptcha их пропускала дальше, а также принимала! ранее не известное ей слово, как верный результат.
И это оказалось эффективно! Таким нехитрым методом пользователи reCaptcha только за первые полгода работы успешно распознали около 150 миллионов нераспознанных слов, что эквивалентно 7500 книгам, которые не смогли распознать автоматические методы. Не плохо, правда?
А почему нет? Ничего не мешает дать пользователю возможность оценить на соответствие правилам ряд из комментариев, среди которых будет один, оценка которого нам не известна, а остальные будут проверочными. Далее, принять оценку неизвестного комментария, если пользователь честен в оценке проверочных (то есть известных системе) комментариев. Причем, для оценки неизвестного комментария, таким образом, нам не нужно будет организовывать коллективное голосование, достаточно будет одного пользователя, который докажет свою адекватность!
А дальше еще интереснее. Этот, казалось бы, простой метод одиночной объективной оценки при его тиражировании может дать мощный эффект модерирования, так сказать независимую пользовательскую модерацию:
Как пелось в солдатской сатирической песни:
Чисто вписано в бумаги,
Да забыли про овраги,
А по ним ходить!
И как это будет в жизни?
Для наглядности приведем пример пост-модерации на основе данного метода:
1) Предположим, у нас есть следующая дискуссия. Любой читатель, сталкиваясь с нарушением, в может вызвать проверку нажав кнопку “нарушает?”
2) Ему будут предложены правила пользовательской модерации и предложено оценить несколько чужих комментариев перед тем, как отослать на модерацию комментарий, выбранный им. Нажав кнопку “Оценить>>”, он сможет приступить к оценке.
3) Ниже приведен пример одной из 4-х оценок (оценок может быть разное число), которые будут ему предложены. Варианты ответа “Да” или “Нет”.
4) Если пользователь объективен и верно оценивает все комментарии (в данном примере будет 3 проверочных комментария и один неизвестный, который нужно проверить), то он считается объективным, и ему будет разрешено отправить выбранный им комментарий на модерацию.
5) Если пользователь ошибся в проверочных частях, то он считается необъективным, и он не сможет отправить комментарий на модерацию.
Тоже самое можно организовать и для пре-модерации. В целом, на основании данного метода возможна следующая культура комментирования:
Вот так просто мы можем привлечь пользователей к решению задачи модерирования, если начнем им доверять. Таким образом, мы можем дать пользователям возможность самим поддерживать культуру общения, особо их при этом не утруждая, и организовать такую среду, при которой комментирующим будет невыгодно нарушать правила дискутирования.
Спасибо! И да начнется критика!
Добавление: По мотивам данной статьи была создана демоверсия.
Ее можно попробовать здесь.
Итак, на сцене под жарким светом софитов – модерация интернет дискуссий, а точнее комментариев.
В чем же проблема, с чем боремся?
Дискуссия на интересующую тебя тему — так это же здорово! Интересный собеседник на другом конце континента – это ли не мечта наших предков! Однако, в онлайн дискуссиях есть ложка дегтя: постоянно кто-то мешает.
С этой проблемой сталкиваются начинающие блогеры, впервые окунувшиеся в чудный онлайн мир и открывшие всему миру на своем блоге заветный диалог комментирования. С ней же бьются интернет-гиганты, вкладывающие в эту задачу ежегодно миллионы долларов и нанимающие сотни тысяч дополнительных модераторов в период всплеска активности пользователей, обсуждающих топовые новости, катастрофы, пандемии и т.д.
Когда-то такой проблемой был явный спам, а самыми большими вредителями были интернет-боты, которые были запрограммированы изображать из себя пользователей, и спамить для выгоды их хозяев по диалогам комментирования. С таким типом помех в дискуссиях организаторы, пусть с разной степенью успеха, но научились бороться. Научились их обескураживать и запутывать. Спасибо сервисам капчи, автоматическим фильтрам, нейросетям и Akismet, что с нами, что охраняете нас от явного спама!
На автомат – найдется другой автомат.
Но, оказалось, что организаторам выдохнуть все же нельзя. Защитив обсуждение от массовых рассылок интернет-ботов, его также нужно защитить и от людей, не соблюдающих правила дискутирования онлайн. И тут оказалось, что автоматическими методами обойтись не получится, ибо слабы они.
Потому что они сейчас находятся еще не в той точке развития. Потому что они еще очень плохо понимают смысл человеческих диалогов. Потому что, по-прежнему, как и во времена Карела Чапека, лучшие умы человечества все еще бьются над задачей создания сильного ИИ, способного действительно понимать нас. Потому что нарушающий правила пользователь, при желании, преспокойно обходит фильтры, нейросети, и прочие псевдо-разумные автоматы.
Так что мы имеем сейчас?
В итоге, организация дискуссии, по-прежнему, требует присутствия человека модератора. Да, конечно, программы умнеют и позволяют сократить множество проверок. Но они и ошибаются, причем, и нередко, но метко. В итоге, за человеком-модератором, по-прежнему, остается окончательное решение: нарушает ли тот или иной комментарий правила, выходит ли он за рамки обсуждения, не обманул ли данный комментарий автомат. Ну так и где же нам взять нужное количество модераторов для всех диалогов?
Сейчас владельцы сайтов сталкиваются с ситуацией, что, в ряде случаев, комментарии лучше вообще отключить.
Это может быть проще и для блогера, который хочет сосредоточиться на написании статей (а может и на чем-то более приятном) и который и не имеет возможности (да и не хочет — зачем ему это?) отвлекаться на модерирование обсуждений. Это может быть проще и экономически целесообразнее и для крупных интернет-компаний. Это, например, сделал в марте 2019 года видеохостинг YouTube, который ввел новые правила, после которых, десятки миллионов видео лишились кнопки «Оставить комментарий». А все потому, что рекламодатели не довольны комментариями, зачастую сексуального характера и отказываются рекламироваться в таком информационном окружении. Вот тут и привет автоматическому модерированию! Ну не могут они!
А как же сами дискутирующие пользователи? Могут ли они помочь?
Казалось бы, да. Большинство пользователей заинтересованы в адекватном проведении дискуссии. В конце концов, адекватных людей больше, чем неадекватных, и они могли бы как-то участвовать в процессе модерации, как-то оценивать комментарии и друг друга самостоятельно. Очень заманчиво, не правда ли? Вроде, и модератор не особо тогда нужен. Как и в обычной жизни, когда адекватность дискуссий под нашим контролем и если кто-то мешает обсуждению, то сообщество просто исключает его. В некоторых случаях даже кулаками.
В интернете же все не так, потому что все равны, потому что нет доверия пользователям. По умолчанию. Давать возможность напрямую модерировать чужие комментарии простому пользователю — это безумие, интернет-харакири для организатора.
И все же попытки передать пользователям хотя бы часть управления дискуссией продолжаются. Уж больно заманчиво.
Вот, например, можно позвать модератора в случае нарушения. Помните? Та самая заветная кнопка “пожаловаться”. Класс! Только вот что-то лениво нашему блогеру, не спешит он особо. Да и вообще, может вы ее шутя нажали?
Или, например, если много пользователей указывают на нарушение, тогда, пожалуй, можно и довериться такой коллективной модерации и автоматически скрыть нарушение. Но и тут есть трудности. А что если недостаточно пользователей для организации коллективного голосования? И вообще-то, как-то есть подозрение, что такое голосование можно накрутить с разных браузеров.
Или можно попробовать выбрать наиболее объективных пользователей и дать им функции модерирования. Как, например, на Хабре. Но тут должно быть большое сообщество со своей историей, на основании которой можно выбрать объективных пользователей. А это бывает далеко не всегда.
Итак, если мы стоим на дзен-пути привлечения пользователей к адекватному проведению дискуссий, то мы, очевидно, приходим к вопросу:
Как научиться доверять пользователю?
Казалось бы, невозможно просто так взять и довериться оценке неизвестного пользователя. Но ведь можно создать условия, при которой этой оценке можно доверять! И такой успешный опыт в интернете уже есть! Такой метод использует широко известная и изрядно всем поднадоевшая reCaptcha. Точнее, одна из ее первых версий, в которой пользователю для авторизации на сайте предлагалось написать несколько слов. Одно из этих слов было проверочным и известно системе, а другое слово было неизвестно системе, и его требовалось распознать. Сами же пользователи не знали, какое слово известное, а какое нет, и для того, чтобы быстрее авторизоваться, вынуждены были отвечать честно, а не гадать!
В итоге, пользователи, которые отвечали честно и правильно вводили проверочное слово, считались объективными, и reCaptcha их пропускала дальше, а также принимала! ранее не известное ей слово, как верный результат.
И это оказалось эффективно! Таким нехитрым методом пользователи reCaptcha только за первые полгода работы успешно распознали около 150 миллионов нераспознанных слов, что эквивалентно 7500 книгам, которые не смогли распознать автоматические методы. Не плохо, правда?
Но можем ли мы применить такой метод в области модерации?
А почему нет? Ничего не мешает дать пользователю возможность оценить на соответствие правилам ряд из комментариев, среди которых будет один, оценка которого нам не известна, а остальные будут проверочными. Далее, принять оценку неизвестного комментария, если пользователь честен в оценке проверочных (то есть известных системе) комментариев. Причем, для оценки неизвестного комментария, таким образом, нам не нужно будет организовывать коллективное голосование, достаточно будет одного пользователя, который докажет свою адекватность!
А дальше еще интереснее. Этот, казалось бы, простой метод одиночной объективной оценки при его тиражировании может дать мощный эффект модерирования, так сказать независимую пользовательскую модерацию:
- С помощью метода можно создать целую сеть-сообщество пользовательской модерации:
Так, неизвестный комментарий пользователя с сайта1 может быть отправлен на проверку пользователю с сайта2. А неизвестный комментарий пользователя с сайта2 может быть оценен пользователем с сайта3. И так далее. При этом скорость проверки комментариев в сети будет возрастать с ростом числа вовлеченных в модерирование пользователей, что существенно будет для малопосещаемых сайтов.
- С его помощью можно организовать пользовательскую пре-модерацию комментариев.
Так, мы предлагаем пользователю принудительно проверить ряд чужих комментариев перед тем, как позволить ему опубликовать свой. А затем введенный им комментарий отправить в свою очередь на проверку. В итоге получаем перекрестную проверку комментариев.
- С его помощью можно организовать пользовательскую пост-модерацию комментариев:
Рядом с каждым уже опубликованным комментарием есть кнопка “нарушает?”. И любой заинтересованный пользователь может отправить на перепроверку любой комментарий. Разумеется, только после того, как предварительно успешно проверит ряд чужих комментариев. В итоге, если чей-то комментарий нарушил его не сложно удалить.
- Его можно использовать как средство повторения правил:
Конечно, нужно понимать, в нормальном режиме диалога пользователям вообще не хочется что-либо проверять, а хочется комментировать без ограничений. Поэтому эту проверку можно использовать как средство повторения правил, принудительно предлагать ее, только если пользователь еще не знает правил данного сообщества или если пост- или пре-модерацией было выявлено, что он их нарушил предыдущий раз. Нарушил- будь добр повтори правила, одновременно выполнив полезную работу. И в следующий раз вспомни об этом перед тем, как нарушить правила.
Как пелось в солдатской сатирической песни:
Чисто вписано в бумаги,
Да забыли про овраги,
А по ним ходить!
И как это будет в жизни?
Для наглядности приведем пример пост-модерации на основе данного метода:
1) Предположим, у нас есть следующая дискуссия. Любой читатель, сталкиваясь с нарушением, в может вызвать проверку нажав кнопку “нарушает?”
2) Ему будут предложены правила пользовательской модерации и предложено оценить несколько чужих комментариев перед тем, как отослать на модерацию комментарий, выбранный им. Нажав кнопку “Оценить>>”, он сможет приступить к оценке.
3) Ниже приведен пример одной из 4-х оценок (оценок может быть разное число), которые будут ему предложены. Варианты ответа “Да” или “Нет”.
4) Если пользователь объективен и верно оценивает все комментарии (в данном примере будет 3 проверочных комментария и один неизвестный, который нужно проверить), то он считается объективным, и ему будет разрешено отправить выбранный им комментарий на модерацию.
5) Если пользователь ошибся в проверочных частях, то он считается необъективным, и он не сможет отправить комментарий на модерацию.
Тоже самое можно организовать и для пре-модерации. В целом, на основании данного метода возможна следующая культура комментирования:
- Неавторизованные на сайте пользователи всегда комментируют с пользовательской пре-модерацией.
- Авторизованные пользователи, если не нарушают, могут комментировать без пре-модерации.
- Читатели могут устранять нарушения с помощью пользовательской пост-модерации.
Вот так просто мы можем привлечь пользователей к решению задачи модерирования, если начнем им доверять. Таким образом, мы можем дать пользователям возможность самим поддерживать культуру общения, особо их при этом не утруждая, и организовать такую среду, при которой комментирующим будет невыгодно нарушать правила дискутирования.
Спасибо! И да начнется критика!
Добавление: По мотивам данной статьи была создана демоверсия.
Ее можно попробовать здесь.
