Платформа для соревнований FACEIT отчиталась о результатах работы «ИИ-админа» Minerva, который отслеживает токсичных игроков, а также вычисляет оскорбления. Нарушители получают наказание, а ругательные сообщения помечаются как спам.
FACEIT
Это независимая платформа для проведения профессиональных соревнований в рамках многопользовательских онлайн видеоигр. Имеет лиги по Counter-Strike: Global Offensive, League of Legends, Rocket League и Dota 2.
ИИ-админ версии 0.1 работает при поддержке облачной службы Google Cloud и технологического инкубатора Google Jigsaw. Пока он анализирует только текстовые чаты.
Minerva тестировали несколько месяцев, а полноценно запустили в августе. За это время ИИ-админ проанализировал свыше 200 млн сообщений в чате и признал токсичными 7 млн; выписал 90 000 предупреждений и 20 000 банов за оскорбления и спам.
Первым итогом работы Minerva стало то, что количество токсичных сообщений упало на 20,13%. Число игроков, которые отправляют такие сообщения, снизилось при этом на 8%.
Стоит отметить, что наказания для игроков платформы варьируются, то есть изначально можно получить предупреждение и временное отстранение от матчей, а при определенном числе нарушений попасть в бан. ИИ-админ способен вынести решение в течение нескольких секунд после завершения матча.
Владельцы FACEIT заявили, что они довольны такими результатами и собираются развивать Minerva дальше. Предполагается, что ИИ добавят в «другие системы».
Для пользователей ввели SMS-верификацию учетных записей: каждый аккаунт, который подозревается в том, что он является смурфом или бустером, а также потенциальным мошенником или вообще токсичным, должен подтвердить свой номер телефона, прежде чем играть на FACEIT. За последние два месяца более 250 000 аккаунтов подтвердили свои номера. Из них 50 000 нелегальных аккаунтов были заблокированы. Платформа планирует сделать эту функцию доступной для организаторов, чтобы они могли ограничить доступ к турнирам и хабам для пользователей без подтвержденного номера телефона.
