ИИ с машинным обучением забанил 20 000 «токсиков» CS:GO за полтора месяца
FACEIT — платформа для соревнований, в том числе по
Counter-Strike: Global Offensive. Чтобы нанести удар по едкому поведению среди игроков, хозяева площадки заручились поддержкой облачной службы Google Cloud и технологического инкубатора
Google Jigsaw. В результате
родился «ИИ-админ» Минерва.
Минерва версии 0.1 уже работает на FACEIT. Пока что она сосредотачивается на текстовом чате: если ИИ засекает токсичность, виновник получает наказание, а ругательные сообщения отмечаются как спам.
Наказание зависит от количества нарушений: чем больше нарушений, тем серьёзнее наказание. Сперва можно отделаться предупреждением и временным отстранением от матчей, а вот злостные токсики отхватывают бан. Минерва способна вынести решение в течение нескольких секунд после завершения матча.
Как пишет FACEIT, ИИ-админа тренировали в течение нескольких месяцев, чтобы минимизировать ложные срабатывания. Полноценный запуск Минервы состоялся в этом августе: разработчики перестали вручную вмешиваться в её решения.
Итоги получились следующими:
• На этапе многомесячного обучения было проанализировано свыше 200 миллионов сообщений в чате. Из них 7 миллионов признали токсичными.
• За первые полтора месяца работы Минерва выписала 90 000 предупреждений и 20 000 банов за оскорбления и спам.
• Через месяц после запуска Минервы количество токсичных сообщений снизилось на 20.13 %.
CS:GO условно-бесплатна, за регистрацию на FACEIT денег тоже не требуют, поэтому для борьбы со смурфами на площадке вводят подтверждение данных по SMS. Чтобы принять участие в официальных матчах на FACEIT, пользователям, чей аккаунт подозревается в смурфинге, бустинге, потенциальном читерстве или токсичности, сперва придётся привязать номер своего телефона.
Владельцы FACEIT довольны результатами Минервы и собираются развивать её дальше — в том числе добавить ИИ в «другие системы» (видимо, имеются в виду другие игры).
