Разработчики годами пытаются решить проблему токсичности в онлайн-играх. В пылу сражений не каждый может сдерживать эмоции, а также оскорбления в сторону соперников и соратников. Все же парни из Modulate нашли способ сделать игровую среду более дружелюбной с помощью искусственного интеллекта.
Началось все с дружбы студентов Майка Паппаса и Картера Хаффмана в MIT. Парни встретились у доски, решая задачу по физике, а вскоре решили вместе создать компанию Modulate.
Будучи геймерами, Паппас и Хаффман решили внести свою лепту в развитие индустрии и задумали создать скины для голосового чата. Специальный алгоритм пропускал бы речь игрока через собственный фильтр, и менял голос в зависимости от выбранного скина.
Все же во время переговоров с разработчиками основатели Modulate услышали о другой проблеме:
«Большой проблемой, которая возникла во время переговоров со студиями, были такие вопросы, как: „Вы бы могли цензурировать ругательства в реальном времени?“. Или: „Вы можете определить, оскорбляет ли кто-то кого-то, и предупреждать об этом нашу команду?“»
В итоге основатели Modulate изменили направление, и применили существующую технологию для создания ToxMod. Используя искусственный интеллект, программа сканирует форму вокальной волны и вычисляет, что и как говорит пользователь. Алгоритм умеет улавливать нюансы человеческой речи, обнаруживать всплески агрессии и реагировать соответствующим образом на лету.
При этом самим игрокам не придется устанавливать дополнительные программы, чтобы активировать цензуру для голосового чата. ToxMod предлагается разработчика в виде SDK, позволяя встраивать фильтр в игру.
