Рейтинг Top-100 веб-студий СНГ. Разработчики мобильных приложений и сайтов. Новости IT-отрасли.

Google

В Google рассказали, как работает модерация отзывов в Картах

В Google рассказали, как работает модерация отзывов в Картах

Google опубликовал статью о том, как работают отзывы в Картах. В частности, как компания разрабатывает и внедряет правила, и какую роль в модерации контента играют люди и алгоритмы.

Создание правил и обеспечение их соблюдения

В Google отметили, что, как и все остальное в мире, правила и меры защиты в Картах также развиваются и не стоят на месте. Регулярные пересмотры помогают компании адаптировать свои правила, чтобы еще лучше защищать локальные бизнесы от беспочвенных обвинений.

Например, когда государственные органы и компании начали требовать подтверждение вакцинации против COVID-19, в Google ввели дополнительные меры защиты, чтобы удалить те отзывы, в которых компании критиковались за свои политики безопасности или за соблюдение распоряжений правительства в отношении вакцинации.

В Google также рассказали, что, когда правило создано, оно становится материалом для обучения – как для сотрудников, так и для алгоритмов машинного обучения.

Модерация отзывов

Этот процесс работает на основе машинного обучения. Оставленные пользователями отклики перенаправляются в систему модерации Google сразу после отправки. Если никаких нарушений не обнаружено, отзыв публикуется. Обычно это происходит в считанные секунды.

Чтобы определить, может ли отзыв нарушать правила, системы модерации Google оценивают его с нескольких сторон:

  • Содержит ли отзыв оскорбительный или не имеющий отношения к теме контент.
  • Был ли аккаунт, оставивший отзыв, замечен в подозрительном поведении.
  • Имела ли место нехарактерная активность в отношении того места или бизнеса, о котором идет речь. Например, обилие отзывов за короткий период времени или недавнее освещение компании/места в СМИ, что может побудить людей оставить ложные отзывы.

Участие сотрудников Google в модерации отзывов

Модераторы ответственны за проведение проверок качества и дополнительного обучения для исключения предвзятости из моделей машинного обучения. Они также проверяют помеченный пользователями контент.

Когда Google находит фейковые отзывы, то удаляет их, а в некоторых случаях также приостанавливает те аккаунты, которые их оставили.

Проактивные меры защиты

Системы Google продолжают анализировать отзывы и отслеживать аномальные паттерны даже после публикации отзывов.

Кроме того, команда модераторов работает над определением потенциальных рисков злоупотреблений.

«Например, когда приближается событие со значительной аудиторией, такое как выборы, мы внедряем повышенную защиту для мест, связанных с этим событием, и других близлежащих бизнесов, которые люди могут искать на Картах», – объяснили в компании.

Напомним, что недавно в Google акцентировали внимание на важности всех отзывов: и положительных, и отрицательных.

По материалам: searchengines.guru
Похожие записи
Google

Adekunle Gold | How Afrobeats is Driving Global Music Innovation | Talks at Google

Google

Amanda Montell | The Age of Magical Overthinking | Talks at Google

Google

Dr. Romie Mushtaq | The Busy Brain Cure | Talks at Google

Google

Eric Siegel | The AI Playbook | Talks at Google

Добавить комментарий