Внутри фильтра отзывов Google: как машинное обучение находит фейковые отзывы

Google не предоставляет руководства по обнаружению поддельных отзывов. Но из постов в блогах компании, правительственных документов и экспертного анализа становится ясен дизайн системы — и он намного более продвинут, чем многие предполагают.

Каждый день 20 миллионов материалов попадают в Google Карты и Поиск. Это отзывы, фотографии, изменения и идеи. Подавляющее большинство из них реальны. Заметная часть — нет. Сортировка такого объема — это задача не для людей. Это задача для машинного обучения, и эта машина стала чрезвычайно эффективной.

Чтобы понять, как работает фильтр Google, вы должны сначала оценить цифры. Ежедневно поступает двадцать миллионов материалов, отправленных пользователями. Это около 230 в секунду, 24/7, со всех уголков земного шара, на всех языках, на всех типах устройств. Представление о том, что люди могли бы просмотреть даже крошечную часть этого — не говоря уже о том, чтобы делать это постоянно — является фундаментальным заблуждением. Эту проблему никогда не могли решить люди.

Вместо этого Google создал многоуровневую систему принудительного исполнения, которая всегда включена. В 2023 году она удалила 170 миллионов отзывов, нарушающих ее правила, что на 45% больше, чем в предыдущем году. В 2024 году общее число выросло до 240 миллионов. Этот ежегодный рост означает не только то, что пишется больше поддельных отзывов, хотя это может быть одним из факторов. Это означает, что технология обнаружения улучшается быстрее, чем методы ее обхода.

Ставки для бизнеса огромны. Исследование 2023 года, опубликованное в Journal of Business Research, показало, что поддельные негативные отзывы непропорционально нацелены на успешные рестораны, нанося ущерб тем самым предприятиям, которые больше всего зависят от своей заслуженной репутации. Что касается предложения, собственные юристы Google подали в суд на продавцов поддельных отзывов, включая дело 2023 года против поставщика из Бангладеш, чей веб-сайт Bigboostup.com создавал ложные отзывы для американских местных предприятий.

Почему поддельные отзывы все еще проходят?

Если Google ежегодно удаляет сотни миллионов поддельных отзывов, почему некоторые из них все же попадают в профиль? Это та же причина, по которой некоторые спам-письма все еще попадают в ваш почтовый ящик даже при хороших фильтрах. Методы обхода становятся умнее, и существует тонкая грань между ложными срабатываниями (реальные отзывы, ошибочно удаленные) и ложными пропусками (поддельные отзывы, которые проходят). Google настраивает свою систему так, чтобы избежать удаления подлинных отзывов, что означает, что умные подделки могут продержаться дольше, чем откровенные.

Джой Хокинс, основатель Sterling Sky и ведущий исследователь в области локального SEO, подробно изучала этот дисбаланс. Ее работа демонстрирует, что фильтр Google иногда может удалять группы законных отзывов, особенно для юристов и врачей, где несколько реальных клиентов могут использовать один и тот же Wi-Fi в зале ожидания. Фильтр не идеален ни в одном направлении.

Google не опубликовал техническое руководство по своей системе модерации отзывов. У нас есть посты в блогах компании, заявления в FTC и анализ исследователей, наблюдающих за действиями системы. В совокупности эти источники указывают на пятиступенчатый процесс, который постоянно работает параллельно с обычными функциями Google Карт.

Центральный принцип дизайна — о котором Google упоминал в своем блоге «Поддержание подлинности отзывов» — заключается в том, что процесс не заканчивается, когда отзыв опубликован. Отзыв, который прошел первоначальную проверку, может быть проверен снова через дни или недели по мере поступления новой информации. Если аккаунт А получает проходной балл в понедельник, но в четверг связывается с кластером из двенадцати других аккаунтов, которые только что были помечены, опубликованные отзывы аккаунта А отправляются на повторную проверку. Вот почему компании иногда видят, как отзывы исчезают спустя долгое время после их первого появления.

Роль аналитиков-людей

Автоматизированные системы обрабатывают большое количество случаев, в которых система очень уверена. Пограничные случаи передаются человеческим следователям. Это хитрые подделки, которые находят пробелы в статистике, или реальные отзывы, которые выглядят как подозрительный паттерн. Эти сотрудники Google рассматривают прямые доказательства: скриншоты из чатов мошенников, паттерны в отчетах владельцев бизнеса и языковой анализ. То, что они находят, используется для переобучения модели. Именно так произошло удаление сети из 5 миллионов отзывов в 2023 году: люди определили паттерн, модель его усвоила, и новые обнаружения стали автоматическими.

Этот цикл обратной связи является наиболее важным элементом дизайна системы. Цель состоит не в том, чтобы создать список правил. Цель состоит в том, чтобы создать настолько продвинутую модель, которая пересматривает свое собственное определение мошенничества, почти в реальном времени.

Текстовый анализ и NLP

Менее освещенный аспект обнаружения поддельных отзывов связан с самим текстом. Модели обработки естественного языка (NLP) могут выявлять лингвистические признаки, характерные для сфабрикованных отзывов: слишком много превосходных степеней, отсутствие конкретных деталей, чрезмерное использование «я» и повторяющиеся фразы в разных аккаунтах. Исследование в Journal of Marketing Analytics показало, что психологические языковые маркеры — такие как когнитивные усилия и эмоциональный тон — могут с большой точностью отделять поддельные отзывы от реальных. Собственная NLP Google, улучшенная с помощью Gemini в 2024 году, выполняет эту работу в огромных масштабах.

Google не предоставил полный перечень своих сигналов обнаружения. Однако, объединив официальные заявления, показания FTC, экспертные исследования и тщательное наблюдение за тем, что помечается, а что нет, мы можем собрать основной набор сигналов. Десять из них отвечают за большую часть принудительных мер.

Эти десять сигналов не являются простым контрольным списком; это взвешенные точки данных в вероятностной модели. Одного сигнала редко достаточно для запуска действия. Система ищет комбинации — паттерны, где несколько сигналов подтверждают друг друга. Новый аккаунт с общим IP-адресом, использующий шаблонный текст без фотографий, активирует сразу четыре сигнала, и эта комбинация дает высокую степень уверенности в удалении.

Всплеск аккаунтов: самый показательный паттерн Google

Из всех сигналов обнаружение всплесков аккаунтов является наиболее эффективным способом разрушения крупномасштабных схем по накрутке отзывов. Когда продавец создает пятьдесят поддельных аккаунтов для отзыва о профиле клиента, эти аккаунты часто имеют общие данные о создании, даже если они используют разные IP-адреса и устройства. У них могут быть похожие поставщики электронной почты, они могут быть зарегистрированы один за другим или иметь одинаковые начальные настройки. В своем отчете о прозрачности за 2023 год Google особо отметил кластеризацию на основе графов как технологию, которая удалила 5 миллионов поддельных отзывов из одной мошеннической сети всего за несколько недель.

Почему некоторые подделки все еще проходят

Ни одна система обнаружения не может поймать 100% подделок, не помечая при этом катастрофическое количество реальных. Система Google настроена так, чтобы наносить наименьший вред подлинным отзывам. Это означает, что очень хорошо сделанная подделка — от реального, старого аккаунта, с домашнего IP-адреса в правильном городе, с историей других отзывов — может пройти первую проверку и продержаться несколько недель. Добавление Gemini в систему в 2024 году призвано решить именно эту проблему, выполняя глубокий поведенческий анализ, который может найти крошечные несоответствия, которые пропускают даже статистические модели.

Не каждая попытка опубликовать поддельный отзыв имеет одинаковые шансы быть пойманной. Риск варьируется от тонких тактик, которые фильтр часто пропускает, до очевидных поведений, которые приводят к почти мгновенному удалению. Знание того, где тактика находится в этом диапазоне, отличает новичков от профессионалов — и именно поэтому обнаружение Google постоянно улучшается.

Что это означает для бизнеса, просто: риск обнаружения растет гораздо быстрее, чем количество отзывов. Покупка двадцати отзывов у дешевого поставщика экспоненциально рискованнее, чем покупка пяти у дорогого. При двадцати отзывах одной скорости поступления достаточно, чтобы вызвать обнаружение, независимо от того, насколько хороши аккаунты. Объем — это то, что наиболее надежно переводит систему от наблюдения к действию.

Абстрактные разговоры о сигналах обнаружения — это одно. Видеть их в действии во время конкретных удалений делает это реальным. Четыре случая здесь взяты из общедоступной информации, юридических документов и отчетов. Это не выдуманные истории, а реальные ситуации, когда система Google находила и действовала в отношении схем поддельных отзывов.

Общая нить во всех четырех случаях заключается в том, что их поймали не из-за качества какого-либо отдельного отзыва. Это были паттерны: скорость, местоположение, связи аккаунтов и кросс-платформенная активность. Система не читает отзыв как человек. Она читает данные, окружающие его.

В апреле 2024 года Google объявил о добавлении Gemini — своей самой мощной языковой модели — в систему модерации Google Business Profile. Это было серьезное изменение. Способность Gemini анализировать несколько сигналов и долгосрочное поведение устранила самое большое слепое пятно системы: хорошо сделанную, разовую подделку. Старые модели рассматривали сигналы по одному. Gemini может понять всю историю действий аккаунта — время его отзывов, логику его отзывов для разных компаний и то, имеет ли смысл его путь активности.

Эффект был очевиден в данных: 240 миллионов поддельных отзывов удалено в 2024 году, что на 40% больше, чем в 2023 году. Что еще важнее, больше было остановлено до публикации — до того, как кто-либо их увидел. Этот переход от реактивного удаления к проактивной блокировке является признаком более умной модели. Это означает, что меньше компаний сталкиваются со всплесками отзывов, меньше людей читают поддельный контент, и вся платформа приближается к тому, чего хочет Google.

Ярлык «Подозрительные поддельные отзывы»

Наряду с обновлением алгоритма, 2024 год принес новую функцию для потребителей: предупреждение «подозрительные поддельные отзывы». Когда профиль компании имеет странные паттерны — например, внезапный наплыв отзывов от низкокачественных аккаунтов — Карты теперь показывают баннер, чтобы предупредить потенциальных клиентов. Функция появилась в США, Великобритании и Индии в конце 2024 года и начала глобальное распространение в мае 2025 года. Это знаменует изменение политики от простого принуждения к обеспечению прозрачности. Даже если Google не удаляет отзыв, он теперь может показать пользователям свою собственную неуверенность в его подлинности.

Направление ясно. В 2021 году хорошо спланированная кампания по накрутке отзывов — с использованием старых аккаунтов, домашних IP-адресов и хорошего географического распределения — имела неплохие шансы продержаться месяцами. К 2026 году та же кампания сталкивается с анализом на базе Gemini, который может выявить несоответствия, которые более ранние модели не могли. Срок жизни поддельного отзыва сокращается с каждым годом. В то же время негативные последствия — «тюрьма отзывов», блокировка аккаунтов и штрафы FTC — становятся все хуже.

Знание того, как устроена система обнаружения Google, меняет правила игры для любого бизнеса, рассматривающего свою стратегию получения отзывов. Фильтр не ищет отзывы, которые «звучат фальшиво». Он ищет паттерны, которые неестественны. Эта разница огромна. Многие компании, которые никогда не покупали ни одного поддельного отзыва, видели, как реальные отзывы фильтровались, в то время как некоторые умные кампании по накрутке отзывов оставались активными некоторое время.

Урок состоит в том, что стратегия получения отзывов должна быть разработана так, чтобы выглядеть естественной на уровне паттернов, а не только на уровне контента. Идеально написанный отзыв бесполезен, если аккаунт, который его опубликовал, вызывает тревогу по поводу скорости или не проходит проверку местоположения. Сигнал, который наиболее важен для Google, это не «кажется ли этот отзыв реальным?». Это «выглядит ли весь цифровой след этого рецензента как след реального клиента?»

Почему естественная скорость получения отзывов лучше большого объема

Самый последовательный урок из изучения обнаружения поддельных отзывов Google заключается в том, что скорость является самым большим фактором риска для принудительного исполнения. Бизнес, который получает 50 реальных отзывов за шесть месяцев, имеет нулевой риск обнаружения, независимо от того, как он их запрашивал. Бизнес, который получает 50 отзывов за одну неделю — даже если все они реальны — может вызвать предупреждение об аномалии, и некоторые из них будут отфильтрованы. Алгоритм не может видеть реальное событие, которое привело к отзыву. Он судит о легитимности на основе того, насколько статистически правдоподобен паттерн. Устойчивая, естественная скорость — это паттерн, к которому должно стремиться подлинное получение отзывов.

Положительная обратная связь реальных отзывов

Создание базы подлинных отзывов имеет кумулятивную выгоду. Аккаунты, которые активно используются в Картах и имеют историю отзывов о других компаниях, сигнализируют системе о легитимности. Когда эти аккаунты оставляют отзывы о вашей компании, их вклад имеет больший авторитет и с меньшей вероятностью будет отфильтрован. Именно поэтому сервисы, использующие специализированные аккаунты «рецензентов» — которые не имеют истории, кроме публикации поддельных отзывов — так предсказуемо терпят неудачу. Их поддельность прозрачна для алгоритма. Настоящий аргумент в пользу подлинных отзывов заключается не только в том, чтобы избежать проблем. Дело в том, что реальные аккаунты создают сигналы отзывов, которые со временем становятся сильнее, в то время как поддельные аккаунты создают сигналы, которые рассыпаются при проверке.

Прямые ответы на вопросы, не найденные в официальных документах Google — на основе общедоступных данных, экспертного анализа и наблюдаемого поведения системы.