Всередині фільтра відгуків Google: Як машинне навчання виявляє фейкові відгуки

Google не надає посібника щодо виявлення фейкових відгуків. Але з дописів у блогах компанії, урядових документів та експертного аналізу стає зрозумілим дизайн системи — і він набагато досконаліший, ніж багато хто припускає.

Щодня на Google Карти та в Пошук надходить 20 мільйонів внесків. Це відгуки, фотографії, зміни та ідеї. Переважна більшість є справжніми. Значна частина — ні. Сортування такого обсягу — це завдання не для людей. Це завдання для машинного навчання, і ця машина стала надзвичайно ефективною.

Щоб зрозуміти, як працює фільтр Google, спочатку потрібно оцінити цифри. Щодня надходить двадцять мільйонів матеріалів, надісланих користувачами. Це близько 230 щосекунди, 24/7, з усіх куточків світу, будь-якою мовою, на будь-якому типі пристрою. Уявлення про те, що люди могли б переглянути навіть крихітну частину цього — не кажучи вже про те, щоб робити це послідовно — є фундаментальним непорозумінням. Це ніколи не було проблемою, яку могли б вирішити люди.

Натомість Google створив багаторівневу систему примусового виконання, яка працює постійно. У 2023 році вона видалила 170 мільйонів відгуків, які порушували її правила, що на 45% більше, ніж у попередньому році. У 2024 році загальна кількість зросла до 240 мільйонів. Це щорічне збільшення не просто означає, що пишеться більше фейкових відгуків, хоча це може бути фактором. Це означає, що технологія виявлення вдосконалюється швидше, ніж методи її обходу.

Ставки для бізнесу величезні. Дослідження 2023 року в Journal of Business Research показало, що фейкові негативні відгуки непропорційно спрямовані на успішні ресторани, завдаючи шкоди тим підприємствам, які найбільше покладаються на свою заслужену репутацію. З боку пропозиції, власні юристи Google подали до суду на продавців фейкових відгуків, включаючи справу 2023 року проти постачальника в Бангладеш, чий веб-сайт, Bigboostup.com, створював фальшиві відгуки для американських місцевих підприємств.

Чому фейкові відгуки все ще проходять?

Якщо Google щорічно видаляє сотні мільйонів фейкових відгуків, чому деякі з них все ж потрапляють у профіль? Це та ж причина, чому деякі спам-листи все ще потрапляють у вашу поштову скриньку, навіть за наявності хороших фільтрів. Методи ухилення стають розумнішими, і існує тонка межа між хибнопозитивними результатами (справжні відгуки, помилково видалені) та хибнонегативними результатами (фейкові відгуки, які проходять). Google налаштовує свою систему, щоб уникнути видалення автентичних відгуків, що означає, що розумні фейки можуть протриматися довше, ніж відверті.

Джой Хокінс, яка заснувала Sterling Sky і є провідним дослідником у галузі локального SEO, детально вивчила цей дисбаланс. Її робота демонструє, що фільтр Google іноді може видаляти групи законних відгуків, особливо для юристів та лікарів, де кілька реальних клієнтів можуть використовувати один і той же Wi-Fi у залі очікування. Фільтр не є ідеальним в жодному напрямку.

Google не випускав технічного посібника для своєї системи модерації відгуків. У нас є дописи в блогах компанії, заяви до FTC та аналіз дослідників, які спостерігають за діями системи. Усі ці джерела вказують на п'ятиступеневий процес, який постійно працює паралельно зі звичайними функціями Google Карт.

Центральний принцип дизайну — про який Google згадував у своєму блозі «Зберігаємо відгуки автентичними» — полягає в тому, що процес не закінчується, коли відгук опубліковано. Відгук, який пройшов початкову перевірку, може бути перевірений знову через кілька днів або тижнів, коли надходить нова інформація. Якщо обліковий запис А отримує прохідний бал у понеділок, але в четвер його пов'язують з кластером з дванадцяти інших облікових записів, які щойно були позначені, опубліковані відгуки облікового запису А повертаються на повторний розгляд. Ось чому компанії іноді бачать, як відгуки зникають через довгий час після їх першої появи.

Роль людських аналітиків

Автоматизовані системи обробляють великі обсяги випадків, де система дуже впевнена. Прикордонні випадки надходять до людських дослідників. Це складні фейки, які знаходять прогалини в статистиці, або реальні відгуки, які виглядають як підозрілий шаблон. Ці співробітники Google розглядають прямі докази: скріншоти з чатів шахраїв, закономірності у звітах власників бізнесу та мовний аналіз. Те, що вони знаходять, використовується для перенавчання моделі. Саме так сталося видалення мережі з 5 мільйонів відгуків у 2023 році: люди визначили шаблон, модель його засвоїла, і нові виявлення стали автоматичними.

Цей цикл зворотного зв'язку є найважливішим елементом дизайну системи. Мета полягає не в створенні списку правил. Мета полягає в створенні настільки досконалої моделі, яка переглядає власне визначення шахрайства, майже в реальному часі.

Аналіз тексту та НЛП

Менш розголошений аспект виявлення фейкових відгуків стосується самого тексту. Моделі обробки природної мови (НЛП) можуть виявляти лінгвістичні ознаки, поширені у сфабрикованих відгуках: занадто багато прикметників вищого ступеня, відсутність конкретних деталей, надмірне використання «я» та повторювані фрази в різних облікових записах. Дослідження в Journal of Marketing Analytics показало, що психологічні мовні маркери — такі як когнітивні зусилля та емоційний тон — можуть з великою точністю відрізняти фейкові відгуки від справжніх. Власна НЛП Google, покращена за допомогою Gemini у 2024 році, виконує цю роботу в масовому масштабі.

Google не надав повного переліку своїх сигналів виявлення. Однак, поєднуючи офіційні заяви, свідчення FTC, експертні дослідження та ретельне спостереження за тим, що позначається, а що ні, ми можемо зібрати основний набір сигналів. Десять з них відповідають за більшість примусових заходів.

Ці десять сигналів не є простим контрольним списком; це зважені точки даних у ймовірнісній моделі. Одного сигналу рідко достатньо для ініціювання дії. Система шукає комбінації — шаблони, де кілька сигналів підтверджують один одного. Новий обліковий запис зі спільної IP-адреси, що використовує шаблонний текст без фотографій, спрацьовує чотири сигнали одночасно, і ця суміш дає високу оцінку впевненості для видалення.

Сплеск облікових записів: найбільш показовий шаблон Google

З усіх сигналів виявлення сплесків облікових записів є тим, що найефективніше руйнує великомасштабні схеми відгуків. Коли продавець створює п'ятдесят фейкових облікових записів для перегляду профілю клієнта, ці облікові записи часто мають спільні дані про створення, навіть якщо вони використовують різні IP-адреси та пристрої. Вони можуть мати подібних постачальників електронної пошти, бути зареєстрованими один за одним або мати ідентичні початкові налаштування. У своєму звіті про прозорість за 2023 рік Google спеціально відзначив кластеризацію на основі графів як технологію, яка видалила 5 мільйонів фейкових відгуків з однієї шахрайської мережі всього за кілька тижнів.

Чому деякі фейки все ще проходять

Жодна система виявлення не може виявити 100% фейків, не позначаючи при цьому катастрофічну кількість реальних. Система Google налаштована так, щоб завдавати найменшої шкоди автентичним відгукам. Це означає, що дуже добре зроблений фейк — від реального, старого облікового запису, з домашньої IP-адреси в потрібному місті, з історією інших відгуків — може пройти першу перевірку і залишатися протягом тижнів. Додавання Gemini до системи у 2024 році має вирішити саме цю проблему, виконуючи глибокий поведінковий аналіз, який може виявити крихітні невідповідності, які пропускають навіть статистичні моделі.

Не кожна спроба опублікувати фейковий відгук має однакові шанси бути виявленою. Ризик варіюється від тонких тактик, які фільтр часто пропускає, до очевидних поведінок, що призводять до майже миттєвого видалення. Знання того, де тактика знаходиться в цьому діапазоні, відрізняє новачків від професіоналів — і саме тому виявлення Google постійно вдосконалюється.

Що це означає для бізнесу, просто: ризик виявлення зростає набагато швидше, ніж кількість відгуків. Купівля двадцяти відгуків у дешевого постачальника експоненціально ризикованіша, ніж купівля п'яти у висококласного. При двадцяти відгуках сама швидкість надходження достатня для спрацьовування виявлення, незалежно від того, наскільки хороші облікові записи. Обсяг — це єдине, що найнадійніше переводить систему від спостереження до дії.

Абстрактні розмови про сигнали виявлення — це одне. Бачити їх у дії під час конкретних видалень робить це реальним. Чотири випадки тут взяті з публічної інформації, юридичних документів та звітів. Це не вигадані історії, а реальні ситуації, коли система Google виявила та діяла щодо схем фейкових відгуків.

Спільним у всіх чотирьох випадках є те, що їх виявили не якість окремого відгуку. Це були шаблони: швидкість, місцезнаходження, зв'язки облікових записів та міжплатформна активність. Система не читає відгук як людина. Вона читає дані, що його оточують.

У квітні 2024 року Google оголосив, що додає Gemini — свою найпотужнішу мовну модель — до системи модерації Google Business Profile. Це була значна зміна. Здатність Gemini обґрунтовувати кілька сигналів та аналізувати довгострокову поведінку вирішила найбільшу сліпу пляму системи: добре зроблений, одноразовий фейк. Старіші моделі розглядали сигнали по одному. Gemini може зрозуміти всю історію дій облікового запису — час його відгуків, логіку його відгуків для різних компаній та чи має сенс його шлях активності.

Ефект був очевидним у даних: 240 мільйонів фейкових відгуків видалено у 2024 році, що на 40% більше, ніж у 2023 році. Що важливіше, більше було зупинено до публікації — до того, як їх хтось побачив. Цей перехід від реактивного видалення до проактивного блокування є ознакою розумнішої моделі. Це означає, що менше компаній стикаються зі сплесками відгуків, менше людей читають фейковий контент, і вся платформа наближається до того, чого хоче Google.

Позначка «Підозрювані фейкові відгуки»

Разом з оновленням алгоритму, 2024 рік приніс нову функцію для споживачів: попередження «підозрювані фейкові відгуки». Коли профіль компанії має дивні шаблони — наприклад, раптовий потік відгуків від низькоякісних облікових записів — Карти тепер показують банер, щоб попередити потенційних клієнтів. Функція з'явилася в США, Великобританії та Індії наприкінці 2024 року і почала глобальне розгортання в травні 2025 року. Це знаменує зміну політики від простого примусового виконання до забезпечення прозорості. Навіть якщо Google не видаляє відгук, він тепер може показати користувачам свою власну невизначеність щодо того, чи є він справжнім.

Напрямок зрозумілий. У 2021 році добре спланована кампанія фейкових відгуків — з використанням старих облікових записів, домашніх IP-адрес та хорошого географічного поєднання — мала справедливий шанс протриматися місяцями. До 2026 року та сама кампанія стикається з аналізом на базі Gemini, який може виявити невідповідності, які раніше моделі не могли. Термін життя фейкового відгуку скорочується з кожним роком. Водночас негативні наслідки — рецензійна в'язниця, блокування облікових записів та штрафи FTC — погіршуються.

Знання того, як побудована система виявлення Google, змінює правила гри для будь-якого бізнесу, який розглядає свою стратегію відгуків. Фільтр не шукає відгуків, які «звучать фейково». Він шукає шаблони, які не є природними. Ця різниця величезна. Багато компаній, які ніколи не купували жодного фейкового відгуку, бачили, як реальні відгуки фільтрувалися, тоді як деякі розумні фейкові кампанії залишаються деякий час.

Урок полягає в тому, що стратегія відгуків повинна бути розроблена так, щоб виглядати природно на рівні шаблонів, а не лише на рівні вмісту. Ідеально написаний відгук нічого не вартий, якщо обліковий запис, який його опублікував, викликає тривогу швидкості або не проходить перевірку місцезнаходження. Сигнал, який найбільше важливий для Google, це не «чи здається цей відгук реальним?». Це «чи виглядає весь цифровий слід цього рецензента як слід реального клієнта?»

Чому природний темп відгуків перевершує великий обсяг

Найбільш послідовний урок з вивчення виявлення фейкових відгуків Google полягає в тому, що швидкість є найбільшим фактором ризику для примусового виконання. Бізнес, який отримує 50 реальних відгуків протягом шести місяців, має нульовий ризик виявлення, незалежно від того, як він їх просив. Бізнес, який отримує 50 відгуків за один тиждень — навіть якщо вони всі реальні — може викликати попередження про аномалію та мати деякі відфільтровані. Алгоритм не може бачити реальну подію, яка призвела до відгуку. Він оцінює легітимність на основі того, наскільки статистично правдоподібним є шаблон. Стабільний, природний темп — це шаблон, до якого має прагнути справжнє збирання відгуків.

Позитивний зворотний зв'язок реальних відгуків

Існує накопичувальна перевага у створенні бази автентичних відгуків. Облікові записи, які мають багато активності на Картах та історію перегляду інших компаній, сигналізують системі про легітимність. Коли ці облікові записи переглядають ваш бізнес, їхній внесок має більший авторитет і менш імовірно буде відфільтрований. Саме тому послуги, які використовують спеціальні облікові записи «рецензентів» — які не мають історії, крім публікації фейкових відгуків — так передбачувано зазнають невдачі. Їхня фейковість прозора для алгоритму. Справжній аргумент на користь автентичних відгуків полягає не лише в тому, щоб уникнути проблем. Це те, що реальні облікові записи створюють сигнали відгуків, які з часом стають сильнішими, тоді як фейкові облікові записи створюють сигнали, які розпадаються під час перевірки.

Прямі відповіді на питання, яких немає в офіційних документах Google — на основі публічних даних, експертного аналізу та спостережуваної поведінки системи.