A Google értékelésszűrőjének működése: Hogyan találja meg a gépi tanulás a hamis véleményeket?

A Google nem biztosít kézikönyvet a hamis vélemények észleléséhez. De a cég blogbejegyzéseiből, kormányzati beadványaiból és szakértői elemzésekből a rendszer felépítése világossá válik – és sokkal fejlettebb, mint azt sokan feltételezik.

Minden egyes nap 20 millió hozzájárulás érkezik a Google Térképre és Keresőbe. Ezek vélemények, képek, változtatások és ötletek. A túlnyomó többség valós. Jelentős részük nem. Ennek a mennyiségnek a rendezése nem emberi feladat. Ez a gépi tanulás feladata, és ez a gép rendkívül hatékonnyá vált.

Ahhoz, hogy megértsük, hogyan működik a Google szűrője, először meg kell értenünk a számokat. Naponta húszmillió felhasználó által beküldött elem érkezik. Ez másodpercenként körülbelül 230, a nap 24 órájában, a hét minden napján, a világ minden tájáról, minden nyelven, minden típusú eszközön. Az a gondolat, hogy emberek akár ennek egy apró részét is áttekinthetnék – nemhogy következetesen megtennék –, alapvető félreértés. Ezt a problémát soha nem tudták megoldani az emberek.

Ehelyett a Google egy többrétegű, folyamatosan működő végrehajtási rendszert épített ki. 2023-ban 170 millió olyan véleményt távolított el, amely megsértette a szabályait, 45%-kal többet, mint az előző évben. 2024-ben ez a szám 240 millióra nőtt. Ez az évről évre történő növekedés nem csak azt jelenti, hogy több hamis véleményt írnak, bár ez is lehet tényező. Azt jelenti, hogy az észlelési technológia gyorsabban fejlődik, mint a megkerülésére szolgáló módszerek.

A tét hatalmas a vállalkozások számára. Egy 2023-as tanulmány a Journal of Business Research folyóiratban kimutatta, hogy a hamis negatív vélemények aránytalanul nagy mértékben célozzák a sikeres éttermeket, károsítva azokat a vállalkozásokat, amelyek a leginkább támaszkodnak jól megérdemelt hírnevükre. A kínálati oldalon a Google saját jogászai perelték a hamis vélemények eladóit, beleértve egy 2023-as ügyet egy bangladesi szolgáltató ellen, amelynek weboldala, a Bigboostup.com, hamis véleményeket hozott létre amerikai helyi vállalkozások számára.

Miért jutnak mégis át a hamis vélemények?

Ha a Google évente több százmillió hamis véleményt távolít el, miért jut mégis fel néhány a profilra? Ugyanaz az ok, amiért egyes spam e-mailek még jó szűrők mellett is eljutnak a beérkező levelek közé. Az elkerülési módszerek okosabbá válnak, és vékony a határ a téves pozitív (tévesen törölt valós vélemények) és a téves negatív (átjutó hamis vélemények) között. A Google úgy hangolja a rendszerét, hogy elkerülje az autentikus vélemények törlését, ami azt jelenti, hogy az okos hamisítványok tovább fennmaradhatnak, mint a nyilvánvalóak.

Joy Hawkins, a Sterling Sky alapítója és a helyi SEO terület vezető kutatója, részletesen tanulmányozta ezt az egyensúlyhiányt. Munkája kimutatja, hogy a Google szűrője néha törölhet legitim véleménycsoportokat, különösen ügyvédek és orvosok esetében, ahol több valós ügyfél is használhatja ugyanazt a várótermi Wi-Fi-t. A szűrő egyik irányban sem tökéletes.

A Google nem adott ki technikai kézikönyvet a vélemény moderálási rendszeréhez. Vannak cég blogbejegyzéseink, nyilatkozataink az FTC-nek, és kutatók elemzései, akik megfigyelik a rendszer működését. Ezek a források együtt egy ötrészes folyamatra mutatnak, amely folyamatosan fut a Google Térkép normál funkciói mellett.

A központi tervezési elv – amelyet a Google a „Vélemények hitelességének megőrzése” blogjában említett – az, hogy a folyamat nem ér véget, amikor egy véleményt közzétesznek. Egy vélemény, amely kezdetben átmegy, napokkal vagy hetekkel később újra ellenőrizhető, ahogy új információk érkeznek. Ha az A fiók hétfőn átmegy, de csütörtökön egy tizenkét másik fiókból álló klaszterhez kapcsolódik, amelyet éppen most jelöltek meg, az A fiók közzétett véleményeit újra megvizsgálják. Ezért van az, hogy a vállalkozások néha azt látják, hogy a vélemények sokkal az első megjelenésük után eltűnnek.

Az emberi elemzők szerepe

Az automatizált rendszerek kezelik a nagy volumenű eseteket, ahol a rendszer nagyon magabiztos. A határterületi esetek emberi nyomozókhoz kerülnek. Ezek trükkös hamisítványok, amelyek statisztikai hiányosságokat találnak, vagy valós vélemények, amelyek gyanús mintázatnak tűnnek. Ezek a Google alkalmazottak közvetlen bizonyítékokat vizsgálnak: képernyőképeket csalók csevegéseiből, mintázatokat a vállalkozástulajdonosok jelentéseiben és nyelvi elemzést. Amit találnak, azt a modell újratanítására használják. Így történt a 2023-as, 5 millió véleményből álló hálózat felszámolása: az emberek határozták meg a mintázatot, a modell beépítette, és az új észlelések automatikussá váltak.

Ez a visszacsatolási ciklus a rendszer legkritikusabb tervezési eleme. A cél nem szabályok listájának létrehozása. A cél egy olyan fejlett modell létrehozása, amely szinte valós időben felülvizsgálja a csalás saját definícióját.

Szövegelemzés és NLP

A hamis vélemények észlelésének kevésbé ismert aspektusa maga a szöveg. A természetes nyelvi feldolgozási (NLP) modellek felismerhetik a hamisított véleményekben gyakori nyelvi jeleket: túl sok felsőfok, konkrét részletek hiánya, az „én” túlzott használata és ismétlődő kifejezések különböző fiókokon keresztül. A Journal of Marketing Analytics folyóiratban megjelent kutatás kimutatta, hogy a pszichológiai nyelvi markerek – mint a kognitív erőfeszítés és az érzelmi hangvétel – nagy pontossággal képesek elkülöníteni a hamis véleményeket a valósaktól. A Google saját NLP-je, amelyet a Gemini 2024-ben továbbfejlesztett, hatalmas méretekben végzi ezt a munkát.

A Google nem adott teljes leltárt az észlelési jeleiről. Azonban a hivatalos nyilatkozatok, az FTC-nek tett tanúvallomások, a szakértői tanulmányok és a megjelölt és nem megjelölt elemek gondos megfigyelésének kombinálásával összeállíthatjuk a fő jelzések halmazát. Tíz közülük felelős a legtöbb végrehajtásért.

Ez a tíz jel nem egy egyszerű ellenőrzőlista; súlyozott adatpontok egy valószínűségi modellben. Egyetlen jel önmagában ritkán elegendő a cselekvés kiváltásához. A rendszer kombinációkat keres – olyan mintázatokat, ahol több jel megerősíti egymást. Egy új fiók megosztott IP-ről, sablon szöveg használatával, fotók nélkül, egyszerre négy jelet is érint, és ez a keverék magas megbízhatósági pontszámot eredményez az eltávolításhoz.

A fióklétrehozási roham: A Google legárulkodóbb mintázata

Az összes jel közül a fióklétrehozási rohamok észlelése a leghatékonyabb a nagyszabású véleményezési rendszerek felszámolására. Amikor egy eladó ötven hamis fiókot hoz létre egy ügyfél profiljának véleményezésére, ezek a fiókok gyakran megosztják a létrehozási adatokat, még akkor is, ha különböző IP-címeket és eszközöket használnak. Hasonló e-mail szolgáltatókkal rendelkezhetnek, egymás után regisztrálhatók, vagy azonos kezdőbeállításokkal rendelkezhetnek. A Google 2023-as átláthatósági jelentésében kifejezetten a gráf alapú klaszterezést jelölte meg, mint azt a technológiát, amely néhány hét alatt 5 millió hamis véleményt távolított el egy csalási hálózatból.

Miért jut át mégis néhány hamisítvány?

Egyetlen észlelési rendszer sem képes 100%-ban elkapni a hamisítványokat anélkül, hogy katasztrofális számú valósat is tévesen megjelölne. A Google rendszere úgy van hangolva, hogy a legkevesebb kárt okozza az autentikus véleményeknek. Ez azt jelenti, hogy egy nagyon jól elkészített hamisítvány – egy valós, régi fiókból, otthoni IP-címről a megfelelő városban, más vélemények előzményével – átmehet az első ellenőrzésen, és hetekig fennmaradhat. A Gemini 2024-es hozzáadása a rendszerhez pontosan ezt a problémát hivatott megoldani azáltal, hogy mélyreható viselkedéselemzést végez, amely még a statisztikai modellek által is elkerült apró következetlenségeket is megtalálja.

Nem minden hamis vélemény közzétételére tett kísérletnek van azonos esélye arra, hogy elkapják. A kockázat a szűrő által gyakran figyelmen kívül hagyott finom taktikáktól a nyilvánvaló viselkedésekig terjed, amelyek szinte azonnali eltávolításhoz vezetnek. Annak ismerete, hogy egy taktika hol helyezkedik el ezen a skálán, elválasztja a kezdőket a profiktól – és ezért is fejlődik folyamatosan a Google észlelése.

Ez a vállalkozások számára egyszerűen azt jelenti: az észlelési kockázat sokkal gyorsabban nő, mint a vélemények száma. Húsz vélemény vásárlása egy olcsó szolgáltatótól exponenciálisan kockázatosabb, mint öt vásárlása egy csúcskategóriás szolgáltatótól. Húsz véleménynél már az érkezési sebesség önmagában elegendő az észlelés kiváltásához, függetlenül attól, hogy mennyire jók a fiókok. A mennyiség az egyetlen dolog, ami a legmegbízhatóbban készteti a rendszert a figyelésről a cselekvésre.

Az észlelési jelekről szóló absztrakt beszéd egy dolog. Azonban az, hogy konkrét eltávolítások során működés közben látjuk őket, valóságossá teszi. Az itt bemutatott négy eset nyilvános információkból, jogi dokumentumokból és jelentésekből származik. Ezek nem kitalált történetek, hanem valós helyzetek, ahol a Google rendszere hamis véleményezési rendszereket talált és lépett fel ellenük.

Mind a négy eset közös szála az volt, hogy nem egyetlen vélemény minősége miatt kapták el őket. Hanem a mintázatok miatt: sebesség, helyszín, fiókkapcsolatok és platformok közötti aktivitás. A rendszer nem úgy olvassa a véleményt, mint egy ember. Az azt körülvevő adatokat olvassa.

2024 áprilisában a Google bejelentette, hogy a Gemini – a legerősebb nyelvi modellje – bekerül a Google Cégprofil moderálási rendszerébe. Ez jelentős változás volt. A Gemini azon képessége, hogy több jelzéssel érveljen és hosszú távú viselkedést elemezzen, orvosolta a rendszer legnagyobb vakfoltját: a jól elkészített, egyszeri hamisítványt. A régebbi modellek egyenként vizsgálták a jeleket. A Gemini megértheti egy fiók tevékenységének teljes történetét – a véleményezés időzítését, a különböző vállalkozásokról szóló véleményeinek logikáját, és azt, hogy tevékenységi útvonala értelmes-e.

A hatás egyértelmű volt az adatokban: 240 millió hamis véleményt távolítottak el 2024-ben, ami 40%-os növekedés 2023-hoz képest. Ennél is fontosabb, hogy többet állítottak meg közzététel előtt – mielőtt bárki látta volna őket. Ez a reaktív törlésről a proaktív blokkolásra való áttérés egy okosabb modell jele. Ez azt jelenti, hogy kevesebb vállalkozás szembesül véleményugrásokkal, kevesebb ember olvas hamis tartalmat, és az egész platform közelebb kerül ahhoz, amit a Google szeretne.

A „Gyanús hamis vélemények” címke

Az algoritmus frissítésével együtt 2024-ben új funkciót hozott a fogyasztók számára: a „gyanús hamis vélemények” figyelmeztetést. Amikor egy vállalkozás profilja furcsa mintázatokat mutat – például hirtelen véleményáradatot alacsony minőségű fiókoktól –, a Térkép mostantól figyelmeztető bannert jelenít meg a potenciális ügyfelek számára. A funkció 2024 végén jelent meg az Egyesült Államokban, az Egyesült Királyságban és Indiában, és 2025 májusában kezdte meg globális bevezetését. Ez a politika változását jelzi a puszta végrehajtásról az átláthatóság biztosítására is. Még ha a Google nem is töröl egy véleményt, mostantól megmutathatja a felhasználóknak a saját bizonytalanságát azzal kapcsolatban, hogy az hiteles-e.

Az irány egyértelmű. 2021-ben egy jól megtervezett hamis véleménykampány – régi fiókok, otthoni IP-címek és jó földrajzi keverék használatával – jó eséllyel hónapokig fennmaradt. 2026-ra ugyanez a kampány egy Gemini-alapú elemzéssel szembesül, amely olyan következetlenségeket is észlel, amelyeket a korábbi modellek nem tudtak. A hamis vélemények élettartama évről évre rövidül. Ugyanakkor a negatív következmények – véleménybörtön, fióktiltások és FTC bírságok – egyre rosszabbak.

Annak ismerete, hogy a Google észlelési rendszere hogyan épül fel, megváltoztatja a játékot minden olyan vállalkozás számára, amely a véleményezési stratégiáját fontolgatja. A szűrő nem olyan véleményeket keres, amelyek „hamisnak tűnnek”. Olyan mintázatokat keres, amelyek nem természetesek. Ez a különbség óriási. Sok vállalkozás, amely soha nem vásárolt egyetlen hamis véleményt sem, azt látta, hogy valós véleményeket szűrtek ki, míg néhány okos hamis kampány egy ideig fennmarad.

A tanulság az, hogy a véleményezési stratégiát úgy kell megtervezni, hogy a mintázat szintjén is természetesnek tűnjön, ne csak a tartalom szintjén. Egy tökéletesen megírt vélemény értéktelen, ha a fiók, amely közzétette, sebességriasztást vált ki, vagy megbukik egy helymeghatározási ellenőrzésen. A Google számára a legfontosabb jel nem az, hogy „ez a vélemény valósnak tűnik-e?”. Hanem az, hogy „ennek a véleményezőnek a teljes digitális nyoma úgy néz ki-e, mint egy valós ügyfélé?”.

Miért jobb a természetes véleményezési tempó a nagy mennyiségnél?

A Google hamis vélemények észlelésének tanulmányozásából a legkövetkezetesebb tanulság az, hogy a sebesség a végrehajtás szempontjából a legnagyobb kockázati tényező. Egy vállalkozás, amely hat hónap alatt 50 valós véleményt kap, nulla észlelési kockázattal jár, függetlenül attól, hogyan kérte azokat. Egy vállalkozás, amely egy hét alatt 50 véleményt kap – még ha mind valósak is –, anomália riasztást válthat ki, és néhányat kiszűrhetnek. Az algoritmus nem látja a valós eseményt, amely a véleményhez vezetett. A legitimitást a mintázat statisztikai hihetősége alapján ítéli meg. A stabil, természetes tempó az a mintázat, amelyre az autentikus véleménygyűjtésnek törekednie kell.

A valós vélemények pozitív visszacsatolási hurka

Az autentikus vélemények alapjának kiépítésének összetett előnye van. Azok a fiókok, amelyek sok aktivitást mutatnak a Térképen, és előzményük van más vállalkozások véleményezésében, legitimitást jeleznek a rendszer számára. Amikor ezek a fiókok véleményezik a vállalkozását, a hozzájárulásuk nagyobb tekintélyt élvez, és kisebb valószínűséggel szűrődik ki. Pontosan ezért buknak meg olyan kiszámíthatóan azok a szolgáltatások, amelyek dedikált „véleményező” fiókokat használnak – amelyeknek nincs más előzményük, mint hamis vélemények közzététele. Hamisságuk átlátszó az algoritmus számára. Az autentikus vélemények melletti igazi érv nem csak a baj elkerüléséről szól. Hanem arról, hogy a valós fiókok olyan véleményjeleket hoznak létre, amelyek idővel erősebbé válnak, míg a hamis fiókok olyan jeleket hoznak létre, amelyek az ellenőrzés során szétesnek.

Egyenes válaszok azokra a kérdésekre, amelyek nem találhatók meg a Google hivatalos dokumentumaiban – nyilvános adatok, szakértői elemzések és megfigyelt rendszer viselkedés alapján.