Innsiden av Googles anmeldelsesfilter: Hvordan maskinlæring finner falske anmeldelser

Google gir ingen manual for sin deteksjon av falske anmeldelser. Men fra selskapets blogginnlegg, offentlige dokumenter og ekspertanalyser blir systemets design tydelig – og det er langt mer avansert enn mange antar.

Hver eneste dag lander 20 millioner bidrag på Google Maps og Søk. Dette er anmeldelser, bilder, endringer og ideer. Det overveldende flertallet er ekte. En betydelig del er det ikke. Å sortere dette volumet er ikke en oppgave for mennesker. Det er en oppgave for maskinlæring, og den maskinen har blitt ekstremt effektiv.

For å forstå hvordan Googles filter fungerer, må du først forstå tallene. Tjue millioner brukerinnsendte elementer ankommer daglig. Det er omtrent 230 hvert sekund, døgnet rundt, fra alle verdenshjørner, på alle språk, på alle typer enheter. Tanken om at mennesker kunne gjennomgå selv en liten del av dette – for ikke å snakke om å gjøre det konsekvent – er en grunnleggende misforståelse. Dette var aldri et problem mennesker kunne løse.

I stedet konstruerte Google et lagdelt håndhevingssystem som alltid er på. I 2023 fjernet de 170 millioner anmeldelser som brøt reglene, 45 % mer enn året før. I 2024 steg totalen til 240 millioner. Denne årlige økningen betyr ikke bare at flere falske anmeldelser skrives, selv om det kan være en faktor. Det betyr at deteksjonsteknologien blir bedre raskere enn metodene for å omgå den.

Innsatsen for bedrifter er enorm. En studie fra 2023 i Journal of Business Research avslørte at falske negative anmeldelser er uforholdsmessig rettet mot suksessrike restauranter, og skader nettopp de bedriftene som er mest avhengige av sitt velfortjente rykte. På tilbudssiden har Googles egne advokater saksøkt selgere av falske anmeldelser, inkludert en sak fra 2023 mot en leverandør i Bangladesh hvis nettsted, Bigboostup.com, opprettet falske anmeldelser for amerikanske lokale bedrifter.

Hvorfor slipper fortsatt falske anmeldelser gjennom?

Hvis Google fjerner hundrevis av millioner falske anmeldelser årlig, hvorfor ender noen opp på en profil? Det er samme grunn som at noen spam-e-poster fortsatt når innboksen din selv med gode filtre. Unngåelsesmetodene blir smartere, og det er en fin linje mellom falske positive (ekte anmeldelser som feilaktig slettes) og falske negative (falske anmeldelser som slipper gjennom). Google justerer systemet sitt for å unngå å slette autentiske anmeldelser, noe som betyr at smarte falske anmeldelser kan vare lenger enn åpenbare.

Joy Hawkins, som grunnla Sterling Sky og er en ledende forsker innen lokal SEO, har studert denne ubalansen i detalj. Hennes arbeid viser at Googles filter noen ganger kan slette grupper av legitime anmeldelser, spesielt for advokater og leger, der flere faktiske klienter kan bruke samme venteroms-Wi-Fi. Filteret er ikke perfekt i noen retning.

Google har ikke gitt ut en teknisk manual for sitt system for anmeldelsesmoderering. Vi har selskapets blogginnlegg, uttalelser til FTC og analyser fra forskere som observerer systemets handlinger. Samlet peker disse kildene på en fem-delt prosess som kjører konstant ved siden av de normale funksjonene i Google Maps.

Det sentrale designprinsippet – som Google har nevnt i sin blogg 'Keeping Reviews Authentic' – er at prosessen ikke slutter når en anmeldelse er publisert. En anmeldelse som får et innledende pass, kan sjekkes igjen dager eller uker senere når ny informasjon kommer inn. Hvis konto A får en godkjent score på mandag, men på torsdag er koblet til en klynge av tolv andre kontoer som nettopp ble flagget, går konto A's publiserte anmeldelser tilbake for en ny sjekk. Dette er grunnen til at bedrifter noen ganger ser anmeldelser forsvinne lenge etter at de først dukket opp.

Menneskelige analytikeres rolle

Automatiserte systemer tar seg av de store volumene der systemet er veldig trygt. Grensetilfellene går til menneskelige etterforskere. Dette er vanskelige falske anmeldelser som finner hull i statistikken, eller ekte anmeldelser som ser ut som et mistenkelig mønster. Disse Google-ansatte ser på de direkte bevisene: skjermbilder fra svindlerchatter, mønstre i bedriftseierrapporter og språkanalyse. Det de finner, brukes til å omskolere modellen. Slik skjedde fjerningen av et nettverk på 5 millioner anmeldelser i 2023: mennesker definerte mønsteret, modellen absorberte det, og nye deteksjoner ble automatiske.

Denne tilbakemeldingssyklusen er systemets mest kritiske designelement. Målet er ikke å lage en liste med regler. Det er å lage en modell så avansert at den reviderer sin egen definisjon av svindel, nesten i sanntid.

Tekstanalyse og NLP

Et mindre omtalt aspekt ved deteksjon av falske anmeldelser involverer selve teksten. Naturlig språkbehandling (NLP)-modeller kan oppdage språklige tegn som er vanlige i fabrikkerte anmeldelser: for mange superlativer, mangel på konkrete detaljer, overbruk av 'jeg', og repeterende fraser på tvers av forskjellige kontoer. Forskning i Journal of Marketing Analytics viste at psykologiske språkmarkører – som kognitiv innsats og emosjonell tone – kan skille falske anmeldelser fra ekte med stor nøyaktighet. Googles egen NLP, forbedret med Gemini i 2024, gjør dette arbeidet i massiv skala.

Google har ikke gitt en fullstendig oversikt over sine deteksjonssignaler. Men ved å kombinere offisielle uttalelser, FTC-vitnesbyrd, ekspertstudier og nøye observasjon av hva som flagges versus hva som ikke flagges, kan vi sette sammen hovedsettet av signaler. Ti av dem er ansvarlige for det meste av håndhevelsen.

Disse ti signalene er ikke en enkel sjekkliste; de er vektede datapunkter i en sannsynlighetsmodell. Ett signal alene er sjelden nok til å utløse handling. Systemet jakter på kombinasjoner – mønstre der flere signaler bekrefter hverandre. En ny konto fra en delt IP som bruker maltekst uten bilder, treffer fire signaler samtidig, og den blandingen gir en høykonfidensscore for fjerning.

Konto-utbruddet: Googles mest avslørende mønster

Av alle signaler er deteksjon av konto-utbrudd det som mest effektivt demonterer store anmeldelsesordninger. Når en selger oppretter femti falske kontoer for å anmelde en klients profil, deler disse kontoene ofte opprettelsesdata, selv om de bruker forskjellige IP-er og enheter. De kan ha lignende e-postleverandører, være registrert etter hverandre, eller ha identiske startinnstillinger. I sin åpenhetsrapport fra 2023 krediterte Google spesifikt grafbasert klynging som teknologien som fjernet 5 millioner falske anmeldelser fra ett svindelnettverk på bare noen få uker.

Hvorfor noen falske anmeldelser fortsatt slipper gjennom

Ingen deteksjonssystem kan fange 100 % av falske anmeldelser uten å også feilaktig flagge et katastrofalt antall ekte anmeldelser. Googles system er innstilt på å forårsake minst mulig skade på autentiske anmeldelser. Dette betyr at en veldig vellaget falsk anmeldelse – en fra en ekte, eldre konto, på en hjemme-IP-adresse i riktig by, med en historie med andre anmeldelser – kan passere den første sjekken og forbli synlig i uker. Tillegget av Gemini til systemet i 2024 er ment å løse akkurat dette problemet ved å utføre dyp atferdsanalyse som kan finne små inkonsekvenser selv statistiske modeller overser.

Ikke alle forsøk på å legge ut en falsk anmeldelse har samme sjanse for å bli fanget. Risikoen spenner fra subtile taktikker filteret ofte overser, til åpenbare atferder som fører til nesten umiddelbar fjerning. Å vite hvor en taktikk lander på denne skalaen skiller nybegynnerne fra proffene – og det er derfor Googles deteksjon stadig blir bedre.

Hva dette betyr for bedrifter er enkelt: deteksjonsrisikoen vokser mye raskere enn antallet anmeldelser. Å kjøpe tjue anmeldelser fra en billig leverandør er eksponentielt mer risikabelt enn å kjøpe fem fra en high-end leverandør. Ved tjue anmeldelser er ankomsthastigheten alene nok til å utløse deteksjon, uansett hvor gode kontoene er. Volum er det som mest pålitelig presser systemet fra å observere til å handle.

Abstrakt snakk om deteksjonssignaler er én ting. Å se dem i aksjon under spesifikke fjerninger gjør det reelt. De fire sakene her er hentet fra offentlig informasjon, juridiske dokumenter og rapportering. De er ikke oppdiktede historier, men reelle situasjoner der Googles system fant og handlet på falske anmeldelsesordninger.

Den røde tråden i alle fire tilfeller er at det ikke var kvaliteten på en enkelt anmeldelse som fikk dem tatt. Det var mønstrene: hastighet, sted, kontoforbindelser og kryssplattformaktivitet. Systemet leser ikke en anmeldelse som en person. Det leser dataene rundt den.

I april 2024 annonserte Google at de ville legge til Gemini – deres kraftigste språkmodell – til modereringssystemet for Google Bedriftsprofil. Dette var en stor endring. Geminis evne til å resonnere med flere signaler og analysere langsiktig atferd adresserte systemets største blindflekk: den vellagde, engangs-falske anmeldelsen. Eldre modeller så på signaler ett etter ett. Gemini kan forstå hele historien om en kontos handlinger – dens anmeldelsestidspunkt, logikken i dens anmeldelser for forskjellige bedrifter, og om dens aktivitetsbane gir mening.

Effekten var tydelig i dataene: 240 millioner falske anmeldelser fjernet i 2024, en økning på 40 % fra 2023. Enda viktigere, flere ble stoppet før publisering – før noen så dem. Dette skiftet fra reaktiv sletting til proaktiv blokkering er kjennetegnet på en smartere modell. Det betyr færre bedrifter som håndterer anmeldelsesøkninger, færre mennesker som leser falskt innhold, og hele plattformen kommer nærmere det Google ønsker.

Etiketten 'Mistenkte falske anmeldelser'

Sammen med algoritmeoppdateringen brakte 2024 en ny funksjon for forbrukere: en advarsel om 'mistenkte falske anmeldelser'. Når en bedriftsprofil har rare mønstre – som en plutselig flom av anmeldelser fra lavkvalitetskontoer – viser Maps nå et banner for å advare potensielle kunder. Funksjonen dukket opp i USA, Storbritannia og India sent i 2024 og startet sin globale utrulling i mai 2025. Dette markerer en endring i policy fra bare håndhevelse til også å gi åpenhet. Selv om Google ikke sletter en anmeldelse, kan den nå vise brukerne sin egen usikkerhet om hvorvidt den er ekte.

Retningen er klar. I 2021 hadde en vellagt falsk anmeldelseskampanje – med eldre kontoer, hjemme-IP-er og en god geografisk blanding – en god sjanse til å forbli synlig i måneder. Innen 2026 er den samme kampanjen opp mot en Gemini-drevet analyse som kan oppdage inkonsekvenser som tidligere modeller ikke kunne. Levetiden til en falsk anmeldelse blir kortere hvert år. Samtidig blir de negative utfallene – anmeldelsesfengsel, kontoutestengelser og FTC-bøter – verre.

Å vite hvordan Googles deteksjonssystem er bygget, endrer spillet for enhver bedrift som vurderer sin anmeldelsesstrategi. Filteret søker ikke etter anmeldelser som 'høres falske ut'. Det søker etter mønstre som ikke er naturlige. Denne forskjellen er enorm. Mange bedrifter som aldri kjøpte en eneste falsk anmeldelse, har sett ekte anmeldelser bli filtrert, mens noen smarte falske kampanjer forblir synlige en stund.

Lærdommen er at en anmeldelsesstrategi må utformes for å se naturlig ut på mønsternivå, ikke bare innholdsnivå. En perfekt skrevet anmeldelse er verdiløs hvis kontoen som la den ut, utløser en hastighetsalarm eller ikke består en stedskontroll. Signalet som betyr mest for Google, er ikke 'virker denne anmeldelsen ekte?' Det er 'ser hele denne anmelderens digitale spor ut som en ekte kundes?'

Hvorfor et naturlig anmeldelsestempo slår høyt volum

Den mest konsistente lærdommen fra å studere Googles deteksjon av falske anmeldelser er at hastighet er den største enkeltstående risikofaktoren for håndhevelse. En bedrift som får 50 ekte anmeldelser over seks måneder, har null deteksjonsrisiko, uansett hvordan de ble bedt om. En bedrift som får 50 anmeldelser på én uke – selv om de alle er ekte – kan utløse en anomalialarm og få noen filtrert. Algoritmen kan ikke se den virkelige hendelsen som førte til en anmeldelse. Den bedømmer legitimitet basert på hvor statistisk troverdig mønsteret er. Et jevnt, naturlig tempo er mønsteret som ekte anmeldelsesinnsamling bør sikte mot.

Den positive tilbakekoblingen av ekte anmeldelser

Det er en sammensatt fordel ved å bygge en base av autentiske anmeldelser. Kontoer som har mye aktivitet på Maps og en historie med å anmelde andre bedrifter, signaliserer legitimitet til systemet. Når disse kontoene anmelder din bedrift, har deres innspill mer autoritet og er mindre sannsynlig å bli filtrert. Dette er nettopp grunnen til at tjenester som bruker dedikerte 'anmelder'-kontoer – som ikke har noen historie bortsett fra å legge ut falske anmeldelser – feiler så forutsigbart. Deres falskhet er gjennomsiktig for algoritmen. Det virkelige argumentet for autentiske anmeldelser handler ikke bare om å unngå problemer. Det er at ekte kontoer skaper anmeldelsessignaler som blir sterkere over tid, mens falske kontoer skaper signaler som faller fra hverandre under inspeksjon.

Rette svar på spørsmålene som ikke finnes i Googles offisielle dokumenter – basert på offentlige data, ekspertanalyse og observert systematferd.