Indblik i Googles anmeldelsesfilter: Hvordan maskinlæring finder falske anmeldelser

Google leverer ikke en manual til sin afsløring af falske anmeldelser. Men ud fra virksomhedens blogindlæg, myndighedsindberetninger og ekspertanalyser bliver systemets design tydeligt – og det er langt mere avanceret, end mange antager.

Hver eneste dag lander 20 millioner bidrag på Google Maps og Søgning. Dette er anmeldelser, billeder, ændringer og ideer. Langt de fleste er ægte. En bemærkelsesværdig del er det ikke. At sortere denne mængde er ikke en opgave for mennesker. Det er en opgave for maskinlæring, og den maskine er blevet ekstremt effektiv.

For at forstå, hvordan Googles filter fungerer, skal du først forstå tallene. Tyve millioner brugerindsendte elementer ankommer dagligt. Det er omkring 230 hvert sekund, 24/7, fra alle verdenshjørner, på alle sprog, på alle typer enheder. Tanken om, at mennesker kunne gennemgå selv en lille del af dette – endsige gøre det konsekvent – er en grundlæggende misforståelse. Dette var aldrig et problem, mennesker kunne løse.

I stedet konstruerede Google et lagdelt håndhævelsessystem, der altid er aktivt. I 2023 fjernede det 170 millioner anmeldelser, der brød dets regler, 45% mere end året før. I 2024 steg det samlede antal til 240 millioner. Denne årlige stigning betyder ikke kun, at der skrives flere falske anmeldelser, selvom det kan være en faktor. Det betyder, at detektionsteknologien bliver bedre hurtigere end metoderne til at omgå den.

Indsatsen for virksomheder er enorm. En undersøgelse fra 2023 i Journal of Business Research afslørede, at falske negative anmeldelser uforholdsmæssigt er rettet mod succesrige restauranter, hvilket skader netop de virksomheder, der er mest afhængige af deres velfortjente omdømme. På udbudssiden har Googles egne advokater sagsøgt sælgere af falske anmeldelser, herunder en sag fra 2023 mod en udbyder i Bangladesh, hvis hjemmeside, Bigboostup.com, skabte falske anmeldelser for amerikanske lokale virksomheder.

Hvorfor slipper falske anmeldelser stadig igennem?

Hvis Google fjerner hundredvis af millioner af falske anmeldelser årligt, hvorfor ender nogle så på en profil? Det er den samme grund til, at nogle spam-e-mails stadig når din indbakke, selv med gode filtre. Undvigelsesmetoder bliver smartere, og der er en hårfin grænse mellem falske positive (ægte anmeldelser, der fejlagtigt slettes) og falske negative (falske anmeldelser, der slipper igennem). Google finjusterer sit system for at undgå at slette autentiske anmeldelser, hvilket betyder, at snedige falske anmeldelser kan holde længere end åbenlyse.

Joy Hawkins, der grundlagde Sterling Sky og er en førende forsker inden for lokal SEO, har studeret denne ubalance i detaljer. Hendes arbejde viser, at Googles filter nogle gange kan slette grupper af legitime anmeldelser, især for advokater og læger, hvor flere faktiske klienter kan bruge den samme venteværelses-Wi-Fi. Filteret er ikke perfekt i nogen retning.

Google har ikke udgivet en teknisk manual for sit anmeldelsesmoderationssystem. Vi har virksomhedens blogindlæg, udtalelser til FTC og analyser fra forskere, der observerer systemets handlinger. Samlet set peger disse kilder på en femdelt proces, der kører konstant sideløbende med Google Maps' normale funktioner.

Det centrale designprincip – som Google har nævnt i sin blog 'Keeping Reviews Authentic' – er, at processen ikke slutter, når en anmeldelse er offentliggjort. En anmeldelse, der får et indledende pass, kan kontrolleres igen dage eller uger senere, når ny information kommer ind. Hvis konto A får en bestået score om mandagen, men om torsdagen er forbundet med en klynge af tolv andre konti, der lige er blevet flagget, går konto A's offentliggjorte anmeldelser tilbage til et nyt kig. Dette er grunden til, at virksomheder nogle gange ser anmeldelser forsvinde længe efter, de først dukkede op.

Menneskelige analytikeres rolle

Automatiserede systemer tager sig af de store mængder sager, hvor systemet er meget sikkert. Grænsetilfælde går til menneskelige efterforskere. Disse er vanskelige falske anmeldelser, der finder huller i statistikken, eller ægte anmeldelser, der ligner et mistænkeligt mønster. Disse Google-medarbejdere ser på de direkte beviser: skærmbilleder fra svindlerchats, mønstre i virksomhedsejeres rapporter og sproganalyse. Det, de finder, bruges til at genoptræne modellen. Det var sådan, fjernelsen af et netværk på 5 millioner anmeldelser i 2023 skete: mennesker definerede mønsteret, modellen absorberede det, og nye opdagelser blev automatiske.

Denne feedback-cyklus er systemets mest kritiske designelement. Målet er ikke at skabe en liste over regler. Det er at skabe en model så avanceret, at den reviderer sin egen definition af svindel, næsten i realtid.

Tekstanalyse og NLP

Et mindre omtalt aspekt af afsløring af falske anmeldelser involverer selve teksten. Naturlig sprogbehandling (NLP) modeller kan opdage sproglige tegn, der er almindelige i fabrikerede anmeldelser: for mange superlativer, mangel på konkrete detaljer, overforbrug af 'jeg' og gentagne sætninger på tværs af forskellige konti. Forskning i Journal of Marketing Analytics viste, at psykologiske sprogmarkører – som kognitiv indsats og følelsesmæssig tone – kan adskille falske anmeldelser fra ægte med stor nøjagtighed. Googles egen NLP, forbedret med Gemini i 2024, udfører dette arbejde i stor skala.

Google har ikke leveret en komplet oversigt over sine detektionssignaler. Men ved at kombinere officielle udtalelser, FTC-vidneudsagn, ekspertstudier og omhyggelig observation af, hvad der markeres versus hvad der ikke gør, kan vi samle hovedsættet af signaler. Ti af dem er ansvarlige for det meste af håndhævelsen.

Disse ti signaler er ikke en simpel tjekliste; de er vægtede datapunkter i en sandsynlighedsmodel. Et enkelt signal er sjældent nok til at udløse handling. Systemet jager efter kombinationer – mønstre, hvor flere signaler bekræfter hinanden. En ny konto fra en delt IP, der bruger skabelontekst uden billeder, rammer fire signaler på én gang, og den blanding giver en høj-konfidens score for fjernelse.

Konto-udbruddet: Googles mest afslørende mønster

Af alle signaler er detektion af konto-udbrud det, der mest effektivt demonterer store anmeldelsessvindelordninger. Når en sælger opretter halvtreds falske konti for at anmelde en klients profil, deler disse konti ofte oprettelsesdata, selvom de bruger forskellige IP'er og enheder. De kan have lignende e-mailudbydere, være registreret efter hinanden eller have identiske startindstillinger. I sin gennemsigtighedsrapport fra 2023 krediterede Google specifikt grafbaseret klyngedannelse som den teknologi, der fjernede 5 millioner falske anmeldelser fra ét svindelnetværk på få uger.

Hvorfor nogle falske anmeldelser stadig slipper igennem

Intet detektionssystem kan fange 100% af falske anmeldelser uden også fejlagtigt at markere et katastrofalt antal ægte anmeldelser. Googles system er indstillet til at forårsage mindst mulig skade på autentiske anmeldelser. Dette betyder, at en meget velfremstillet falsk anmeldelse – en fra en ægte, ældre konto, på en hjemme-IP-adresse i den rigtige by, med en historie af andre anmeldelser – kan passere den første kontrol og blive stående i uger. Tilføjelsen af Gemini til systemet i 2024 er beregnet til at løse netop dette problem ved at udføre dyb adfærdsanalyse, der kan finde små uoverensstemmelser, selv statistiske modeller overser.

Ikke ethvert forsøg på at poste en falsk anmeldelse har samme chance for at blive fanget. Risikoen spænder fra subtile taktikker, som filteret ofte overser, til åbenlys adfærd, der fører til næsten øjeblikkelig fjernelse. At vide, hvor en taktik lander på dette spektrum, adskiller nybegynderne fra de professionelle – og det er derfor, Googles detektion bliver bedre og bedre.

Hvad dette betyder for virksomheder er simpelt: detektionsrisikoen vokser meget hurtigere end antallet af anmeldelser. At købe tyve anmeldelser fra en billig udbyder er eksponentielt mere risikabelt end at købe fem fra en high-end. Ved tyve anmeldelser er ankomsthastigheden alene nok til at udløse detektion, uanset hvor gode kontiene er. Volumen er den ene ting, der mest pålideligt skubber systemet fra at observere til at handle.

Abstrakt snak om detektionssignaler er én ting. At se dem i aktion under specifikke fjernelser gør det virkeligt. De fire sager her er hentet fra offentlig information, juridiske dokumenter og rapportering. Det er ikke opdigtede historier, men reelle situationer, hvor Googles system fandt og handlede på falske anmeldelsessvindelordninger.

Den fælles tråd i alle fire sager er, at det ikke var kvaliteten af en enkelt anmeldelse, der fik dem fanget. Det var mønstrene: hastighed, placering, kontoforbindelser og aktivitet på tværs af platforme. Systemet læser ikke en anmeldelse som en person. Det læser dataene omkring den.

I april 2024 annoncerede Google, at de tilføjede Gemini – deres mest kraftfulde sprogmodel – til Google Business Profile-moderationssystemet. Dette var en stor ændring. Geminis evne til at ræsonnere med flere signaler og analysere langsigtet adfærd adresserede systemets største blinde vinkel: den vellavede, enkeltstående falske anmeldelse. Ældre modeller kiggede på signaler én efter én. Gemini kan forstå hele historien om en kontos handlinger – dens anmeldelsestidspunkt, logikken i dens anmeldelser for forskellige virksomheder, og om dens aktivitetssti giver mening.

Effekten var tydelig i dataene: 240 millioner falske anmeldelser fjernet i 2024, en stigning på 40% fra 2023. Endnu vigtigere blev flere stoppet før offentliggørelse – før nogen så dem. Dette skift fra reaktiv sletning til proaktiv blokering er kendetegnende for en smartere model. Det betyder færre virksomheder, der håndterer anmeldelsesbølger, færre mennesker, der læser falsk indhold, og hele platformen kommer tættere på, hvad Google ønsker.

Mærkaten 'Mistænkte falske anmeldelser'

Sammen med algoritmeopdateringen bragte 2024 en ny funktion til forbrugerne: en advarsel om 'mistænkte falske anmeldelser'. Når en virksomhedsprofil har mærkelige mønstre – som en pludselig strøm af anmeldelser fra lavkvalitetskonti – viser Maps nu et banner for at advare potentielle kunder. Funktionen dukkede op i USA, Storbritannien og Indien i slutningen af 2024 og startede sin globale udrulning i maj 2025. Dette markerer et skift i politik fra blot håndhævelse til også at give gennemsigtighed. Selvom Google ikke sletter en anmeldelse, kan den nu vise brugerne sin egen usikkerhed om, hvorvidt den er ægte.

Retningen er klar. I 2021 havde en velplanlagt falsk anmeldelseskampagne – ved hjælp af ældre konti, hjemme-IP'er og en god geografisk blanding – en rimelig chance for at blive stående i måneder. I 2026 er den samme kampagne oppe imod en Gemini-drevet analyse, der kan opdage uoverensstemmelser, som tidligere modeller ikke kunne. Levetiden for en falsk anmeldelse bliver kortere hvert år. Samtidig bliver de negative konsekvenser – anmeldelsesfængsel, kontobanneringer og FTC-bøder – værre.

At vide, hvordan Googles detektionssystem er bygget, ændrer spillet for enhver virksomhed, der overvejer sin anmeldelsesstrategi. Filteret søger ikke efter anmeldelser, der 'lyder falske'. Det søger efter mønstre, der ikke er naturlige. Denne forskel er enorm. Mange virksomheder, der aldrig har købt en eneste falsk anmeldelse, har set ægte anmeldelser blive filtreret, mens nogle snedige falske kampagner forbliver oppe et stykke tid.

Læren er, at en anmeldelsesstrategi skal designes til at se naturlig ud på mønsterniveau, ikke kun indholdsniveau. En perfekt skrevet anmeldelse er værdiløs, hvis den konto, der har postet den, udløser en hastighedsalarm eller dumper en lokationskontrol. Det signal, der betyder mest for Google, er ikke 'virker denne anmeldelse ægte?' Det er 'ligner denne anmelders samlede digitale spor en ægte kundes?'

Hvorfor et naturligt anmeldelsestempo slår høj volumen

Den mest konsekvente lære fra at studere Googles afsløring af falske anmeldelser er, at hastighed er den største risikofaktor for håndhævelse. En virksomhed, der får 50 ægte anmeldelser over seks måneder, har nul detektionsrisiko, uanset hvordan den bad om dem. En virksomhed, der får 50 anmeldelser på én uge – selvom de alle er ægte – kan udløse en anomalialarm og få nogle filtreret. Algoritmen kan ikke se den virkelige begivenhed, der førte til en anmeldelse. Den bedømmer legitimitet baseret på, hvor statistisk troværdigt mønsteret er. Et stabilt, naturligt tempo er det mønster, som ægte anmeldelsesindsamling bør sigte efter.

Den positive feedback-loop af ægte anmeldelser

Der er en sammensat fordel ved at opbygge en base af autentiske anmeldelser. Konti, der har meget aktivitet på Maps og en historie med at anmelde andre virksomheder, signalerer legitimitet til systemet. Når disse konti anmelder din virksomhed, har deres input mere autoritet og er mindre tilbøjelige til at blive filtreret. Dette er præcis grunden til, at tjenester, der bruger dedikerede 'anmelder'-konti – som ikke har nogen historie udover at poste falske anmeldelser – fejler så forudsigeligt. Deres falskhed er gennemsigtig for algoritmen. Det virkelige argument for autentiske anmeldelser handler ikke kun om at undgå problemer. Det er, at ægte konti skaber anmeldelsessignaler, der bliver stærkere over tid, mens falske konti skaber signaler, der falder fra hinanden under inspektion.

Lige svar på spørgsmål, der ikke findes i Googles officielle dokumenter – baseret på offentlige data, ekspertanalyse og observeret systemadfærd.