Googlen arvostelusuodattimen sisällä: Katsaus siihen, miten koneoppiminen löytää tekaistut arvostelut

Google ei tarjoa käsikirjaa tekaistujen arvostelujen havaitsemiseen. Mutta yrityksen blogikirjoituksista, viranomaisraporteista ja asiantuntija-analyyseistä järjestelmän suunnittelu käy selväksi – ja se on paljon kehittyneempi kuin monet olettavat.

Joka päivä Google Mapsiin ja Hakuun saapuu 20 miljoonaa panosta. Nämä ovat arvosteluja, kuvia, muutoksia ja ideoita. Valtaosa niistä on aitoja. Huomattava osa ei ole. Tämän määrän lajittelu ei ole ihmisten tehtävä. Se on koneoppimisen tehtävä, ja tämä kone on tullut erittäin tehokkaaksi.

Ymmärtääksesi, miten Googlen suodatin toimii, sinun on ensin ymmärrettävä luvut. Päivittäin saapuu kaksikymmentä miljoonaa käyttäjän lähettämää kohdetta. Se on noin 230 joka sekunti, 24/7, kaikkialta maailmasta, kaikilla kielillä, kaikentyyppisillä laitteilla. Ajatus siitä, että ihmiset voisivat tarkistaa edes pienen osan tästä – puhumattakaan siitä, että he tekisivät sen johdonmukaisesti – on perustavanlaatuinen väärinkäsitys. Tämä ei ollut koskaan ongelma, jonka ihmiset voisivat ratkaista.

Sen sijaan Google rakensi kerroksellisen valvontajärjestelmän, joka on aina päällä. Vuonna 2023 se poisti 170 miljoonaa arvostelua, jotka rikkoivat sen sääntöjä, 45 % enemmän kuin edellisenä vuonna. Vuonna 2024 kokonaismäärä nousi 240 miljoonaan. Tämä vuosittainen kasvu ei tarkoita vain sitä, että tekaistuja arvosteluja kirjoitetaan enemmän, vaikka sekin voi olla tekijä. Se tarkoittaa, että havaitsemisteknologia paranee nopeammin kuin kiertämismenetelmät.

Panokset yrityksille ovat valtavat. Vuoden 2023 Journal of Business Research -tutkimus paljasti, että tekaistut negatiiviset arvostelut kohdistuvat suhteettoman paljon menestyviin ravintoloihin, vahingoittaen juuri niitä yrityksiä, jotka luottavat eniten hyvin ansaittuun maineeseensa. Tarjontapuolella Googlen omat lakimiehet ovat haastaneet tekaistujen arvostelujen myyjiä oikeuteen, mukaan lukien vuoden 2023 tapaus bangladeshilaista palveluntarjoajaa vastaan, jonka verkkosivusto, Bigboostup.com, loi vääriä arvosteluja amerikkalaisille paikallisyrityksille.

Miksi tekaistut arvostelut pääsevät edelleen läpi?

Jos Google poistaa satoja miljoonia tekaistuja arvosteluja vuosittain, miksi niitä pääsee profiiliin? Se on sama syy, miksi jotkut roskapostit pääsevät edelleen postilaatikkoosi hyvistä suodattimista huolimatta. Välttelymenetelmät älykkääntyvät, ja väärien positiivisten (väärin poistetut aidot arvostelut) ja väärien negatiivisten (läpi pääsevät tekaistut arvostelut) välillä on hieno raja. Google virittää järjestelmänsä välttämään aitojen arvostelujen poistamista, mikä tarkoittaa, että ovelat väärennökset voivat kestää pidempään kuin räikeät.

Joy Hawkins, joka perusti Sterling Skyn ja on johtava tutkija paikallisen hakukoneoptimoinnin alalla, on tutkinut tätä epätasapainoa yksityiskohtaisesti. Hänen työnsä osoittaa, että Googlen suodatin voi joskus poistaa ryhmiä laillisia arvosteluja, erityisesti lakimiehille ja lääkäreille, joissa useat todelliset asiakkaat saattavat käyttää samaa odotushuoneen Wi-Fiä. Suodatin ei ole täydellinen kumpaankaan suuntaan.

Google ei ole julkaissut teknistä käsikirjaa arvostelujen moderointijärjestelmästään. Meillä on yrityksen blogikirjoituksia, lausuntoja FTC:lle ja tutkijoiden analyysejä järjestelmän toiminnasta. Yhdessä nämä lähteet osoittavat viisiosaisen prosessin, joka toimii jatkuvasti Google Mapsin normaalien toimintojen rinnalla.

Keskeinen suunnitteluperiaate – jonka Google on maininnut 'Keeping Reviews Authentic' -blogissaan – on, että prosessi ei pääty arvostelun julkaisemiseen. Arvostelu, joka saa aluksi hyväksynnän, voidaan tarkistaa uudelleen päiviä tai viikkoja myöhemmin, kun uutta tietoa saapuu. Jos tili A saa hyväksytyn pistemäärän maanantaina, mutta torstaina se linkitetään kahdentoista muun juuri merkityn tilin klusteriin, tilin A julkaistut arvostelut tarkistetaan uudelleen. Tästä syystä yritykset näkevät joskus arvostelujen katoavan kauan sen jälkeen, kun ne alun perin ilmestyivät.

Ihmisanalyytikoiden rooli

Automatisoidut järjestelmät hoitavat suuren volyymin tapaukset, joissa järjestelmä on erittäin luottavainen. Rajatapaukset menevät ihmistutkijoille. Nämä ovat hankalia väärennöksiä, jotka löytävät aukkoja tilastoista, tai todellisia arvosteluja, jotka näyttävät epäilyttävältä kuviolta. Nämä Googlen työntekijät tarkastelevat suoria todisteita: kuvakaappauksia huijareiden chateista, liiketoiminnan omistajien raporttien malleja ja kielianalyysiä. Heidän löytämiään tietoja käytetään mallin uudelleenkoulutukseen. Näin tapahtui vuoden 2023 5 miljoonan arvostelun verkoston poisto: ihmiset määrittelivät mallin, malli omaksui sen, ja uudet havainnot muuttuivat automaattisiksi.

Tämä palautesykli on järjestelmän kriittisin suunnitteluelementti. Tavoitteena ei ole luoda sääntöluetteloa. Tavoitteena on luoda niin kehittynyt malli, että se tarkistaa oman petoksen määritelmänsä lähes reaaliaikaisesti.

Tekstianalyysi ja NLP

Vähemmän julkisuutta saanut osa tekaistujen arvostelujen havaitsemisesta liittyy itse tekstiin. Luonnollisen kielen käsittelyn (NLP) mallit voivat havaita tekaistuissa arvosteluissa yleisiä kielellisiä merkkejä: liikaa superlatiiveja, konkreettisten yksityiskohtien puute, 'minä'-sanan ylikäyttö ja toistuvia lauseita eri tilien välillä. Journal of Marketing Analytics -lehdessä julkaistu tutkimus osoitti, että psykologiset kielimerkit – kuten kognitiivinen ponnistus ja emotionaalinen sävy – voivat erottaa tekaistut arvostelut aidoista suurella tarkkuudella. Googlen oma NLP, jota Gemini paransi vuonna 2024, tekee tätä työtä massiivisessa mittakaavassa.

Google ei ole toimittanut täydellistä luetteloa havaitsemissignaaleistaan. Kuitenkin yhdistämällä viralliset lausunnot, FTC:n todistukset, asiantuntijatutkimukset ja huolellisen havainnoinnin siitä, mikä merkitään ja mikä ei, voimme koota pääasialliset signaalit. Kymmenen niistä vastaa suurimmasta osasta valvontaa.

Nämä kymmenen signaalia eivät ole yksinkertainen tarkistuslista; ne ovat painotettuja datapisteitä todennäköisyysmallissa. Yksi signaali yksinään harvoin riittää laukaisemaan toimenpiteitä. Järjestelmä etsii yhdistelmiä – malleja, joissa useat signaalit vahvistavat toisiaan. Uusi tili jaetusta IP-osoitteesta, joka käyttää mallitekstiä ilman kuvia, osuu neljään signaaliin kerralla, ja tämä yhdistelmä tuottaa korkean luottamuspisteen poistamista varten.

Tilin purske: Googlen paljastavin malli

Kaikista signaaleista tilipurskeiden havaitseminen on tehokkain tapa purkaa suuria arvostelujärjestelmiä. Kun myyjä luo viisikymmentä tekaistua tiliä arvostellakseen asiakkaan profiilia, näillä tileillä on usein yhteisiä luomistietoja, vaikka ne käyttäisivätkin eri IP-osoitteita ja laitteita. Niillä voi olla samankaltaisia sähköpostipalveluntarjoajia, ne voivat olla rekisteröity peräkkäin tai niillä voi olla identtiset alkuasetukset. Vuoden 2023 läpinäkyvyysraportissaan Google mainitsi erityisesti graafipohjaisen klusteroinnin teknologiana, joka poisti 5 miljoonaa tekaistua arvostelua yhdestä huijausverkostosta vain muutamassa viikossa.

Miksi jotkut väärennökset pääsevät edelleen läpi

Mikään havaitsemisjärjestelmä ei voi havaita 100 % väärennöksistä ilman, että se myös virheellisesti merkitsee katastrofaalisen määrän aitoja. Googlen järjestelmä on viritetty aiheuttamaan vähiten haittaa aidoille arvosteluille. Tämä tarkoittaa, että erittäin hyvin tehty väärennös – sellainen, joka on peräisin aidosta, vanhasta tilistä, oikean kaupungin kotiosoitteesta, jolla on historia muita arvosteluja – saattaa läpäistä ensimmäisen tarkistuksen ja pysyä ylhäällä viikkoja. Geminin lisääminen järjestelmään vuonna 2024 on tarkoitettu ratkaisemaan juuri tämä ongelma suorittamalla syvällistä käyttäytymisanalyysiä, joka voi löytää pieniä epäjohdonmukaisuuksia, joita jopa tilastolliset mallit jättävät huomaamatta.

Jokaisella tekaistun arvostelun julkaisuyrityksellä ei ole samaa mahdollisuutta tulla havaituksi. Riski vaihtelee hienovaraisista taktiikoista, jotka suodatin usein jättää huomiotta, ilmeisiin käyttäytymismalleihin, jotka johtavat lähes välittömään poistoon. Tieto siitä, mihin taktiikka sijoittuu tällä alueella, erottaa aloittelijat ammattilaisista – ja siksi Googlen havaitseminen paranee jatkuvasti.

Tämä tarkoittaa yrityksille yksinkertaisesti: havaitsemisriski kasvaa paljon nopeammin kuin arvostelujen määrä. Kahdenkymmenen arvostelun ostaminen halvasta palveluntarjoajasta on eksponentiaalisesti riskialttiimpaa kuin viiden ostaminen huippuluokan palveluntarjoajasta. Kahdenkymmenen arvostelun kohdalla pelkkä saapumisnopeus riittää laukaisemaan havaitsemisen, riippumatta siitä, kuinka hyviä tilit ovat. Volyymi on se, mikä luotettavimmin siirtää järjestelmän tarkkailusta toimintaan.

Abstrakti puhe havaitsemissignaaleista on yksi asia. Niiden näkeminen toiminnassa tietyissä poistoissa tekee siitä todellista. Nämä neljä tapausta on otettu julkisista tiedoista, oikeudellisista asiakirjoista ja raportoinnista. Ne eivät ole keksittyjä tarinoita, vaan todellisia tilanteita, joissa Googlen järjestelmä löysi ja toimi tekaistujen arvostelujen järjestelmiä vastaan.

Kaikkien neljän tapauksen yhteinen piirre oli, että niitä ei saatu kiinni yksittäisen arvostelun laadun perusteella. Kyse oli malleista: nopeudesta, sijainnista, tilien yhteyksistä ja alustojen välisestä toiminnasta. Järjestelmä ei lue arvostelua kuin ihminen. Se lukee sitä ympäröivää dataa.

Huhtikuussa 2024 Google ilmoitti lisäävänsä Geminin – tehokkaimman kielimallinsa – Google Business Profile -moderointijärjestelmään. Tämä oli merkittävä muutos. Geminin kyky päätellä useista signaaleista ja analysoida pitkäaikaista käyttäytymistä käsitteli järjestelmän suurimman sokean pisteen: hyvin tehdyn, yksittäisen väärennöksen. Vanhemmat mallit tarkastelivat signaaleja yksi kerrallaan. Gemini voi ymmärtää tilin toimien koko tarinan – sen arvostelujen ajoituksen, sen arvostelujen logiikan eri yrityksille ja sen, onko sen toimintapolku järkevä.

Vaikutus oli selvä datassa: 240 miljoonaa tekaistua arvostelua poistettiin vuonna 2024, 40 %:n nousu vuodesta 2023. Vielä tärkeämpää on, että useampi estettiin ennen julkaisua – ennen kuin kukaan näki ne. Tämä siirtyminen reaktiivisesta poistosta ennakoivaan estoon on merkki älykkäämmästä mallista. Se tarkoittaa, että harvemmat yritykset käsittelevät arvostelujen nousuja, harvemmat ihmiset lukevat tekaistua sisältöä, ja koko alusta lähenee sitä, mitä Google haluaa.

’Epäilty tekaistu arvostelu’ -merkintä

Algoritmin päivityksen mukana vuosi 2024 toi uuden ominaisuuden kuluttajille: 'epäilty tekaistu arvostelu' -varoituksen. Kun yritysprofiilissa on outoja kuvioita – kuten äkillinen tulva heikkolaatuisista tileistä tulleita arvosteluja – Maps näyttää nyt bannerin varoittaakseen potentiaalisia asiakkaita. Ominaisuus ilmestyi Yhdysvalloissa, Isossa-Britanniassa ja Intiassa vuoden 2024 lopulla ja aloitti maailmanlaajuisen julkaisunsa toukokuussa 2025. Tämä merkitsee muutosta politiikassa pelkästä valvonnasta myös läpinäkyvyyden tarjoamiseen. Vaikka Google ei poistaisikaan arvostelua, se voi nyt näyttää käyttäjille oman epävarmuutensa siitä, onko se aito.

Suunta on selvä. Vuonna 2021 hyvin suunnitellulla tekaistujen arvostelujen kampanjalla – käyttäen vanhoja tilejä, kotiosoitteita ja hyvää maantieteellistä sekoitusta – oli kohtuullinen mahdollisuus pysyä ylhäällä kuukausia. Vuoteen 2026 mennessä sama kampanja on vastassa Gemini-pohjaista analyysiä, joka voi havaita epäjohdonmukaisuuksia, joita aikaisemmat mallit eivät pystyneet. Tekaistun arvostelun elinkaari lyhenee joka vuosi. Samalla negatiiviset seuraukset – arvosteluvankila, tilikiellot ja FTC:n sakot – pahenevat.

Tieto siitä, miten Googlen havaitsemisjärjestelmä on rakennettu, muuttaa pelin kaikille yrityksille, jotka harkitsevat arvostelustrategiaansa. Suodatin ei etsi arvosteluja, jotka 'kuulostavat tekaistuilta'. Se etsii malleja, jotka eivät ole luonnollisia. Tämä ero on valtava. Monet yritykset, jotka eivät koskaan ostaneet yhtään tekaistua arvostelua, ovat nähneet aitojen arvostelujen suodattuvan, kun taas jotkut ovelat tekaistut kampanjat pysyvät ylhäällä jonkin aikaa.

Opetus on, että arvostelustrategia on suunniteltava näyttämään luonnolliselta mallitasolla, ei vain sisältötasolla. Täydellisesti kirjoitettu arvostelu on arvoton, jos sen julkaissut tili laukaisee nopeushälytyksen tai epäonnistuu sijaintitarkistuksessa. Tärkein signaali Googlelle ei ole 'tuntuuko tämä arvostelu aidolta?' Se on 'näyttääkö tämän arvostelijan koko digitaalinen jälki todellisen asiakkaan jäljeltä?'

Miksi luonnollinen arvostelutahti voittaa suuren volyymin

Johdonmukaisin opetus Googlen tekaistujen arvostelujen havaitsemisen tutkimisesta on, että nopeus on suurin yksittäinen riskitekijä valvonnalle. Yrityksellä, joka saa 50 aitoa arvostelua kuuden kuukauden aikana, on nolla havaitsemisriski, riippumatta siitä, miten se pyysi niitä. Yritys, joka saa 50 arvostelua yhdessä viikossa – vaikka ne kaikki olisivat aitoja – saattaa laukaista poikkeamahälytyksen ja joitakin niistä suodatetaan. Algoritmi ei näe todellista tapahtumaa, joka johti arvosteluun. Se arvioi laillisuutta sen perusteella, kuinka tilastollisesti uskottava malli on. Tasainen, luonnollinen tahti on malli, johon aidon arvostelujen keräämisen tulisi pyrkiä.

Aitojen arvostelujen positiivinen palautesykli

Aitojen arvostelujen pohjan rakentamisella on kumulatiivinen hyöty. Tilit, joilla on paljon toimintaa Mapsissa ja historia muiden yritysten arvostelemisesta, viestivät järjestelmälle laillisuudesta. Kun nämä tilit arvostelevat yritystäsi, niiden panoksella on enemmän auktoriteettia ja ne suodattuvat epätodennäköisemmin. Juuri tästä syystä palvelut, jotka käyttävät omistettuja 'arvostelija'-tilejä – joilla ei ole historiaa muuta kuin tekaistujen arvostelujen julkaiseminen – epäonnistuvat niin ennustettavasti. Niiden tekaistuus on läpinäkyvää algoritmille. Todellinen argumentti aitojen arvostelujen puolesta ei ole vain se, että pysytään poissa ongelmista. Se on se, että aidot tilit luovat arvostelusignaaleja, jotka vahvistuvat ajan myötä, kun taas tekaistut tilit luovat signaaleja, jotka hajoavat tarkastelussa.

Suoria vastauksia kysymyksiin, joita ei löydy Googlen virallisista asiakirjoista – perustuen julkiseen dataan, asiantuntija-analyysiin ja havaittuun järjestelmän käyttäytymiseen.