A hamis vélemények törvényszéki anatómiája: 11 jel, ami leleplez egy hazugságot

A csalárd bejegyzéseket a valós vásárlói történetektől elválasztó nyelvi sajátosságok, digitális lábnyomok és gépi tanulási jelzések alapos vizsgálata.

A Google naponta körülbelül 240 millió hamis véleményt fog el, mielőtt azok felkerülnének az internetre. Ez a szám, a Google 2024-es átláthatósági jelentése szerint, csak a jéghegy csúcsa egy hatalmas, hazugságokra épülő iparágban. Azok, amelyek átjutnak, az okosabb és károsabb hamisítványok.

Nem minden hamis vélemény ordítja a hamisságát. A legügyetlenebb példákat könnyű észrevenni, a sorokban álló felkiáltójeleikkel és a tegnap született fiókjaikkal. De a képzett játékosok finomították a játékukat. Bangladesi és kelet-európai véleménygyárak, valamint olyan hírnévvel foglalkozó cégek, amelyek csomagonként 299 dollárért adnak el hihető hamisítványokat, évek óta tanulmányozzák ezt. Elolvasták azokat a kutatási cikkeket, amiket Ön nem.

Ez a cikk egy tervrajz a szétszedésükhöz. Megmutatjuk, hogyan működnek, milyen nyomokat hagynak, és hogyan találhatja meg őket. Négy mintavéleményt fog látni, megtanul 11 bevált csalási jelet, és kap egy hatlépéses folyamatot, amelyet tíz perc alatt követhet, mindössze egy webböngészővel.

Egy kulcsfontosságú számítógépes nyelvészeti tanulmány 2011-ben jelent meg a Cornell Egyetemen. Myle Ott vezette csapat írókat bérelt az Amazon Mechanical Turk-től, hogy pozitív és meggyőző hamis szállodai véleményeket hozzanak létre. Ezután egy számítógépes programot képeztek ki arra, hogy megkülönböztesse a hamisítványokat a valódi véleményektől. A gép 89,8%-ban volt helyes. Az emberek, akik ugyanezt próbálták, csak találgattak.

Ez az eltérés továbbra is a központi probléma. Az emberek nem arra vannak teremtve, hogy hazugságokat fedezzenek fel írásban. A nyomok léteznek, de csendesek, matematikaiak és hálózatba rendezettek oly módon, amit az agyunk egy gyors áttekintés során kihagy. A platformok megértik ezt. Ezért veszik át a számítógépek a felderítés feladatát.

Nincs szüksége mesterséges intelligenciára. Csak meg kell értenie, mit látnak a számítógépek. Akkor Ön is láthatja.

▸Miért megtévesztőbbek a hamis vélemények, mint valaha

Ez az üzlet felnőtt. Az első hamisítók ügyetlenek voltak. Ötcsillagos bejegyzéseikben elírások voltak, és ötven vélemény egy hétvége alatt egy IP-címről érkezett. Ahogy a platformok okosabbá váltak, úgy a csalók is. 2023-ra a profi hamisítók megtanították az írókat, hogyan csapják be a Google algoritmusát, és mesterséges intelligencia eszközöket adtak el, amelyek tiszta, hihető szöveget köpnek ki.

Az eredmény egy macska-egér játék. A Google mesterséges intelligenciája most egyszerre több száz nyomot kezel: fiók kora, eszközazonosítók, közzétételi sebesség, és hogy a véleményező helye értelmes-e az üzlet szempontjából. A legjobb hamisítványokat úgy építik, hogy átcsússzanak ezeken az ellenőrzéseken. A jelek ismerete az ellenfél taktikájának ismerete.

A 2011-es Cornell tanulmány meglepő tényt tárt fel: a hamis vélemények színesebb, történetmesélő jellegű szavakat használnak, mint a valódiak. A valódi vásárlók konkrét tényeket említenek, mint például „a padlócsempe törött volt” vagy „negyven percet vártunk a bejelentkezésre”. A hamisítók a képzeletükből, nem az emlékeikből találnak ki egy jelenetet, olyan dolgokat írva, mint „ideális hely egy romantikus meneküléshez” vagy „nagyszerű utazás az egész családnak”.

Ez nem csak a szállodákra igaz. A hamis vélemények tele vannak leíró szavakkal, de kevés főnévvel. A főnevek valós dolgokra utalnak, amelyeket az író soha nem látott. Emellett több „én” és „mi” kijelentést is használnak, hogy valósághűbbnek tűnjenek, de ez a trükk valójában gyanakvóbbá teszi a számítógépes programokat.

Az alábbiakban egy példa a leggyakoribb hamisítványra: a homályos dicséret hulláma. Tudjuk, hogyan néz ki, mert egy hírnévvel foglalkozó cég saját elemzője még azelőtt elkapta, hogy élőben megjelent volna.

▸Az elöregedett fiók trükk: Hogyan hoznak létre a hamisítók hamis előzményeket

Az első hamis fiókok vadonatújak voltak, ami könnyen észrevehetővé tette őket. Így az iparág alkalmazkodott, és „elöregedett” fiókok hálózatát hozta létre. Egy véleménygyár több ezer, évek óta létező Google-fiókon ülhet, fotókkal és néhány véletlenszerű véleménnyel különböző városokban lévő vállalkozásokról. Amikor valaki véleménycsomagot vásárol, ezek az alvó fiókok felébrednek, és egyszerre posztolnak.

Ez a következő példa ezt a taktikát mutatja. A fiók elsőre valódinak tűnik, 47 véleménnyel két év alatt. De a közzétételi dátumok árulkodó mintát mutatnak.

A „Maria L.” profil veszélyes, mert réginek és aktívnak tűnik. Egy gyors pillantás nem keltene gyanút. A csalás csak akkor válik egyértelművé, ha feltérképezi a vélemények dátumait, és látja a háromnapos robbanást, vagy ha rákeres a pontos szövegre más üzleti oldalakon.

A Cornell nyelvi feldolgozási kutatásai, a BrightLocal éves fogyasztói felmérései, a Google saját észlelési jegyzetei és az FTC ügyiratok alapján itt van a hamis vélemények tizenegy legmegbízhatóbb jele. Ezek az egyedi nyomok erősségük sorrendjében vannak felsorolva.

Egyetlen nyom önmagában semmit sem bizonyít. Egy vadonatúj fiók lehet egy valódi személy, aki ritkán ír véleményeket. A homályos megfogalmazás származhat valakitől, akinek nem az angol az anyanyelve. De ha három vagy több ilyen nyomot talál együtt, a hamisítvány esélye az egekbe szökik.

A hamis vélemények nem mindig ötcsillagosak. Egyre nagyobb számban vannak egycsillagos támadások, ahol egy vállalkozás fizet azért, hogy rossz véleményeket tegyenek közzé egy rivális oldalán. Egy New York-i éttermek Yelp adatairól készült tanulmány kimutatta, hogy minél népszerűbb egy étterem a szomszédaihoz képest, annál nagyobb valószínűséggel kap hamis negatív véleményeket.

Ez a fajta támadás másképp néz ki, mint egy valódi panasz. Egy ténylegesen elégedetlen vásárló hosszú, részletes történetet ír arról, mi történt, kivel beszélt, mit evett, és mikor hívott. Egy hamis negatív vélemény rövid, általános és tele van extrém érzelmekkel. Teljes katasztrófát állít, de nem ad tényeket.

▸Egy negatív támadás boncolása

Az alábbi példa egy tipikus, professzionálisan elhelyezett negatív vélemény. Lássa, hogyan fordulnak meg a jelek: egy hamis pozitívnak nincsenek főnevei, de egy hamis negatív használja őket – csak a rosszakat, ami az író tudatlanságát mutatja.

Ebben az esetben a tulajdonos ellenőrizte a nyilvántartását, és nem talált David R. nevű ügyfelet, aki bármit is lefoglalt vagy vásárolt volna. A Google Cégprofil megtekintésekor kiderült, hogy ez volt David R. egyetlen véleménye, és két állammal odébb lévő városból származó IP-címről érkezett. A tulajdonos jelentette, és a Google hat napon belül eltávolította.

A Google csalás elleni csapata megosztott néhány részletet arról, hogyan működik a rendszerük. A kulcsfontosságú gondolat az, hogy egyetlen véleményt sem ítélnek meg önmagában. Mindegyik egy pont egy nagy hálóban, amely kapcsolódik a közzétevő fiókhoz, a telefonhoz, amelyről érkezett, az IP-címéhez, az adott fiók által véleményezett egyéb vállalkozásokhoz és az adott vállalkozás összes véleményének időzítéséhez.

Egy vélemény önmagában teljesen valódinak tűnhet, de mégis megjelölhető. Ez akkor fordulhat elő, ha a közzétevő fiók ugyanazt az eszközazonosítót használja, mint tizennégy másik fiók, amelyek mind ugyanazt a vállalkozást véleményezték két nap alatt. A kapcsolatok hálója leleplezi a hálózatot, és a hálózat leleplezi a csalást.

▸Az AI által írt vélemények problémája

A 2024-es FTC szabály a fogyasztói véleményekről kifejezetten megnevezi az AI által generált hamisítványokat, ami mutatja, milyen gyorsan növekszik ez a probléma. Az AI véleményeket értékesítő szolgáltatások óránként több ezer különböző, releváns hangzású szöveget tudnak előállítani. Ezek a szövegek átjutnak az alapvető kulcsszó-szűrőkön, de a finomabb nyomokon elbuknak.

Az AI által írt szövegnek van egy jellegzetes stílusa. A mondatok ismétlődő szerkezetűek, ellentétben az emberi írással. Kerüli az összevonásokat, a „do not” helyett a „don't”-ot használja. Nincs benne helyi íz vagy szleng. A helyesírás és a nyelvtan tökéletes, még akkor is, ha a fiók egy nem anyanyelvi beszélőhöz tartozónak tűnik. A negyedik példa egy professzionálisan készített AI hamisítványt és annak hibáit mutatja be.

▸Az FTC szabály és annak valós hatása

2024 augusztusában a Szövetségi Kereskedelmi Bizottság (FTC) jóváhagyta a hamis véleményekre vonatkozó új szabályát, amely 2024. október 21-én lépett hatályba. Ez a szabály illegálissá teszi a hamis vélemények vásárlását, létrehozását vagy terjesztését, beleértve az AI által készítetteket is. Akár 51 744 dolláros bírságot is lehetővé tesz minden egyes hamisítványért. Az FTC 2025 decemberében küldte ki első figyelmeztető leveleit tíz cégnek.

A legárulkodóbb eset Európában Olaszországban történt. A Promo Salento tulajdonosát kilenc hónap börtönbüntetésre és 8000 euró pénzbírságra ítélték, mert több mint 1000 hamis véleményt tett közzé a TripAdvisoron. A jogi veszély már nem elmélet; valós, globális és rögzített kockázat.

Egy gyors olvasó valószínűleg elhinné a „Jennifer T.” véleményt. A szavak értelmesek, illeszkednek a témához, és nincsenek elírások. De elbukik a hangneme miatt – a hivatalos stílus nem az, ahogyan a valódi vásárlók beszélnek –, és a különböző városokban lévő vállalkozások véleményezésének mintázata miatt. Az AI-észlelő eszközök 87%-os bizonyossággal jelölik meg. Mégis, a legjobb nyom az, amit egyetlen AI-észlelő sem láthat: a fiókok hálózata.

Ez a folyamat öt-tizenöt percet vesz igénybe bármely gyanús vélemény esetében. Nincs szüksége speciális eszközökre, csak egy Google-fiókra és egy webböngészőre. Használja minden olyan véleményre, amely a 11 jel közül kettőt vagy többet mutat.

Ezek a lépések az időigény és a hatékonyság szerint vannak felsorolva. Az első három lépés gyorsan tisztázza a legtöbb jogszerű véleményt. A negyedik-hatodik lépés azokra vonatkozik, amelyek továbbra is gyanúsnak tűnnek.

▸Hamis vélemények jelentése a Google-nak: Mi hoz eredményt

A „Nem megfelelőnek jelölés” gomb megnyomása automatikus ellenőrzést indít. Ez gyakran elegendő a nyilvánvaló szabálysértések, például a vásárolt vélemények vagy a személyazonosság-lopás esetén, és általában 3-5 napon belül eltűnnek. A trükkösebb esetekben, amelyek hamisnak tűnnek, de nem sértenek egyértelmű szabályt, a bizonyítékok elküldése a Google Cégprofil támogatásának jelentősen növeli az esélyeit.

Mutassa be a mintát, ne csak egy véleményt. Egyetlen megkérdőjelezhető vélemény vitatható. De egy képernyőkép tizennégy vadonatúj fiókból származó véleményről hat óra alatt, ugyanazokat a kifejezéseket használva, szilárd eset. A Google emberi csapata a tervezett támadás bizonyítékai alapján cselekszik.

2024-ben a Google több mint 240 millió olyan véleményt távolított el, amelyek megsértették a szabályait, és 12 millió hamis üzleti profilt zárt be. AI rendszere, amely naponta körülbelül 20 millió üzleti adatfrissítést kezel, megjelöli a gyanús véleményeket. Attól függően, hogy mennyire biztos benne, a rendszer vagy automatikusan törli a véleményt, vagy elküldi egy személynek ellenőrzésre.

A véleményeket háromféleképpen törlik: még a közzététel előtt (ez a legtöbbet elkapja), a rendszeres rendszerellenőrzések során új adatokkal, és miután a felhasználók jelentik őket. A rendszer 45%-kal javult a felderítésben 2024-ben 2022-hez képest, főleg azért, mert jobban elemezte a hálózatokat. Most már a fiókok közötti kapcsolatokra összpontosít, nem csak az egyedi véleményekre.

▸Ha a vélemény marad: Hogyan fellebbezhet

A Google nem távolít el minden megjelölt véleményt. Inkább meghagyja a tartalmat, mintsem kockáztatná egy valódi negatív megjegyzés törlését. Ez azt jelenti, hogy néhány hamisítvány átjut. Ha Ön egy vállalkozás tulajdonosa, és folyamatos támadással szembesül, itt vannak a lépések: 1) Jelöljön meg minden hamisítványt, és tüntesse fel, milyen szabályt sért. 2) Vegye fel a kapcsolatot a Google Cégprofil támogatásával a bizonyítékaival. 3) Kérjen segítséget a Google Cégprofil fórumain. 4) Ha hírneve súlyosan sérült, beszéljen egy ügyvéddel az FTC szabályai szerinti lehetőségeiről.

Az időtartam attól függ, mennyire súlyos a probléma, és mennyire jók a bizonyítékai. Egyetlen, homályos jelölés 2-4 hetet vehet igénybe, és semmihez sem vezet. Egy jól dokumentált eset dátumokkal, más oldalakról származó egyező szöveggel és konkrét szabálysértéssel általában 5-10 munkanapon belül rendeződik.

Azok a kérdések, amelyeket az emberek valójában beírnak a keresőmotorokba a hamis véleményekről, egyszerűen megválaszolva.

A hamis vélemények üzlete nagy, okos és folyamatosan változik. Azok az emberek, akik ezeket a műveleteket irányítják, ismerik az észlelési módszereket. Elolvasták a Cornell tanulmányt. Tudnak a közzétételi kiugrásokról, a dicséret halmozásáról és a fordított képkeresésekről. Ez egy állandó harc.

De a nyomok még mindig ott vannak. A hamisítók alapvető problémája ugyanaz: történeteket írnak, nem emlékeket. Nem ismerik a konkrét részleteket. Nem tudják időben rögzíteni a történetüket. Izgatottnak tűnhetnek, de nem tudják kitalálni egy valódi élmény érzését – a letört padlócsempét, az alkalmazottat, aki ismerte a nevét, a negyven perces várakozást egy lefoglalt asztalra.