Fremveksten av generative verktøy for kunstig intelligens som lar folk effektivt produsere nye og detaljerte anmeldelser på nett uten nesten noe arbeid, har plassert selgere, tjenesteleverandører og forbrukere i ukjent territorium, sier vakthundgrupper og forskere.
Falske anmeldelser har lenge plaget mange populære forbrukernettsteder, som Amazon og Yelp. De handles vanligvis på private sosiale mediegrupper mellom meglere av falske anmeldelser og bedrifter som er villige til å betale.
Noen ganger blir slike anmeldelser initiert av bedrifter som tilbyr kunder insentiver som gavekort for positive tilbakemeldinger.
Men AI-infunderte tekstgenereringsverktøy, populært av OpenAIs ChatGPT, gjør det mulig for svindlere å produsere anmeldelser raskere og i større volum, ifølge eksperter i teknologibransjen.
Den villedende praksisen, som er ulovlig i USA, utføres året rundt, men blir et større problem for forbrukere i julehandelsesongen, når mange er avhengige av anmeldelser for å hjelpe dem med å kjøpe gaver.
Hvor vises AI-genererte anmeldelser?
Falske anmeldelser finnes i et bredt spekter av bransjer, fra e-handel, overnatting og restauranter, til tjenester som hjemmereparasjoner, medisinsk behandling og pianotimer.
The Transparency Company, et teknologiselskap og vakthundgruppe som bruker programvare for å oppdage falske anmeldelser, sa at det begynte å se AI-genererte anmeldelser dukke opp i stort antall i midten av 2023, og de har multiplisert siden den gang.
For en rapport utgitt denne måneden, analyserte The Transparency Company 73 millioner anmeldelser i tre sektorer: hjemme, juridiske og medisinske tjenester. Nesten 14 % av anmeldelsene var sannsynligvis falske, og selskapet uttrykte en «høy grad av tillit» til at 2,3 millioner anmeldelser var helt eller delvis AI-generert.
«Det er bare et veldig, veldig godt verktøy for disse vurderingssvindlerne,» sa Maury Blackman, en investor og rådgiver for teknologiske startups, som gjennomgikk The Transparency Companys arbeid og skal lede organisasjonen fra 1. januar.
I august sa programvareselskapet DoubleVerify at det observerte en «betydelig økning» i mobil- og smart-TV-apper med anmeldelser laget av generativ AI.
Anmeldelsene ble ofte brukt til å lure kunder til å installere apper som kunne kapre enheter eller kjøre annonser konstant, sa selskapet.
Den påfølgende måneden saksøkte Federal Trade Commission selskapet bak et AI-skriveverktøy og innholdsgenerator kalt Rytr, og anklaget det for å tilby en tjeneste som kan forurense markedet med uredelige anmeldelser.
FTC, som i år forbød salg eller kjøp av falske anmeldelser, sa at noen av Rytrs abonnenter brukte verktøyet til å produsere hundrevis og kanskje tusenvis av anmeldelser for garasjeportreparasjonsfirmaer, selgere av «replika» designervesker og andre virksomheter.
Det er sannsynligvis også på fremtredende nettsteder
Max Spero, administrerende direktør for AI-deteksjonsselskapet Pangram Labs, sa at programvaren hans firma bruker nesten med sikkerhet har oppdaget at noen AI-genererte vurderinger lagt ut på Amazon boblet opp til toppen av vurderingssøkeresultatene fordi de var så detaljerte og så ut til å være gode. gjennomtenkt.
Men å avgjøre hva som er falskt eller ikke kan være utfordrende. Eksterne parter kan komme til kort fordi de ikke har «tilgang til datasignaler som indikerer misbruksmønstre», har Amazon sagt.
Pangram Labs har gjort deteksjon for noen fremtredende nettsider, som Spero nektet å navngi på grunn av taushetserklæring. Han sa at han evaluerte Amazon og Yelp uavhengig.
Mange av de AI-genererte kommentarene på Yelp så ut til å være postet av enkeltpersoner som prøvde å publisere nok anmeldelser til å få et «Elite»-merke, som er ment å la brukerne vite at de burde stole på innholdet, sa Spero.
Merket gir tilgang til eksklusive arrangementer med lokale bedriftseiere. Svindlere vil også ha det slik at Yelp-profilene deres kan se mer realistiske ut, sa Kay Dean, en tidligere føderal kriminell etterforsker som driver en vakthundgruppe kalt Fake Review Watch.
For å være sikker, bare fordi en anmeldelse er AI-generert, betyr det ikke nødvendigvis at den er falsk. Noen forbrukere kan eksperimentere med AI-verktøy for å generere innhold som gjenspeiler deres genuine følelser. Noen som ikke har engelsk som morsmål sier at de henvender seg til AI for å forsikre seg om at de bruker nøyaktig språk i anmeldelsene de skriver.
«Det kan hjelpe med anmeldelser (og) gjøre det mer informativt hvis det kommer ut av gode intensjoner,» sa markedsprofessor Sherry He fra Michigan State University, som har forsket på falske anmeldelser. Hun sier at teknologiske plattformer bør fokusere på atferdsmønstrene til dårlige skuespillere, noe fremtredende plattformer allerede gjør, i stedet for å fraråde legitime brukere å henvende seg til AI-verktøy.
Hva bedrifter gjør
Fremtredende selskaper utvikler retningslinjer for hvordan AI-generert innhold passer inn i systemene deres for å fjerne falske eller støtende anmeldelser. Noen bruker allerede algoritmer og etterforskningsteam for å oppdage og fjerne falske anmeldelser, men gir brukerne litt fleksibilitet til å bruke AI.
Talsmenn for Amazon og Trustpilot sa for eksempel at de ville tillate kunder å legge ut AI-assisterte anmeldelser så lenge de gjenspeiler deres genuine opplevelse. Yelp har tatt en mer forsiktig tilnærming og sier at retningslinjene krever at anmeldere skriver sin egen kopi.
«Med den nylige økningen i forbrukernes bruk av AI-verktøy, har Yelp investert betydelig i metoder for å bedre oppdage og redusere slikt innhold på plattformen vår,» sa selskapet i en uttalelse.
The Coalition for Trusted Reviews, som Amazon, Trustpilot, arbeidsvurderingsnettstedet Glassdoor og reisenettstedene Tripadvisor, Expedia og Booking.com lanserte i fjor, sa at selv om bedragere kan bruke AI til ulovlig bruk, gir teknologien også «en mulighet til å presse tilbake mot de som søker å bruke anmeldelser for å villede andre.»
«Ved å dele beste praksis og heve standarder, inkludert utvikling av avanserte AI-deteksjonssystemer, kan vi beskytte forbrukere og opprettholde integriteten til online anmeldelser,» sa gruppen.
FTCs regel som forbyr falske anmeldelser, som trådte i kraft i oktober, tillater byrået å bøtelegge bedrifter og enkeltpersoner som deltar i praksisen. Teknologiske selskaper som er vert for slike anmeldelser, er skjermet fra straffen fordi de ikke er juridisk ansvarlige i henhold til amerikansk lov for innholdet som utenforstående legger ut på plattformene deres.
Teknologiselskaper, inkludert Amazon, Yelp og Google, har saksøkt meglere med falske anmeldelser de anklager for å ha solgt falske anmeldelser på nettstedene deres. Selskapene sier at teknologien deres har blokkert eller fjernet et stort utvalg av mistenkte anmeldelser og mistenkelige kontoer. Noen eksperter sier imidlertid at de kan gjøre mer.
«Deres innsats så langt er ikke på langt nær nok,» sa dekan ved Fake Review Watch.
«Hvis disse teknologiselskapene er så forpliktet til å eliminere anmeldelsessvindel på plattformene deres, hvorfor kan det være slik at jeg, en person som jobber uten automatisering, kan finne hundrevis eller til og med tusenvis av falske anmeldelser på en gitt dag?»
Finner falske AI-genererte anmeldelser
Forbrukere kan prøve å oppdage falske anmeldelser ved å se opp for noen få mulige advarselstegn, ifølge forskere. Altfor entusiastiske eller negative anmeldelser er røde flagg. Sjargong som gjentar et produkts fulle navn eller modellnummer er en annen potensiell giveaway.
Når det kommer til AI, har forskning utført av Balázs Kovács, en Yale-professor i organisasjonsatferd, vist at folk ikke kan se forskjellen mellom AI-genererte og menneskeskrevne anmeldelser.
Noen AI-detektorer kan også bli lurt av kortere tekster, som er vanlige i online anmeldelser, sa studien.
Imidlertid er det noen «AI forteller» at nettkjøpere og tjenestesøkere bør huske på det. Panagram Labs sier anmeldelser skrevet med AI vanligvis er lengre, svært strukturerte og inkluderer «tomme beskrivelser», for eksempel generiske setninger og attributter. Skriften har også en tendens til å inkludere klisjeer som «det første som slo meg» og «game-changer».
