Tror du at AI-reiseassistenten din har ryggen din? Det kan være å pakke rosefargede glass.
TripAdvisors sammendrag av gjennomgang av kunstig intelligens er under ild etter at en undersøkelse fant ut at chatboten så ut til å skjule alarmerende gjesteklager.
Dette inkluderte rapporter om matforgiftning, dårlig hygiene og til og med påstått seksuell trakassering – mens det malte et altfor solfylt bilde av noen feriesteder.
Et av de mest øyenbrynshevende eksemplene involverte Riu Palace Santa Maria på Kapp Verde, som opprinnelig rapportert av The Guardian.
Der utropte AI «plettfrie» innkvartering, romslige rom og restauranter som fikk «gode anmeldelser».
Det glødende sammendraget sto i sterk kontrast til mange gjesteberetninger som beskrev rå kylling, fugler og fluer rundt buffémat og en reisende som advarte: «Dette stedet vil ødelegge helligdager.»
Feriestedets operatør, RIU Hotels & Resorts, forsvarte sin praksis, i henhold til utsalgsstedet, og sa: «Vi opererer med de høyeste standardene for profesjonalitet og service, og setter hygienisk-sanitær sikkerhet som vår høyeste prioritet.»
Et annet AI-generert sammendrag berømmet et feriested i Tyrkia for sin «vennlige» service til tross for gjesteanmeldelser som påsto gjentatt seksuell trakassering av mannlige ansatte.
I stedet for å fremheve disse klagene, refererte AI bare til «bortfall [in service] bemerket av noen få.»
«Plattformen har et ansvar for å se nøyaktigheten til AI-sammendragene og AI-chatboten på nytt,» Rory Boland, redaktør av Which? Travel, fortalte The Guardian.
«I mellomtiden bør brukere bla forbi disse sammendragene og se på gjesteanmeldelser, spesielt én-stjerner, og på anmeldelser på andre nettsteder, for å sikre at deres neste opphold er trygt.»
TripAdvisor sa at de gjennomgår eksemplene fremhevet i etterforskningen og fortsetter å finpusse funksjonen.
Selskapet sa at det «undersøker eksemplene der anmeldelser ikke stemte overens med den tiltenkte egenskapen,» og la til at det fortsatt er «sikker på at disse funksjonene leverer akkurat det de er designet for å gjøre: hjelpe reisende raskt å forstå bredden av tilbakemeldinger samtidig som det er enkelt å utforske de underliggende anmeldelsene i sin helhet.»
TripAdvisor bemerket også at AI-sammendrag er designet for å utfylle og fungere sammen med – ikke fullt ut erstatte – nettstedets brukeranmeldelser, og sa at systemene deres automatisk undertrykker AI-sammendrag for oppføringer som involverer rapporter om de mest alvorlige sikkerhetshendelsene, inkludert dødsfall, doping og seksuelle overgrep.
Funnene kommer ettersom flere amerikanere – spesielt yngre reisende – i økende grad lar kunstig intelligens spille reisebyrå.
En Talker Research-undersøkelse av 2000 amerikanere i fjor fant at millennials og Gen Z er langt mer sannsynlig enn eldre generasjoner til å bruke AI til å planlegge ferier, fra å sammenligne flypriser og velge destinasjoner til å bygge hele reiseruter komplett med sightseeinganbefalinger.
Bare 29 % av millennials og 33 % av Gen Z-respondentene sa at de aldri hadde brukt AI for å hjelpe til med å planlegge en tur, sammenlignet med syv av 10 babyboomere som sa at de aldri har brukt teknologien for å få ferieråd.
Men AI har ikke alltid vært verdens mest pålitelige reisefølge.
The Post har tidligere rapportert om et influencer-par hvis drømmereise til Puerto Rico ble løst etter at de sa at ChatGPT feilaktig fortalte dem at de ikke trengte noen ekstra reisedokumenter.
Etter å ha ankommet flyplassen, fant de ut at de fortsatt trengte en ESTA-reisetillatelse, noe som førte til at de gikk glipp av flyet.
Paret ble senere viralt på TikTok etter å ha dokumentert prøvelsen, med noen seere som sympatiserte mens andre hevdet at chatboten ikke var helt skylden fordi de hadde spurt om visum – ikke det separate ESTA-kravet.
Til sammen tjener hendelsene som nok en påminnelse om at selv om kunstig intelligens kan være et nyttig utgangspunkt, bør reisende likevel dobbeltsjekke viktige detaljer – enten det er adgangskrav eller hotellanmeldelser – før de trykker på «bestill nå».
