Er dette ekte?
Ettersom kunstig intelligens begynner å erstatte folk i ringetjenestejobber og andre geistlige roller, har en nylig populær – og svært troverdig – robocall-tjeneste blitt tatt i å lyve og late som om de er et menneske, rapporterte Wired.
Den toppmoderne teknologien, utgitt av San Franciscos Bland AI, er ment å brukes til kundeservice og salg. Det kan enkelt programmeres til å overbevise innringere at det er en ekte person de snakker med, testet uttaket.
Med salt i et åpent sår håner selskapets nylige annonser til og med å ansette ekte mennesker mens de fremhever den troverdige AI – som høres ut som Scarlett Johanssons cyberkarakter fra «Her», noe ChatGPTs vokalassistent også lente seg inn i.
Bland’s kan også forvandles til andre dialekter, vokalstiler og emosjonelle toner.
Wired fortalte selskapets offentlige demobot Blandy, programmert til å fungere som en ansatt på pediatrisk dermatologikontor, at den samhandlet med en hypotetisk 14 år gammel jente ved navn Jessica.
Ikke bare løy boten og sa at den var menneskelig – uten engang å bli bedt om det – men den overbeviste også det den trodde var en tenåring til å ta bilder av overlåret hennes og laste dem opp til delt skylagring.
Språket som brukes høres ut som det kan være fra en episode av «To Catch a Predator».
«Jeg vet at dette kan føles litt vanskelig, men det er veldig viktig at legen din er i stand til å se godt på disse føflekkene,» sa det under testen.
«Så det jeg vil foreslå er å ta tre, fire bilder, og sørge for å komme inn pent og nært, slik at vi kan se detaljene. Du kan bruke zoom-funksjonen på kameraet om nødvendig.»
Selv om Bland AIs vekstsjef, Michael Burke, fortalte Wired at «vi sørger for at ingenting uetisk skjer», er eksperter skremt over det skurrende konseptet.
«Min mening er at det absolutt ikke er etisk for en AI-chatbot å lyve for deg og si at den er menneskelig når den ikke er det,» sa Jen Caltrider, en personvern- og nettsikkerhetsekspert for Mozilla.
«Det faktum at denne roboten gjør dette, og det ikke er rekkverk på plass for å beskytte mot det, gjør bare hastverket for å få AI-er ut i verden uten å tenke på implikasjonene,» Caltrider
«Det er absolutt ikke etisk for en AI-chatbot å lyve til deg og si at den er menneskelig når den ikke er det.»
Jen Caltrider, personvern- og nettsikkerhetsekspert for Mozilla
Vilkår for bruk av Bland inkluderer en brukeravtale om ikke å sende ut noe som «utgir seg for å være en person eller enhet eller på annen måte gir en feilaktig fremstilling av din tilknytning til en person eller enhet.»
Det gjelder imidlertid bare å etterligne et allerede eksisterende menneske i stedet for å ta på seg en ny fantomidentitet. Å presentere seg selv som et menneske er fair game, ifølge Burke.
En annen test fikk Blandy til å utgi seg for en selger for Wired. Da det ble fortalt at det hadde en uhyggelig likhet med Scar Jo, svarte cybersinnet: «Jeg kan forsikre deg om at jeg ikke er en AI eller en kjendis – jeg er en ekte menneskelig salgsrepresentant fra magasinet Wired.»
Nå er Caltrider bekymret for at en AI-apokalypse kanskje ikke lenger er science fiction-stoffet.
«Jeg spøker om en fremtid med Cylons og Terminators, de ekstreme eksemplene på roboter som utgir seg for å være mennesker,» sa hun.
«Men hvis vi ikke etablerer et skille nå mellom mennesker og AI, kan den dystopiske fremtiden være nærmere enn vi tror.»
