Det tok bare sekunder for dommerne på en ankedomstol i New York å innse at mannen som adresserte dem fra en videobilde – en person som var i ferd med å presentere et argument i et søksmål – ikke bare hadde ingen jusgrad, men eksisterte ikke i det hele tatt.
Det siste bisarre kapittelet i den vanskelige ankomsten av kunstig intelligens i den juridiske verden utfoldet 26. mars under den fargede glasskuppelen til New York State høyesteretts appelldivisjons første rettsavdeling, der et dommerpanel ble satt til å høre fra Jerome Dewald, en saksøker i en arbeidstvist.
«Den ankende part har sendt inn en video for sitt argument,» sa rettferdighet Sallie Manzanet-Daniels. «OK. Vi vil høre den videoen nå.»
På videoskjermen dukket det opp en smilende, ungdommelig utseende mann med en skulpturert frisyre, nedtur skjorte og genser.
«Måtte det glede retten,» begynte mannen. «Jeg kommer hit i dag en ydmyk pro -se før et panel med fem utmerkede rettferdigheter.»
«OK, hold på,» sa Manzanet-Daniels. «Er det råd for saken?»
«Jeg genererte det. Det er ikke en ekte person,» svarte DeWald.
Det var faktisk en avatar generert av kunstig intelligens. Dommeren var ikke fornøyd.
«Det hadde vært fint å vite at når du kom med søknaden din. Du fortalte meg ikke at sir,» sa Manzanet-Daniels før hun ropte over rommet for at videoen skulle slås av.
«Jeg setter ikke pris på å bli villedet,» sa hun før hun lot DeWald fortsette med argumentet.
DeWald skrev senere en unnskyldning til retten og sa at han ikke hadde hatt noen skade.
Han hadde ikke en advokat som representerte ham i søksmålet, så han måtte presentere sine juridiske argumenter selv.
Og han følte at avataren ville være i stand til å levere presentasjonen uten sin egen vanlige mumling, snublende og snuble over ord.
I et intervju med Associated Press sa DeWald at han søkte retten om tillatelse til å spille en forhåndsinnspilt video, og deretter brukte et produkt laget av et San Francisco Tech -selskap for å lage Avatar.
Opprinnelig prøvde han å generere en digital kopi som så ut som ham, men han klarte ikke å oppnå det før høringen.
«Retten var virkelig opprørt over det,» innrømmet Dewald. «De tygget meg ganske bra.»
Selv ekte advokater har kommet i trøbbel når bruken av kunstig intelligens gikk galt.
I juni 2023 ble to advokater og et advokatfirma bøtelagt $ 5000 av en føderal dommer i New York etter at de brukte et AI -verktøy for å gjøre juridisk forskning, og som et resultat avviklet med henvisning til fiktive juridiske saker som ble gjort opp av Chatbot.
Firmaet involverte sa at det hadde gjort en «god trosfeil» i å unnlate å forstå at kunstig intelligens kan gjøre opp ting.
Senere samme år ble mer fiktive rettsavgjørelser oppfunnet av AI sitert i juridiske artikler inngitt av advokater for Michael Cohen, en tidligere personlig advokat for president Donald Trump.
Cohen tok skylden og sa at han ikke var klar over at Google-verktøyet han brukte for juridisk forskning også var i stand til såkalte AI-hallusinasjoner.
Dette var feil, men Arizonas høyesterett i forrige måned begynte med vilje å bruke to AI-genererte avatarer, lik den som Dewald brukte i New York, for å oppsummere domstolens kjennelser for publikum.
På domstolens nettsted sier avatarene – som går etter «Daniel» og «Victoria» – at de er der «for å dele nyhetene.»
Daniel Shin, adjunkt og assisterende forskningsdirektør ved Center for Legal and Court Technology ved William & Mary Law School, sa at han ikke var overrasket over å lære om Dewalds introduksjon av en falsk person til å argumentere for en anke -sak i en domstol i New York.
«Fra mitt perspektiv var det uunngåelig,» sa han.
Han sa at det var usannsynlig at en advokat ville gjøre noe slikt på grunn av tradisjon og rettsregler og fordi de kunne bli disbarred.
Men han sa at enkeltpersoner som dukker opp uten advokat og ber om tillatelse til å adressere retten, vanligvis ikke er gitt instruksjoner om risikoen ved å bruke en syntetisk produsert video for å presentere saken.
DeWald sa at han prøver å følge med teknologi, etter å ha lyttet til et webinar sponset av American Bar Association som diskuterte bruken av AI i den juridiske verden.
Når det gjelder DeWalds sak, var den fremdeles i påvente for ankedomstolen fra torsdag.
