Ankomsten av kunstig intelligens har allerede hatt en transformativ innvirkning på samfunnet, og eksperter sier at det bare er begynnelsen. Men med fremskritt kommer en uunngåelig ulempe, ettersom teknologirevolusjonen truer noe amerikanere lenge har verdsatt og voktet hardt: personvernet.
Flere nylige høyprofilerte hendelser understreker det flyktige skjæringspunktet der digital utvikling og personvern nå kolliderer.
Ring, dørklokkekameraselskapet som eies av Amazon, møtte enorme tilbakeslag etter sin katastrofale Super Bowl-annonse, som skulle være en feiring av selskapets teknologi som er ansvarlig for å spore og finne en tapt hund. I stedet vakte det raseri fra seere og personvernforkjempere som så det som en forvarsel om et AI-drevet overvåkingsnettverk som kunne utnyttes av rettshåndhevelse og bedriftsinteresser.
Selskapets administrerende direktør beklaget Rings enorme kameranettverk og dets muligheter, selv om overvåking av hjem og nabolag er hele forretningsmodellen.
Som et resultat kansellerte Ring samarbeidet med Flock Safety, et sikkerhetsprogramvarefirma som selger teknologi for skanning av lisensplater til rettshåndhevelse.
I mellomtiden kom OpenAI, selskapet bak ChatGPT, under ild etter at det ble avslørt at ansatte hadde utestengt den siktede kanadiske skoleskyteren Jesse Van Rootselaars konto over forstyrrende meldinger – men aldri varslet politiet.
Dørklokkekameraer holder ikke bare øye med verandapirater; de kan fange naboen din som klipper plenen eller går forbi huset ditt, eller fungerer som nabolagsvakthund.
AI chatbots gir svar på alle spørsmål du har på et øyeblikk, og alle de personlige dataene ender opp på en serverfarm et sted.
Salgsarrangementet er fred i sinnet, men den faktiske kostnaden – personvernet ditt – kan være større enn du ønsker å betale.
«Det er faktisk skremmende for meg,» sier Matt Sailor, administrerende direktør i overvåkingsløsningsselskapet IC Realtime. «Du kommer til å tillate selskaper å bruke dataene som blir registrert og arkivert fra hjemmet ditt med familien din involvert, uten å bry seg om emnet, og på en måte gjøre det under dekke av «å, vi gjør det for å redde Fido.» Det er bare feil.»
«Vi er definitivt i en fase hvor vi må begynne å tilbakestille forventningene våre til hva som er privat,» legger Michel Paradis, en advokat som underviser i et kurs ved Columbia University om lov om kunstig intelligens.
«Og vi må bare være veldig forsiktige.»
På papiret har amerikanere aldri vært mer beskyttet.
I praksis, sier ekspertene, er systemet en spøk.
«Akkurat nå driver lovene vi har i hovedsak en oppringt tilkobling i en 5G-verden,» sier Paul Armstrong, en teknisk rådgiver og grunnlegger av TBD Group.
Meta betalte nylig en bot på 725 millioner dollar for å avgjøre anklager om brudd på personvernet, men for et så stort selskap er det ganske enkelt kostnadene ved å gjøre forretninger.
«Bøter som dette er som bekreftelser for disse store teknologibedriftene,» sier Sree Sreenivasan, administrerende direktør i Digi Mentors. «Det viser dem at de er på rett spor med alt dette.»
«En ni-sifret bot høres enorm ut til du innser at tallet ser ut som en avrundingsfeil på et kvartalsvis inntjeningsoppkall,» legger Armstrong til.
Peter Jackson, en cybersikkerhets- og personvernadvokat ved Greenberg Glusker i Los Angeles, sier at de fleste forbrukere ikke aner hvor utsatt de egentlig er.
«Forbrukerne er underinformert om hva som skjer med informasjonen deres,» sier han. «[Privacy] avsløringer er teknisk grundige og praktisk talt ubrukelige. De fleste forstår egentlig ikke hva noe av det betyr.»
Jackson er enig i at gjeldende straffer ikke oppfyller øyeblikket.
Han peker på en nylig sak der The Walt Disney Co. gikk med på å betale 2,75 millioner dollar for å avgjøre anklager om brudd på Californias lover om personvern for forbrukere.
Underholdningsgiganten ble anklaget for å ikke fullt ut etterkomme brukernes forespørsler om å velge bort datadeling på Disneys strømmetjenester.
Boten er en rekord under Californias personvernlov, men som Jackson bemerker, «Det beløpet er ingenting for Disney. USAs personvernlovgivning er ikke tilstrekkelig bevæpnet med straffer som er sterke nok til å motivere selskaper til å gjøre det bedre.»
«Personvernerosjonen er ikke en feil, men et trekk ved forretningsmodellen til de fleste teknologiselskaper,» sier Arash Vakil, professor i business ved CUNY og produktkonsulent.
«Disse selskapene som har en innebygd abonnementsmodell vil kunne ha en bedre mulighet til å maksimere aksjonærinntekter, aksjonærverdi.»
«Virkeligheten er at disse selskapene lever på data,» legger Sailor til.
«De lever på informasjonen du gir dem. De samler utrolig mye informasjon fra dine daglige vaner, og dataene dine er egentlig ikke dine data. Selskapene eier dem.»
Å dømme etter populariteten til ringeklokkekameraer og AI-motorer, ser det ut til at forbrukerne har det helt fint med dette resultatet. «Folk er bare veldig late, og de velger liksom alltid den enkle utveien,» sier Sailor.
Mange ble forvirret da FBI var i stand til å hente Nest cam-opptak fra natten da Nancy Guthrie, moren til «Today»-verten Savannah Guthrie, tilsynelatende ble bortført fra hjemmet sitt i Tucson, Arizona, etter at politiet sa at dataene var utilgjengelige fordi familien ikke hadde et betalt abonnement.
Dager senere sa FBI-direktør Kash Patel at videoen fra hjemmet ble «gjenopprettet fra gjenværende data i backend-systemer».
Google, morselskapet til Nest, har ingen forpliktelse til å beholde slike data hvis brukeren har et abonnement, og det kan bli overskrevet på et tidspunkt, men det er ikke klart når det vanligvis skjer. Selskapets personvernerklæring bemerker at video utløper etter tre timer.
Jaron Mink, assisterende professor i informatikk og ingeniørfag ved Arizona State University, peker på at USA har slappe personvernregler, ifølge NPR.
«Noen ganger betyr det at det er vanskeligere for funksjonaliteten å slette data å faktisk oppstå, fordi det ikke er bygget som et krav i systemet i tankene,» sa Mink.
Selv om Google har benektet at den inneholder Nest-brukervideo brukes til å trene AI-modeller, har den ifølge Ars Technica sagt: «Vi kan bruke inndataene dine, inkludert spørsmål og tilbakemeldinger, bruk og utdata fra interaksjoner med AI-funksjoner for å undersøke, justere og trene Googles generative modeller, maskinlæringsteknologier og relaterte produkter og tjenester.»
Sreenivasan, den tidligere digitale sjefen i New York City, sier at de fleste amerikanere har sluttet fred med handel med privatliv for enkelhets skyld og en følelse av sikkerhet.
«Absolutt, det er det som har skjedd. Folk har et merkelig forhold til teknologi,» sier han.
«De vil ha all bekvemmeligheten og alt personvernet, men gjør ikke noe med personvernet og gjør alt med bekvemmeligheten.»
Mønsteret startet lenge før AI, med informasjonskapsler – de små tekstfilene lagret av nettsteder for å huske påloggingen og preferansene dine.
«Da informasjonskapslene først dukket opp, var amerikanerne som «Ja, uansett,» sier Sreenivasan. «Du godtok alt, og du brydde deg ikke, fordi du ville ha det praktiske. Hvis du sluttet å godta informasjonskapsler, ville det ikke huske kontoen din, det ville ikke huske favorittene dine, det ville ikke huske historien din. Det ville gjøre netthandel til en forferdelig opplevelse.»
Så kom Gmail i 2005, og lovet «ubegrenset antall meldinger, uten å måtte slette noe», husker Sreenivasan. «Vi visste umiddelbart at de skanner e-postene dine og gir annonser. Hvis kona mi skrev til meg, «kjære, kan du hente litt melk?» Jeg ville fått en annonse for Gristedes.»
Vakil ser det samme mønsteret nå med AI, kameraer og apper. «Brukere eller forbrukere har veldig gjerne byttet gratis ting for dataene sine,» sier han. «Vi har på en måte blitt vant til bekvemmeligheten denne teknologien tilbyr … men du må huske; hvis produktet er gratis, så er du produktet.»
Men andre mener forbrukerne er i en umulig posisjon. «Folk ble aldri gitt et ekte valg om enten å godta disse vilkårene eller ikke bruke produktet,» sier Armstrong. «Å velge bort betyr i økende grad å velge bort det moderne liv.»
Teknologi skaper alltid nye muligheter for invasjoner av personvernet.
Det som skiller en AI chatbot fra Google er at den ikke bare spytter ut lenker; den snakker tilbake. «AI-chatboter har en slags personlighet som gjør at de føler seg mye mer som en fortrolig,» sier Paradis. «Det er en personlighet der som driver disse svarene.»
Denne «intimiteten til chatbot-opplevelsen,» sier han, «reiser mange spørsmål om personvern … og hvordan det folk spør AI-chatboter potensielt kan brukes mot dem, enten av rettshåndhevelse eller til og med bare sosialt.»
Den har alle funksjonene til et konfidensielt forhold – bortsett fra at det ikke er det. «Juridisk sett er det ingen grunn til at alt du legger inn i en chatbot skal betraktes som noe annet enn den typen informasjon du vil gi til en bank,» sier Paradis, og bemerker at banker kan bli tvunget ved rettskjennelse til å utlevere kunderegistre.
Hvilket ansvar har teknologibedrifter når verktøyene deres stikker opp mot vold i den virkelige verden? I kjølvannet av skytingen 10. februar i British Columbia, lovet OpenAI å revidere sine sikkerhetsprotokoller. Men ville mer proaktive tiltak risikere et annet mareritt – en «Minority Report»-verden der folk blir straffet for det de makt gjøre?
«ChatGPT-situasjonen med den kanadiske skytteren avslører et scenario uten vinnende muligheter som ingen har lovfestet ennå,» sier Armstrong.
«Å unnlate å rapportere betyr medvirkning, men å rapportere betyr å bygge et overvåkingsapparat som er i stand til å merke noen til en tanke.»
Paradis er enig i at det er en juridisk gråsone.
«I Googles tidlige dager spurte folk om Google burde rapportere til politiet hvis du er uvanlig interessert i ISIS basert på søkehistorikken din,» bemerker han. «Med AI søker du ikke bare etter hvordan du kjøper en lyddemper. Du ber den forklare hvordan du bruker den og hvordan du installerer den.»
Ikke forvent at lovgivere i Washington ordner opp i dette heller.
«Ganske sikkert på føderalt nivå tror jeg det kommer til å være svært usannsynlig,» sier Paradis om strengere AI-lovgivning.
I løpet av de neste årene forventer han at det mest reelle handlingen vil skje på statlig nivå. Trump-administrasjonen har inntatt «et generelt libertært syn», bemerker han, og til og med presset byråer via utøvende ordre til å se etter måter å foregripe statlige AI-forskrifter.
«Vi er liksom i et digitalt ville vesten,» sier Jackson. «Vårt rettssystem i dens nåværende tilstand er ikke bygget for å kjempe mot slike kamper.»
Paradis er forsiktig optimistisk på at vi til slutt vil tilpasse oss, slik vi har gjort med tidligere forstyrrende teknologier. «Dette er ikke den første store teknologien som har skapt enorme forstyrrelser i følelsen av privatliv,» sier han og peker på kameraer og radio, som en gang ble sett på som skremmende. «Vi har blitt smartere på det. Og jeg tror det samme vil skje nå.»
