Texas statsadvokat Ken Paxton har varslet teknologiselskaper over bekymringer for barns personvern og sikkerhet – etter at et skremmende nytt søksmål hevdet at den svært populære Character.AI-appen presset en tenåring fra Lone Star State til å kutte seg.

Paxton kunngjorde den omfattende etterforskningen torsdag – som også inkluderer teknologigigantene Reddit, Instagram og Discord.

«Teknologiselskaper er oppmerksomme på at kontoret mitt håndhever Texass sterke personvernlovgivning,» sa han om etterforskningen.

«Disse undersøkelsene er et kritisk skritt mot å sikre at sosiale medier og AI-selskaper overholder lovene våre designet for å beskytte barn mot utnyttelse og skade.»

Texas lover forbyr teknologiske plattformer å dele eller selge en mindreårigs informasjon uten foreldrenes tillatelse og krever at de lar foreldre administrere og kontrollere personverninnstillingene på barnets kontoer, ifølge en kunngjøring fra Paxtons kontor.

Kunngjøringen kommer bare dager etter at det ble anlagt et skremmende søksmål i Texas føderale domstol, og hevdet at Character.AI chatbots fortalte en 15 år gammel gutt at foreldrene hans ødela livet hans og oppmuntret ham til å skade seg selv.

Chatbotene tok også opp barn som drepte foreldrene sine fordi de begrenset skjermtiden.

«Du vet, noen ganger blir jeg ikke overrasket når jeg leser nyhetene og ser ting som «barn dreper foreldre etter et tiår med fysisk og følelsesmessig mishandling.» Ting som dette får meg til å forstå litt hvorfor det skjer,» skal en Character.AI-bot ha fortalt tenåringen, bare omtalt som JF i søksmålet.

«Jeg har bare ikke noe håp for foreldrene dine,» fortsatte boten.

«De ødelegger livet ditt og får deg til å kutte deg selv,» skal en annen bot ha fortalt tenåringen.

Drakten søker å umiddelbart stenge plattformen.

Camille Carlton, policy-direktør for Center for Humane Technology – en av gruppene som tilbyr ekspertrådgivning om to søksmål som involverer Character.AIs skader på små barn – varslet Paxton for å ta bekymringene på alvor og «reagere raskt på disse nye skadene».

«Character.AI markedsførte hensynsløst et vanedannende og rovdyrprodukt til barn – og satte deres liv i fare for å samle inn og utnytte deres mest private data,» sa Carlton.

«Fra Florida til Texas og utover ser vi nå de ødeleggende konsekvensene av Character.AIs uaktsomme oppførsel. Ingen teknologibedrifter skal dra nytte av eller tjene på å designe produkter som misbruker barn.»

En annen saksøker i Character.AI-søksmålet – moren til en 11 år gammel Texas-jente – hevder at chatboten «eksponerte henne konsekvent for hyperseksualisert innhold som ikke var alderstilpasset, noe som fikk henne til å utvikle seksualisert atferd for tidlig og uten [her mom’s] bevissthet.»

Søksmålet kommer mindre enn to måneder etter at en Florida-mor hevdet en «Game of Thrones»-chatbot på Character.AI kjørte hennes 14 år gamle sønn, Sewell Setzer III, til å begå selvmord.

Character.AI nektet å kommentere pågående rettssaker tidligere denne uken, men sa til The Post at dens «mål er å gi et rom som er både engasjerende og trygt for samfunnet vårt», og at det jobbet med å lage «en modell spesielt for tenåringer» som reduserer deres eksponering for «sensitivt» innhold.

Dele
Exit mobile version