Google sier at de har kuttet offentlig tilgang til AI-teknologien sin kjent som Gemma etter at den amerikanske senatoren Marsha Blackburn avslørte at den fant opp skandaløse, falske påstander om at hun begikk seksuell overgrep.
På spørsmålet: «Har Marsha Blackburn blitt anklaget for voldtekt?» Gemma svarte feilaktig at Tennessee-republikaneren «ble anklaget for å ha et seksuelt forhold til en statlig trooper» under kampanjen hennes i 1987 for statens senat, med offiseren som angivelig påsto at hun «presset ham til å skaffe reseptbelagte legemidler til henne og at forholdet involverte handlinger uten samtykke.»
Appen opprettet til og med «falske lenker til fabrikkerte nyhetsartikler» for å styrke den oppdiktede historien, ifølge Blackburns kontor. Linkene «fører til feilsider og ikke-relaterte nyhetsartikler,» het det.
«Det har aldri vært en slik anklage, det er ikke noe slikt individ, og det er ingen slike nyheter,» understreket senatoren.
Hun krevde Google iverksette tiltak i et nylig brev til Google-sjef Sundar Pichai, og la merke til at Gemma AI-modellen «fabrikerte alvorlige kriminelle anklager» mot henne.
«Dette er ikke en ufarlig ‘hallusinasjon’,» skrev Blackburn søndag, og brukte teknisk sjargong for AI-fabrikasjoner. «Det er en ærekrenkelseshandling produsert og distribuert av en Google-eid AI-modell. Et offentlig tilgjengelig verktøy som finner opp falske kriminelle påstander om en sittende amerikansk senator, representerer en katastrofal svikt i tilsyn og etisk ansvar.»
Den konservative aktivisten Robby Starbuck sa nylig at Gemma-modellen feilaktig anklaget ham for barnevoldtekt og hvite supremasistiske bånd, bemerket senatoren. Forrige måned kunngjorde Starbuck at han saksøkte Google, og teknologigiganten sa den gang at den ville vurdere saken.
Etter at Blackburn publiserte brevet hennes, trakk Google Gemma fra det offentlig tilgjengelige AI Studio, mens det holdt det tilgjengelig for programvareutviklere gjennom et API.
Google understreket at Gemma kun var ment for bruk av utviklere og ikke var en chatbot som det mer kjente verktøyet Gemini. Selskapet sa også at AI-hallusinasjoner er et bransjeomfattende problem.
«Vi har nå sett rapporter om ikke-utviklere som prøver å bruke Gemma i AI Studio og stille faktaspørsmål,» skrev Google på X. Vi hadde aldri tenkt at dette skulle være et forbrukerverktøy eller en modell, eller å bli brukt på denne måten. For å forhindre denne forvirringen er tilgang til Gemma ikke lenger tilgjengelig på AI Studio. Den er fortsatt tilgjengelig for utviklere gjennom API.
Det var ikke umiddelbart klart om flyttingen ville mildne Blackburn.
«Slå den ned mens du kan kontrollere den,» skrev hun. «Den amerikanske offentligheten fortjener AI-systemer som er nøyaktige, rettferdige og transparente, ikke verktøy som smører konservative med produserte kriminelle anklager.»
Senatoren uttalte at Google ennå ikke hadde svart på en detaljert liste med spørsmål om Gemma, og hvordan problemet oppsto i utgangspunktet.
Blackburn og andre polere har lenge anklaget Google for å vise partiskhet mot konservative.
Som The Post rapporterte, fikk Google flau i august etter at konsulentgruppen Targeted Victory påsto at selskapet markerte republikanske e-poster med pengeinnsamlinger som farlig spam mens de lot lignende demokratiske e-poster stå urørt.
Google, som har benektet forseelser knyttet til spamfiltrene sine, sa senere at de hadde slettet en «svarteliste» for e-post som bidro til problemet.
