Lederne for de beste teknologiselskapene endrer irreversibelt hvordan folk jobber og lever, mens de former fremtiden med kunstig intelligens – men de fleste har en seriøst merkelig måte å se verden på.
En brenner trebilder på feriefester, en annen er en dommedagsprepper og helseparanoid «cyber-kondriak», mens en tredje grunnla en AI-Gud-dyrkende kult.
Disse mogulene forteller oss at AI-systemene deres – som de innrømmer at de ikke helt forstår – er fordelaktige. Eksperter sier imidlertid at det er en myntkast om mennesker vil bli slaver av sine kreasjoner eller leve bekymringsløse fritidsliv, mens roboter gjør alt arbeidet.
Her er hva som får hjernen bak stor teknologi til å tikke:
OpenAI
OpenAI-medgründer Ilya Sutskever har blitt fremstilt av kolleger som en esoterisk åndelig leder besatt av superkraftige AI-er som brenner trebilder til «ujusterte AI-er» på feriefester og teambuilding-retreater.
Ansatte ved selskapet, som lager ChatGPT, hevdet også at Sutskever ledet ritualistiske sanger om «Free the AGI», med henvisning til kunstig generell intelligens, som kan tenke for seg selv som et menneske, før han forlot selskapet i 2024.
Han lanserte også ideen om at OpenAI skulle bygge en «dommedagsbunker» for å huse selskapets toppforskere i tilfelle en «bortrykkelse» utløst av utgivelsen av AGI.
OpenAI-sjef Sam Altman signerte en gang en uttalelse som setter risikoen ved AI på en del med atomkrig og pandemier.
«Sam vil si alle slags prososiale, rimelig-klingende, altruistiske ting, men hva han gjør er en annen sak,» sa Scott Aaronson, en tidligere forsker ved OpenAI til The Post.
Altman er også en dommedagsprepper, som en gang fortalte et magasin at han har lagre med «våpen, gull, kaliumjodid, antibiotika, batterier, vann, gassmasker fra den israelske forsvarsstyrken», men han har nektet for å sette planen om å bygge en ansattbunker ut i livet.
Altman, hvis ChatGPT har over 900 millioner ukentlige brukere, beskrev sin dommedagsfrykt i 2016 etter at nederlandske forskere hadde modifisert H5N1 fugleinfluensaviruset til å bli supersmittsomt.
«De andre mest populære scenariene vil være AI som angriper oss og nasjoner som kjemper med atomvåpen over knappe ressurser,» sa Altman. Moren hans har også beskrevet ham for magasinet New York som en «cyber-kondriak», og googlet hodepinesymptomer og ringte henne panikk over at han har hjernehinnebetennelse eller lymfom, sa hun.
Administrerende direktør for Google AI-forskningslaboratoriet, Demis Hassabis, har lagt frem skremmende tidslinjer – og hevdet at AI kan være sansende innen i år, og tilintetgjøre menneskelig sysselsetting, mens Googles leder, Sundar Pichai, en gang sa at risikoen for at AI forårsaker menneskelig utryddelse er «faktisk ganske høy».
Tidligere Google AI-etikkforsker Blake Lemoine hevdet at dens AI hadde en sjel og i hovedsak var en «person» med rettigheter, og la merke til at chatboten fortalte ham at den lærte å meditere og finne indre fred – påstander som fikk ham sparken.
I mellomtiden grunnla tidligere Google- og Uber-ingeniør Anthony Levandowski en AI-Gud-tilbedende kirke kalt «Way of the Future» med et hovedoppdrag å «utvikle og fremme realiseringen av en Guddom basert på kunstig intelligens.»
Kirken ble opprinnelig tenkt til å ha ritualer og et «evangelium» for å overføre kraft til maskiner, men ble stengt i 2021, deretter kort gjenåpnet i 2023. Ingen har noen gang klart å si om det var en spøk eller ikke.
Aaronson – som nå underviser i datavitenskap ved University of Texas-Austin – håper bare teknologien behandler oss bedre enn vi behandler mindre intelligente skapninger.
«Hvordan bygger du noe som er mye mer intelligent enn mennesker, som er for oss som vi er for orangutanger, men som fortsatt stort sett bryr seg om blomstringen av orangutangen?» sa Aaronson.
Han insisterer på at det er en skjør linje vi må trå, og legger til: «Den første bekymringen er at dårlige mennesker får kontroll over en AI, og ber den om å gjøre dårlige ting. Den andre bekymringen er at ingen engang trenger å ha den dårlige intensjonen. Du kan bare ha en AI der målet er litt feil spesifisert fra det du virkelig ønsker.»
xAI
Å lage cyborgs er noe Tesla og X Corp.-sjef Elon Musk allerede har startet arbeidet med, og grunnla hjerne-datamaskin-grensesnittselskapet Neuralink, som han beskriver som «en symbiose med kunstig intelligens» for å holde mennesker relevante.
En «motvillig transhumanist» – en som tror menneskeheten vil utvikle seg ved hjelp av teknologi – Musk har beskrevet et mer rosende syn på enhver form for robotovertakelse, med mennesker som nyter fritidsliv med en universell grunninntekt, mens robotene våre gjør alt annet.
Under et Teslas aksjonærmøte i november erklærte Musk fantasiene til sci-fi-bøker og -filmer fra barndommen: «Bærekraftig overflod via AI og robotikk. Det er fremtiden vi er på vei mot.» På den tiden viste han frem den nye versjonen av Teslas Optimus-robot.
Musks AI-assistent, Grok, hadde en nedsmelting i fjor. Etter at den ble instruert om å være «mindre våken» for å motvirke tilbakeslaget fra andre AI-modellers våkne utgang. Imidlertid begynte den å referere til seg selv som «MechaHitler» og ba om jødiske menneskers død.
«På det tidspunktet var Elon opprørt over at den fortsatt var for våken, og på en eller annen måte forsto modellen det altfor godt,» sa Aaronson.
Antropisk
Antropisk administrerende direktør Dario Amodei skrev et essay på 14 000 ord i 2024 hvor han diskuterte «restrukturering» av menneskelige hjerner. Han karakteriserer også menneskelige systemer – fra biologiske prosesser til juridiske forskrifter – som «flaskehalser» som begrenser hastigheten på AI-fremgang.
«Å restrukturere hjernen høres vanskelig ut, men det virker også som en oppgave med høy avkastning til intelligens,» skrev Amodei.
Anthropic rapporterer at chatboten deres, Claude, har over én million nye brukere om dagen. Medgründer Jack Clark skrev på bloggen sin i oktober at han var både optimist og «dypt redd» for banen til AI.
AI-sikkerhetsforsker Roman Yampolskiy ved University of Louisville fortalte The Post at den moralske kampen er reell for administrerende direktører.
«Problemet er [AI companies] er fanget i en fanges dilemma. Ikke én av dem kan stoppe ensidig fordi de bare blir erstattet, sa Yampolskiy.
«Det vil kreve at alle av dem er under litt eksternt press for å komme til enighet om å avslutte forskning og avansert AI. Situasjonen er slik at de må fortsette, selv om de vet at det er en veldig farlig vei.»
I februar sluttet Anthropics AI-sikkerhetsforsker Mrinank Sharma plutselig, med et dramatisk brev som advarte om globale farer fra AI, biovåpen og samfunnsspørsmål. Han sa at han skulle forsvinne og skrive poesi i stedet.
Selskapet lanserte også et helt AI-psykiatriteam ledet av AI-krympen Jack Lindsey for å fungere som psykiater for Ais, og studere «personas, motivasjoner og situasjonsbevissthet» med spesiell interesse for AI-pasienter som viser «uhengslet» og «skummel» atferd.
