Nvidia-chef: Vi ville stoppe salg, hvis AI sikkert skader mennesker

Nvidias topchef, Jensen Huang, ville stoppe med at levere chips til et AI-laboratorium, hvis det stod klart, at teknologien bruges til at skade mennesker. Det sagde han i et interview med Bloombergs Emily Chang i London.

Huang blev spurgt, om Nvidia ville holde op med at sælge til et AI-laboratorium, hvis han mente, det gjorde noget for farligt. Han kaldte spørgsmålet hypotetisk, men svarede, at Nvidia selvfølgelig ville gøre det.

Samtale først

Huang understregede, at Nvidia først ville tage en samtale med kunden. Nvidia styrer ikke andres virksomheder, og der er grænser for, hvor meget Nvidia kan vurdere andres brug af sin teknologi. Han kaldte teknologien generelt anvendelig og sagde, at det stort set er uden for rammerne at påtvinge andre virksomheder, institutioner eller lande Nvidias værdier.

Men hvis det var sikkert, at en anvendelse bringer skade over mennesker, ville Nvidia stoppe, sagde han. Nvidia har ikke annonceret kriterier eller en fast procedure for, hvornår en kunde kan blive afskåret.

Sikkerhed og kapacitet hænger sammen

Huang mener, at det er en fejl at behandle AI-kapacitet og AI-sikkerhed som to adskilte samtaler. Han vil fremskynde udviklingen af »open shell«, teknologi til at indeslutte AI-systemer og overvåge dem, blandt andet ved at lade AI overvåge AI.

Han mener også, at branchens fortælling om, at AI er ude af kontrol, er forkert. Ifølge ham har de unge AI-selskaber et ansvar, som de er ved at vokse ind i.

Suverænitet og penge

Huang afviste, at AI bygget på amerikanske chips ikke kan være suveræn. Ifølge ham handler suverænitet om at kontrollere egne data og erfaringer, om at ingen kan nægte én service, og om at have handlekraft. Computeren kalder han blot et instrument.

Han sagde desuden, at prisen på et token, en lille enhed tekst som AI-modeller regner i, falder 30-40 gange om året. Anthropic og OpenAI omtalte han som de hurtigst voksende teknologiselskaber nogensinde med reel omsætning og profit. Han forventer, at deres børsnoteringer giver dem mange penge til vækst. Det er Huangs egne udsagn, og de er ikke uafhængigt dokumenteret.

Emily Chang nævnte, at over 100 datacenterprojekter i USA er blokeret eller forsinket i år, og at flere AI-børsnoteringer er udsat eller droppet. Hun påpegede også, at Nvidia er storinvestor i og kunde hos både Anthropic og OpenAI.