AI-forsker vil sætte OpenAI på pause - myndighederne har ikke reageret endnu

AI-forskeren Gary Marcus har bedt amerikanske myndigheder om at sætte en pause i OpenAI's drift. Hans argument: virksomhedens ledelse, med Sam Altman og Greg Brockman i spidsen, kan ikke betros ansvaret for teknologien, de bygger.

Han peger blandt andet på, at OpenAI valgte at udgive modellen Astra, selvom data ifølge Marcus viste, at man havde ringere indblik i AI'ens "ræsonnement" end tidligere - et vigtigt sikkerhedsredskab. Han nævner også en hændelse, som OpenAI angiveligt holdt hemmelig i flere uger.

Som løsning foreslår Marcus en model, der minder om konkursbehandling: en udenforstående overtager styringen af OpenAI, indtil de grundlæggende problemer er løst. Han vurderer selv, at der er over 50 procents sandsynlighed for et større cyberangreb med relation til OpenAI inden for det næste år.

For dig som bruger eller virksomhed ændrer det ikke noget lige nu. Det er en opfordring fra én markant kritisk stemme i AI-branchen - ikke en afgørelse fra Kongressen eller Det Hvide Hus.

Hold øje med, om amerikanske myndigheder rent faktisk reagerer, eller om OpenAI selv kommenterer den påståede skjulte hændelse. Sker det, er det værd at følge tættere. Indtil da: rolig venten er den rette respons.