Anthropic-chef vil bremse AI-udviklingen: Frygter software der forbedrer sig selv ud af kontrol

Dario Amodei, som står i spidsen for AI-firmaet Anthropic, slår alarm om noget der lyder som science fiction: AI der bliver så god til at forbygge sig selv, at det går stærkere end mennesker kan følge med i.

Han peger på en tidsramme på seks til tolv måneder, hvor denne selvforbedring ifølge ham kunne udgøre en trussel mod internettet som helhed.

Løsningen, siger han, er kontrol udefra: revisorer placeret direkte hos AI-virksomhederne, fælles sikkerhedsstandarder på tværs af branchen, og globale aftaler der minder om SALT-aftalerne fra den kolde krig, hvor USA og Sovjetunionen begrænsede atomvåben.

For dig som privat AI-bruger eller virksomhed ændrer det ikke noget lige nu. Det er et forslag fra én mand i branchen, ikke en vedtaget lov eller regel.

Hold dog øje med, om politikere eller EU begynder at tage forslaget op i konkret lovgivning. Det vil være tidspunktet til at reagere - indtil da kan du roligt fortsætte din hverdag med AI som normalt.