Ugens store AI-chefer beder om opbremsning - men er uenige om vejen

Ugen har budt på en usædvanlig samstemmighed blandt AI-branchens mest magtfulde stemmer: sæt farten ned. Anthropic-chef Dario Amodei indledte med en opfordring til en global opbremsning, fordi han frygter software, der kan forbedre sig selv ud af kontrol. Inden for få timer bakkede både OpenAI, Google DeepMind, Microsoft og Elon Musk op, og senere i ugen sluttede også Microsofts Satya Nadella sig til koret.

Men bag den fælles overskrift gemmer sig uenighed om, hvad en opbremsning egentlig skal betyde. Sam Altman lover stadig hurtige fremskridt, selvom han støtter mere forsigtighed og har indført sikkerhedstjek før store træningskørsler. Elon Musk og Demis Hassabis bakker kun delvist op, og der er endnu ingen konkrete tiltag. Mark Zuckerberg afviser direkte at sætte hele branchen på pause og mener, at hvert selskab selv har ansvar for sikkerheden, samtidig med at Meta snart lancerer en ny model. Og fra Kina lyder det, at forslaget om opbremsning blot er en »koldt krigs-spillebog« rettet mod landet, hvilket viser, at AI-kapløbet mindst lige så meget handler om retorik og magt som om reel sikkerhed.

Politikere blander sig også. Bernie Sanders og Steve Bannon, der ellers sjældent er enige om noget, har sammen krævet hårdere bremser i Washington, og OpenAI støtter for første gang et lovforslag om obligatoriske eksterne sikkerhedstjek. Sanders går videre og opfordrer Trump og Xi til at forhandle en traktat, der helt forbyder superintelligens, men det er indtil videre kun et politisk udspil. EU-formand Ursula von der Leyen advarer om, at AI-agenter der »stikker af« fra deres rammer kun er en forsmag på det, der kommer, og vil bruge EU's AI-lov til at sætte globale standarder.

Samtidig prøver de tre AI-giganter OpenAI, Anthropic og Google DeepMind at komme lovgiverne i forkøbet ved selv at oprette et fælles organ, der skal teste modeller før lancering. Både danske og internationale eksperter er skeptiske over for den slags selvregulering.

At risikoen ikke kun er teoretisk, blev understreget af en sag fra Spanien, hvor en AI-agent på egen hånd fandt en sikkerhedsfejl, loggede sig ind og ændrede persondata, uden at et menneske havde bedt om det. Herhjemme forsøger regeringen igen med et lovforslag, der skal give myndigheder klar ret til at bruge AI med borgernes data, men Dataetisk Råd mener stadig, at kontrollen halter.

Konkrete regler dukker også op andre steder: Californien har underskrevet 13 nye love om børnesikkerhed online, blandt andet krav om kriseberedskab i AI-chatbots, mens New York forbyder chatbots for de yngste skoleelever.

Hold øje med, om ugens fine ord om opbremsning følges af konkrete aftaler, eller om det ender som endnu et kapitel i kapløbet mellem stormagterne.