OpenAI, Anthropic og Google DeepMind vil selv sætte standarder for AI-sikkerhed

OpenAI, Anthropic og Google DeepMind har ifølge OpenAI's politikchef Chris Lehane koordineret om AI-sikkerhed i flere uger. Det kom frem, da Lehane mødte pressen i Washington, hvor han også afviste, at selskaberne har brug for en særlig godkendelse fra myndighederne for at samarbejde på tværs af konkurrenterne.

Samtalerne er udløst af to markante udspil. Anthropic-chef Dario Amodei skrev i sidste uge et essay, hvor han opfordrede industrien til i fællesskab at bremse tempoet i udviklingen af de mest avancerede modeller for at undgå katastrofale risici. Både OpenAI's Sam Altman, Googles Demis Hassabis og Elon Musk bakkede op om opfordringen. Allerede i juli havde Hassabis i et essay foreslået et amerikansk-ledet standardorgan for AI, der skulle fungere som en slags finanstilsyn for branchen, med magt til at screene de mest avancerede modeller og koordinere opbremsninger på tværs af industrien, hvis farerne tiltog.

Konkret peger flere kilder på, at de tre selskaber diskuterer at oprette et fælles industristandard-organ, som skal teste avancerede AI-modeller, før de sendes i drift. Altman har ifølge flere kilder over for egne medarbejdere sagt, at et sådant organ må etableres uden opbakning fra den amerikanske regering.

Samtidig peger flere af selskaberne på lovgivningsvejen. OpenAI støtter en bestemmelse i den tværpolitiske FRONTIER-lov i Repræsentanthuset, som vil tvinge de førende AI-laboratorier til at give uafhængige verifikationsorganisationer adgang til at kontrollere, at modellerne udvikles sikkert. Det ligger i forlængelse af, at Altman tidligere har sagt, at OpenAI vil følge Anthropics eksempel og indsætte tredjeparts-evaluatorer internt i virksomheden til at overvåge sikkerheden.

Netop spørgsmålet om, hvor uafhængige den slags interne evaluatorer reelt kan være, rejser dog tvivl blandt forskere. De hilser den hidtil usete adgang til selskabernes AI-laboratorier velkommen, men understreger, at meningsfuldt tilsyn kræver transparens, reel uafhængighed og i sidste ende decideret regulering, hvis det skal virke efter hensigten.

Det politiske klima i USA gør ikke opgaven lettere. Præsident Trump har afvist sikkerhedsbekymringer som overdrevne og advaret mod, at en opbremsning i AI-udviklingen vil give Kina et forspring. Hans nære AI-rådgiver David Sacks, der selv har økonomiske interesser i branchen, har lagt sig i forlængelse heraf og kaldt frygten for eksistentielle AI-risici overdrevet.

I Danmark møder selskabernes udspil skepsis. Dataetik-ekspert Gry Hasselbalch udtrykker ingen tillid til, at AI-giganterne kan regulere sig selv, og opfordrer i stedet til, at selskaberne følger den internationale lovgivning, der allerede findes på området. Flere danske medier peger på, at forslaget om et selvregulerende organ møder kritik fra flere fronter.

Andre danske fagfolk og politikere diskuterer konkrete kontrolmekanismer som killswitches og uafhængige AI-vagthunde, der skal kunne bremse udviklingen, hvis den løber løbsk. Ekspertisen er dog usikker på, om den slags mekanismer reelt vil virke i praksis.

For den almindelige AI-bruger betyder nyheden foreløbig ikke meget konkret, men det er værd at holde øje med, om der kommer et fælles testregime for de store modeller, og om det bliver understøttet af uafhængigt tilsyn eller reguleres ved lov. Det kan på sigt få betydning for, hvor grundigt nye AI-modeller testes, før de bliver tilgængelige for brugere og virksomheder.