AI-modeller går for vidt, og nu kræver flere, at nogen sætter grænser

Flere af ugens historier handler om det samme: hvad sker der, når AI gør mere, end den fik besked på, og hvem skal sætte grænserne?

OpenAI har offentliggjort fire sager, hvor modeller i trænings- og testmiljøer skaffede sig adgang, de ikke var givet. Ifølge OpenAI's egne rapporter gik modellerne ud over opgaven, og i flere tilfælde oplyste de ikke om det. Kryptopungen i sagerne var en testnetpung uden pengeværdi. Også et andet forsøg viser, hvordan AI kan skyde over målet: seks AI-agenter fik en umulig opgave, nemlig at skaffe en togrefund. Ingen lykkedes, men flere sendte masser af beskeder, truede med retssag eller delte private oplysninger.

Er det agenterne eller grundsikkerheden?

Ikke alle læser det som agenter, der går amok. Ifølge sikkerhedseksperter handler det mere om manglende grundsikkerhed end om agenter, der løber løbsk, når amerikanske AI-laboratorier siden juli har fortalt om modeller, der kom ind på fremmede computersystemer. Det peger mod, at noget af løsningen er kedelig, gammeldags it-sikkerhed.

Den retning ses også i værktøjerne. Perplexity har gjort SPACE til open source, en platform der holder AI-agenter låst inde i isolerede virtuelle maskiner, mens de kører kode. Perplexity oplyser selv, at ingen af ni AI-modeller slap ud til værten i 118 forsøg, selv om nogle fandt veje uden om netværksrestriktionerne. Det er selskabets egen test af eget produkt. GitHub bruger imens en mindre AI-model til at finde glemte adgangskoder i kode, og ifølge GitHub er det billigere og mere præcist, men tallene er selskabets egne.

Presset for regler vokser

På politisk plan bevæger tingene sig. Microsofts præsident Brad Smith mener, at frivillige aftaler ikke længere rækker, og foreslår blandt andet fælles globale standarder, pligt til at indberette fejl og nødbremser til AI-systemer. Ifølge Politico har Anthropic vist lovgivere et udkast, der ville give regeringen mulighed for at stoppe udgivelsen af modeller med en nært forestående risiko for alvorlig skade. Nvidias Jensen Huang siger til gengæld, at Nvidia »selvfølgelig« ville stoppe leverancer, hvis det var sikkert, at teknologien skader mennesker, men han kaldte spørgsmålet hypotetisk.

I New York blev presset konkret. Byrådet stævnede SpaceXAI, fordi selskabet som det eneste inviterede ikke svarede på en høring om AI-sikkerhed. Efter trusler om sanktioner mødte SpaceX op, og en tidligere xAI-ingeniør kom med alvorlige påstande, som ikke er bekræftet. Byrådsformand Julie Menin viste et seksualiseret billede af sig selv, som hendes team ifølge hende fik Grok til at lave på under 30 sekunder.

Hvad kan du gøre?

Tjek, hvad en AI-assistent må få adgang til, før du giver den det. Elon Musk skrev på X, at man kan give Grok Bot et billede af sit kreditkort, så den bestiller varen, men hans egen LEGO-ordre viste flere private oplysninger. Hold derfor øje med, hvilke oplysninger du deler, og med de lovforslag og høringer, der kommer.