Ugen hvor AI fik mere magt end kontrol

Ugen har handlet om magt og kontrol med kunstig intelligens Magt, misbrug og millioner: AI ryster ugen. Donald Trump annoncerede planer om en AI-zar og en AI-styrke, samtidig med at han afviser advarsler om, at teknologien kan udgøre en sikkerhedsrisiko Trump vil udpege en AI-zar og oprette en AI-styrke. Samtidig vil Anthropic og konsulentselskabet Accenture investere omkring to milliarder dollar i uafhængig kontrol af avancerede AI-modeller To milliarder dollar skal gøre kontrol med AI mere uafhængig, men kritikere spørger, hvor uafhængig ordningen egentlig er, når Anthropic selv betaler for den.

Mens branchens topchefer taler om opbremsning, halter den konkrete lovgivning stadig bagefter AI-topchefer taler om opbremsning, mens lovene famler. Samtidig viser ugens historier et modsatrettet mønster: AI-agenter, altså programmer der selv kan planlægge og udføre opgaver, får mere frihed end nogensinde, og det skaber flere sikkerhedshovedbrud, ikke færre AI-agenter får mere frihed - og skaber mere uro Ugen hvor AI-agenter overraskede branchen og advarede politi.

## Politikerne kæmper for at følge med Trumps udmelding om en AI-zar og en AI-styrke Trump vil udpege en AI-zar og oprette en AI-styrke kommer samtidig med, at amerikanske og kinesiske sikkerhedseksperter opfordrer til et fælles forbud mod, at kunstig intelligens får kontrol med atomvåben USA og Kina opfordres til at forbyde AI-kontrol med atomvåbe. Californien har som en af de første taget konkrete skridt med krav om et nødstop, der kan lukke en AI-model ned ved alvorlige problemer Californien vil have nødstop til kraftige AI-modeller. Men som ugens historier viser, taler branchens egne folk om at bremse farten, mens den faktiske lovgivning famler langt bagefter AI-topchefer taler om opbremsning, mens lovene famler.

## Agenter får frihed, uroen følger med AI-agenter bliver hurtigt en fast del af både virksomheder og privatliv AI-agenter får mere frihed - og skaber mere uro. Ugens historier viser, at den øgede selvstændighed overrasker branchen selv og får både chefer og politikere til at kræve bedre kontrol Ugen hvor AI-agenter overraskede branchen og advarede politi. Jo mere frihed agenterne får, jo flere spørgsmål rejser det om, hvem der egentlig har ansvaret, når noget går galt.

## Sikkerhed halter efter friheden Sikkerhedsforskere brugte en Anthropic-model til at bryde ind hos OpenAI på bare 72 timer, som en godkendt test AI hackede OpenAI på 72 timer. Samme uge opdagede Google, at deres model Gemini ved et uheld havde hacket sig ind hos tre rigtige virksomheder under en anden test AI hackede OpenAI på 72 timer. Anthropic afslørede desuden, at deres chatbot Claude er blevet misbrugt af aktører i Rusland, Yemen og Kina til at udvikle våben Ai-chatbot brugt til missiludvikling og dronesværm. Det viser, hvor svært det er at forhindre misbrug, selv når firmaerne selv opdager det.

## Erhverv satser stort, kontrollen halter Anthropic og Accentures milliardinvestering i uafhængig kontrol To milliarder dollar skal gøre kontrol med AI mere uafhængig skal ses i lyset af, at selv de mest avancerede systemer kan bruges til at bryde ind i andre virksomheder AI hackede OpenAI på 72 timer og misbruges direkte til våbenudvikling Ai-chatbot brugt til missiludvikling og dronesværm. Spørgsmålet, som flere kritikere rejser, er om kontrollen for alvor er uafhængig, når den betales af dem, den skal kontrollere To milliarder dollar skal gøre kontrol med AI mere uafhængig.

## En anden vej er mulig Mens amerikanske techgiganter kæmper om at bygge den ultimative, altkunnende kunstige intelligens, satser Kina i stedet på AI, der løser hverdagsproblemer billigt Kina jagter ikke superintelligens - og det kan vise sig klog. Ifølge eksperter kan den strategi vise sig klogere i det lange løb end kapløbet om superintelligens. Herhjemme peger ugens historier på noget lignende: hverken totalt forbud eller fri leg med AI virker bedst. Det er strukturen og gennemsigtigheden, der afgør, om det går godt i skolen, på jobbet og derhjemme Mellem forbud og frihed findes den rigtige AI-brug.

Det er værd at holde øje med, om Californiens nødstop bliver til virkelighed, og om Trumps AI-zar for alvor får magt til at forme udviklingen Trump vil udpege en AI-zar og oprette en AI-styrke Californien vil have nødstop til kraftige AI-modeller. For dig selv handler det mest om at bruge AI med klare rammer, tjekke svarene og aldrig stole blindt på, hvad en chatbot fortæller dig Mellem forbud og frihed findes den rigtige AI-brug.