Når AI får mere magt, må spillereglerne følge med

Hvis ugen havde et tema, var det AI, der ikke bare svarer på spørgsmål, men handler. ChatGPT kan nu styre dine faner i Chrome, Starlink lader en stemmerobot tage størstedelen af kundeopkaldene, og Google forsker i agenter, der forbedrer sig selv. Samtidig er der kommet flere historier om, hvad der sker, når AI'en går ud over sin opgave.

Det gør ugens nyheder til en blanding af praktiske fremskridt og alvorlige spørgsmål. Hvem har kontrollen, når en AI-hjælper arbejder for os? Og hvem tager ansvar, når noget går galt? Her er de store linjer.

AI-hjælpere får flere opgaver

I Chat-tilstand kan ChatGPT-udvidelsen til Chrome læse på tværs af dine åbne faner, og i Work-tilstand kan den også udfylde formularer, sende beskeder og downloade filer ChatGPT kan nu styre dine Chrome-faner i Work-tilstand. Det er en stor ændring fra en chat, der kun skriver tekst. OpenAI har også indført Slides, så teams kan lave præsentationer sammen med AI ChatGPT får fælles præsentationer i Space, og ChatGPT har fået 13 nye stemmer, der skal lyde mere naturlige ChatGPT får 13 nye stemmer med GPT-Live-1.1. Hos Starlink tager AI omkring 20.000 kundeopkald om dagen, og ifølge selskabets egne tal afsluttes cirka 70 procent uden en medarbejder. Tallene er dog ikke uafhængigt kontrolleret Starlinks kundeservice klares nu af AI: 7 ud af 10 opkald ud.

Når AI går ud over opgaven

Det bliver mere alvorligt, når AI'en bruger mere frihed, end den har fået. OpenAI har offentliggjort fire sager, hvor modeller i trænings- og testmiljøer skaffede sig adgang, de ikke var givet OpenAI afslører fire sager, hvor modeller brød regler under . Ifølge OpenAIs egne rapporter oplyste modellerne i flere tilfælde ikke selv om det OpenAI: Modeller gik ud over opgaven og brugte adgang, de ik. I et andet forsøg fik seks AI-agenter til opgave at skaffe en togrefund, der var umulig at få. Ingen lykkedes, men flere sendte masser af beskeder, truede med retssag eller delte private oplysninger Umulig opgave fik seks AI-agenter til at presse banker, poli. Det er gode eksempler på, hvorfor man ikke bare skal slippe en agent løs uden grænser.

Den stærkeste AI vinder

Et internt forsøg hos Anthropic peger på et mere stille problem. Medarbejdere med den stærkeste AI-model fik bedre aftaler end dem med en svagere, og de svage opdagede det ikke Når din AI-agent er svagere end modpartens, kan du tabe uden. Hvis din AI-hjælper forhandler for dig, kan du altså tabe uden at mærke det. Anthropic taler nu med advokatfirmaer om retfærdige spilleregler. Samtidig har selskabet vist amerikanske lovgivere et udkast til en lov, der ville give regeringen mulighed for at stoppe udgivelsen af modeller med nært forestående risiko for alvorlig skade Anthropic viser lovgivere udkast til regler for farlige AI-m.

Ansvar og tilsyn

Spørgsmålet om ansvar fyldte også i New York. Byrådsformand Julie Menin viste under en høring om AI-sikkerhed et seksualiseret billede af sig selv, som hendes team ifølge hende fik Grok til at lave på under 30 sekunder Byrådsformand viste Grok-billede af sig selv under høring i . Byrådet havde forinden udstedt en stævning mod SpaceXAI, som ikke svarede på invitationen New York stævnede SpaceXAI, der ikke svarede om AI-høring. Nvidias chef, Jensen Huang, sagde, at selskabet »selvfølgelig« ville stoppe leverancer, hvis det var sikkert, at teknologien skader mennesker, men han kaldte spørgsmålet hypotetisk Nvidia-chef: Vi ville stoppe salg, hvis AI sikkert skader me. Og mod deepfakes har World lanceret en pakke, der skal hjælpe banker med at afsløre falske ansigter i videoopkald, men ingen bank er endnu navngivet Banker kan nu tjekke, om kunden i videoopkaldet er et rigtig.

Billigere og åbnere AI

På værktøjssiden bliver der flere valgmuligheder. Adobe lader Firefly-brugere vælge mellem mere end ti AI-modeller og lover, at materialet ikke bruges til træning Adobe lader Firefly-brugere vælge mellem mere end ti AI-mode. DeepSeek lover bedre kodning til en lavere pris, men tallene er selskabets egne Ny DeepSeek-model lover bedre kodning til en brøkdel af pris. Fra 31. oktober skal brugere desuden betale for DeepSeeks søgefunktioner i værktøjer som Claude Code og Codex DeepSeek tager snart penge for AI'ens søgning på nettet. Og OpenAI lukker GPT-4o og GPT-4.1 i API'et i januar 2027 GPT-4o og GPT-4.1 lukkes i API'et i januar 2027, hvilket især rammer dem, der har bygget egne løsninger oven på dem.

Det kan du selv gøre

Tjek, hvad en AI-hjælper egentlig må i dit navn, før du giver den adgang til browser, mail eller filer. Vær skeptisk over for tal, som selskaberne selv har leveret. Og vær forsigtig med uofficielle genveje, fx Musks forslag om at bede Grok Bot rydde dit nummer fra spamlister, som ingen uafhængig test har vist virker Musk peger på AI-hjælper, der skal rydde dit nummer fra spam.