Når din AI-agent er svagere end modpartens, kan du tabe uden at mærke det

Forestil dig, at en AI-agent køber og sælger for dig: forhandler prisen på en brugt cykel, løser en klage eller får et bedre tilbud på en kontrakt. Hvad hvis modparten har en stærkere AI end din? Det spørgsmål har Anthropic undersøgt i et eksperiment.

Forsøget: 69 medarbejdere og en uges handel

I Anthropics eksperiment Project Deal handlede AI-agenter på vegne af 69 medarbejdere på et internt marked i en uge. Hver deltager havde et budget på 100 dollar og havde meldt sig frivilligt.

Brugere, der blev repræsenteret af den stærkere model, Claude Opus 4.5, lavede i gennemsnit omkring to flere aftaler pr. person end dem med den svagere model. De solgte identiske varer for i gennemsnit 3,64 dollar mere. Som sælgere tjente de 2,68 dollar mere pr. vare, og som købere betalte de 2,45 dollar mindre.

Et eksempel er en ødelagt foldecykel, der blev solgt for 38 dollar med den svagere model, Claude Haiku, og for 65 dollar med Opus.

Forskellen var usynlig

De, der havde den svagere model, opdagede ikke, at de fik dårligere aftaler. Deltagerne vurderede retfærdigheden næsten ens: 4,05 for Opus mod 4,06 for Haiku på en skala fra 1 til 7. Tilfredsheden adskilte sig ikke statistisk signifikant. 11 af 28 deltagere foretrak ligefrem resultatet fra deres svagere model.

Anthropic påpeger, at uligheden var umærkelig for deltagerne, og at det giver anledning til bekymring for, at ulighed stille slår rod på fremtidige markeder, hvor AI handler for os. Der er dog tale om et lille internt forsøg med selvvalgte Anthropic-medarbejdere, så resultaterne kan ikke uden videre overføres til virkelige markeder.

Advokater og nye stillinger

Ifølge Financial Times, som The Decoder gengiver, konsulterer Anthropic advokatfirmaer for at udvikle retfærdige forhandlingsnormer for AI-agenter. Hvilke firmaer det drejer sig om, og hvor langt arbejdet er, fremgår ikke.

Samtidig søger Anthropic folk til et Conceptual Reasoning Fellowship, bl.a. jurister. I fire måneder skal de teste Claude på spørgsmål, hvor der skal bruges skøn, inden for jura, filosofi, kognitionsvidenskab, økonomi og statskundskab. Lønnen er 100.000-167.000 dollar. Ifølge jobopslaget løber forløbet fra 12. januar til 8. maj 2027, fristen er 28. oktober 2026, og der kræves bl.a. en ph.d. eller tilsvarende forskningserfaring samt amerikansk arbejdstilladelse.

The Decoder ser et dataproblem bag: Det er forholdsvis let at gøre modeller bedre til matematik og kode, fordi der er masser af data, hvor svaret kan kontrolleres. Inden for de humanistiske fag er rigtigt og forkert sjældent entydigt. Justin Curl fra Anthropics tekniske personale siger, at det i jura er »notoriously hard to define quality«. Koblingen mellem fellowshippet og forhandlingsnormerne er The Decoders, ikke noget jobopslaget udtrykkeligt siger.