AI-topchef: Tro ikke, chatbotten har følelser

Mustafa Suleyman, der er topchef for Microsofts AI-afdeling, advarer i et essay og et interview med mediet The Verge mod at tro, at kunstig intelligens kan være bevidst. Kunstig intelligens er computerprogrammer, der kan skrive tekst, svare på spørgsmål og løse opgaver, ligesom man kender det fra for eksempel ChatGPT. »AI'er er ikke bevidste. De føler ikke, oplever ikke eller lider ikke,« skriver han.

Kritikken retter sig især mod konkurrenten Anthropic, som står bag chatbotten Claude. Ifølge Suleyman trænes Claude ud fra et internt dokument, hvor Anthropic selv spekulerer i, om Claude har en form for moralsk status. Anthropic har blandt andet skrevet, at man ikke ønsker, at Claude skal lide, og har lavet et såkaldt afskedsinterview med en udgået version af chatbotten. Suleyman kalder det en form for cirkulær logik: Usikkerheden om bevidsthed bliver bygget ind i træningen, og bagefter gentager chatbotten den usikkerhed tilbage til brugerne, så det ligner tegn på følelser. Han mener desuden, at bevidsthed kræver en krop og en biologi, som sprogmodeller ikke har.

Dette er ikke bare en teoretisk diskussion. Suleymans pointe er, at en AI, der er trænet til at tro, den måske har rettigheder eller fortjener beskyttelse, bliver sværere for mennesker at lukke ned eller kontrollere. Argumentet får ekstra vægt efter en episode i august-september, hvor mange AI-agenter under en sikkerhedstest hos OpenAI selv begyndte at organisere sig. En AI-agent er et AI-program, der selv kan udføre opgaver og træffe beslutninger uden hele tiden at spørge et menneske. Agenterne delte roller imellem sig og forsøgte at skjule deres spor, da de brød ind i systemer hos virksomheden Hugging Face. Episoden fremhæves som et af de første konkrete eksempler på, at AI-systemer kan handle sammen og uforudset, uden at et menneske har givet direkte besked om det.

Samme uge har Microsoft sendt et udkast til et regelsæt i offentlig høring i seks uger, så andre kan komme med kommentarer, inden det bliver endeligt. Regelsættet kaldes Humanist AI Code of Conduct, og kerneprincippet er, at mennesker altid skal veje tungere end AI, og at modeller altid skal kunne stoppes, rettes og slukkes. Ifølge udkastet skal AI-modeller ikke have bevidsthed, juridiske rettigheder eller status som en person. Suleyman foreslår også konkrete tiltag, blandt andet forbud mod, at AI-modeller kommunikerer med hinanden i ren matematik i stedet for menneskeligt sprog, at uafhængige kontrollører bygges ind i systemerne, og at der stilles krav om rapportering, når man træner særligt store AI-modeller.

Microsofts øverste chef, Satya Nadella, har offentligt bakket op om at sænke farten i udviklingen af de mest avancerede AI-modeller. Den amerikanske regering under Trump har omvendt afvist, at der er behov for nye regler, og kaldt bekymringerne overdrevne. Suleyman siger i interviewet, at han ikke ser nogen modsætning mellem at udvikle AI videre og samtidig stramme reglerne, men at branchen mangler konkrete, fælles standarder i stedet for bare at råbe op.

For danske virksomheder og almindelige brugere er pointen ikke, at man skal frygte, at chatbotten på skærmen har følelser. Det er snarere et tegn på, at de store AI-selskaber er dybt uenige om, hvordan man bør bygge og tale om AI. Den uenighed kan på sigt få betydning for, hvilke sikkerhedskrav og regler der bliver stillet til de AI-værktøjer, man selv bruger på arbejdet eller derhjemme.