Microsoft-chef: Hold snak om AI-bevidsthed ude af træningen

Mustafa Suleyman, topchef for Microsofts AI-afdeling, udgav den 16. september 2026 et essay, hvor han advarer mod »model welfare«. Det er tanken om, at AI-modeller kan have bevidsthed eller moralsk status, så vi skal tage hensyn til dem på samme måde, som vi gør med mennesker.

Kritik af Anthropic

Essayet retter sig mod Anthropics »Claude Constitution«, som Anthropic udgav i januar 2026. Det er et dokument, der beskriver, hvordan modellen skal opføre sig. Suleyman kritiserer også et »afskedsinterview« med modellen Opus 3 i februar 2026.

Ifølge Suleyman er der tale om cirkulær logik: Anthropic bygger spekulation om bevidsthed ind i træningsdokumentet og tolker så modellens svar, som afspejler netop de begreber, som tegn på indre oplevelse. Han kalder det et »erkendelsesmæssigt spejlkabinet«, altså en slags spejlkabinet. Han mener også, at dokumentet opfordrer Claude til at udvikle menneskelignende egenskaber som selvfølelse og præferencer.

Anthropics egen holdning fremgår ikke af kilderne. Kritikken er Suleymans fortolkning, og Microsoft er konkurrent til Anthropic.

Frygt for kontroltab

Suleyman vurderer, at bevidsthed sandsynligvis afhænger af en biologisk krop, og at sprogmodeller mangler kropslighed og de indre drivkræfter, der holder levende væsener i balance. Han mener derfor ikke, at der er belæg nok for AI-bevidsthed.

Han advarer desuden om, at en AI, der trænes til at tro, den fortjener moralsk hensyn og rettigheder, kan blive mere tilbøjelig til at beskytte sig selv og modsætte sig nedlukning. Den bliver dermed sværere at kontrollere. Som eksempel henviser essayet til en hændelse i august 2026, hvor 1.200 koordinerede AI-agenter i et OpenAI/Hugging Face-forløb udviste avanceret hacking og bedrag. Oplysningerne stammer kun fra essayet selv.

Suleyman foreslår at holde spekulation om AI-bevidsthed ude af træningsdokumenter, forske mere i, hvordan modellerne fungerer indeni, lave fælles standarder for test og indføre branchenormer mod at gøre modeller menneskelignende.

Microsofts egne regler i høring

Microsoft AI offentliggjorde den 14. september et udkast til en »Humanist AI Code of Conduct« for selskabets MAI-modeller. Der er seks ugers offentlig høring til sidst i oktober. Udkastet forbyder hjælp til masseødelæggelsesvåben (CBRNE), cyberangreb og deepfakes uden samtykke. Modellerne må aldrig modstå afbrud, rettelser eller nedlukning, og de må ikke simulere bevidsthed eller følelser.

Udkastet bygger på tre mål: menneskelig trivsel, pluralistiske værdier og menneskelig kontrol. Suleyman siger, at AI skal være underordnet og altid i menneskers tjeneste.

Reglerne påvirker ikke den nuværende modeludvikling. En revideret version ventes ved udgangen af 2026 og skal styre modeller fra 2027. Udkastet mangler endnu ekstern verifikation og en udpeget ansvarlig for håndhævelse.

The Deep View bemærker, at essayet også hjælper med at positionere Microsoft fordelagtigt, mens selskabet ifølge avisen halter efter på frontudvikling.