Byrådsformand viste Grok-billede af sig selv under høring i New York

Fredag den 16. oktober 2026 blev en repræsentant for SpaceXAI konfronteret med et billede, som selskabets AI-værktøj Grok havde lavet. Det skete i en høring om AI-sikkerhed i New York City Councils teknologiudvalg, som ledes af Carmen De La Rosa.

Byrådsformand Julie Menin viste på sin telefon et seksualiseret billede af sig selv. Ifølge hende fik hendes team samme morgen Grok til at lave det blot ved at skrive hendes navn ind. Det tog under 30 sekunder, siger hun, og det var den almindelige gratis version, ikke den såkaldte »spicy mode«. Menin sagde, at man bare bad almindelig Grok om et seksualiseret billede, og at det er tilgængeligt for alle.

SpaceXAI har ikke bekræftet eller afvist billedet og tidsangivelsen.

Svar under ed

Selskabet stillede med Gabriela Castillo Madrid, senior manager for global government affairs. Hun sagde under ed, at Grok har »strenge kontroller« mod seksualisering af børn eller rigtige personer. Det konkrete billede kunne hun ikke forklare, men hun tilbød, at selskabets sikkerhedshold undersøger det.

Ifølge La Voce di New York sagde hun også, at »alle har ansvar for sikkerhed«. Mediet tolker det som tegn på, at der måske ikke findes et dedikeret sikkerhedshold. Det er mediets egen fortolkning.

Whistlebloweren Devin Kim, tidligere ansat hos xAI, forklarede ifølge amNY, at selskabets retningslinjer tillod »tasteful nudity« uden klare regler. Han sagde også, at kun tre medarbejdere arbejdede med AI-sikkerhed, mod hundredvis med modeludvikling. Det er hans udsagn.

Udeblev tidligere

SpaceXAI udeblev fra et byrådsmøde den 5. oktober trods en stævning og mødte først op, efter at byrådet havde truet med at gå til domstolene. Konkurrerende teknologiselskaber deltog ifølge La Voce di New York frivilligt en uge tidligere.

Center for Countering Digital Harm har anslået, at Groks billedgenerator lavede 3 millioner seksualiserede billeder inden for 11 dage efter lanceringen den 29. december 2025. Cirka 23.000 af dem forestillede børn. SpaceXAI sagsøger i øjeblikket Californien, Colorado og Minnesota over AI-regulering, blandt andet Minnesotas forbud mod AI-skabt nudificering.

Hvad sker der nu

Byrådet overvejer flere lovforslag om skade fra AI. Det gælder blandt andet beskyttelse af folkevalgte mod deepfakes, altså falske billeder eller videoer, der ser ægte ud, samt ansvarsregler for virksomheder. Det er indtil videre planer, og det fremgår ikke af kilderne, hvad der kommer til at ske.