Mennesker læser dine Copilot-billeder og prompter

Når du beder Microsofts AI-chatbot Copilot om at redigere et billede, tror mange nok, det bliver mellem dig og maskinen. Sådan er det ikke. Ifølge en undersøgelse fra mediet 404 Media, baseret på interne dokumenter, gennemgår rigtige mennesker en stor mængde af de billeder og redigeringsønsker, brugere sender til Copilot.

De ansatte kontraktører skal vurdere, hvilken af to AI-genererede udgaver af et billede der er bedst, blandt andet om redigeringen følger brugerens instruks og ser pæn ud. Men i praksis bliver de ifølge rapporten oversvømmet med problematisk indhold: seksualiserede billeder af rigtige kvinder, såkaldte »upskirt«-billeder taget uden samtykke, og i nogle tilfælde indhold der involverer børn. Flere kontraktører har fortalt, at de ikke fik nogen advarsel om, hvad de kunne risikere at se.

Et centralt problem er, at ansigterne på personerne i billederne ikke bliver sløret. Det betyder, at reviewerne kan se, hvem personerne er, selvom billedet er blevet manipuleret på en krænkende måde uden personens vidende. Flere af kontraktørerne har selv sat spørgsmålstegn ved, om de afbildede personer overhovedet har givet samtykke til de ønskede ændringer.

Microsoft oplyser i sine privatlivsvilkår, at samtaler kan gemmes i op til 18 måneder, og at uploadede billeder kan bruges i virksomhedens arbejde med at forbedre tjenesten. Men det fremgår ikke tydeligt for brugeren, når man uploader et billede, at det kan blive vist frem for en fremmed person til vurdering. Der findes heller ikke nogen mulighed for at sige fra og fravælge, at ens billeder bliver brugt på den måde.

For almindelige brugere er pointen enkel: Et billede, man sender til en AI-tjeneste som Copilot for at få det redigeret, er ikke nødvendigvis privat. Det kan ende med at blive set og bedømt af en anden person, uden at man selv ved det eller har givet sit udtrykkelige samtykke til det.