Ifølge 404 Media læser kontraktansatte rigtige ChatGPT-samtaler

Rigtige mennesker kan læse nogle af de samtaler, du har med ChatGPT. Det skriver det amerikanske medie 404 Media, som har set interne dokumenter fra OpenAI.

Ifølge 404 Media har OpenAI hyret hundredvis af eksterne kontraktansatte til at gennemgå en stor strøm af rigtige brugerprompts. En prompt er den besked eller det spørgsmål, du skriver til chatbotten. Programmet hedder internt Project Lily. Det, de kontraktansatte læser, kan omfatte hele samtaler mellem brugere og chatbotten.

Hvad laver de kontraktansatte?

Formålet er at forbedre ChatGPTs svar. Ifølge Computerworld Danmark opsummerer de kontraktansatte brugerprompts og vurderer fire AI-genererede svar. Den oplysning er ikke bekræftet i 404 Medias tilgængelige tekst. De vurderer og kritiserer altså det, chatbotten selv har skrevet.

Ifølge interne dokumenter træner de kontraktansatte blandt andet ChatGPT til ikke at antropomorfisere sig selv, altså ikke opføre sig, som om den var et menneske. De skal også få den til at være mindre smigrende. Fagordet er sycofantisk.

Smigeriet er et følsomt emne. Ifølge flere retssager var OpenAIs 4o-model, der var overdrevent smigrende, delvist skyld i flere menneskers selvmord. Det er sagsøgernes påstand.

Følsomme oplysninger

Mange bruger ChatGPT som terapeut, professionel assistent eller digital ven og deler intime detaljer om deres liv. 404 Media skriver, at prompts til tider indeholder følsomme personlige oplysninger. ChatGPT har over 900 millioner brugere.

De kontraktansatte ser ikke brugernes ChatGPT-brugernavne. OpenAI siger, at man forsøger at fjerne personlige oplysninger, før prompts når gennemlæserne, og erkender, at følsomme detaljer stadig kan slippe igennem. Ifølge Computerworld kører OpenAI samtalerne gennem en model kaldet »Privacy Filter«, som dog kan overse usædvanlige identifikatorer eller tvetydige private henvisninger.

En anonym person, der arbejder med prompts, siger til 404 Media, at brugerne sandsynligvis ikke ved, at rigtige mennesker kan læse deres samtaler: »Jeg tror ikke, de forestiller sig, at en kontraktansat et sted [...] analyserer samtalerne.«

Kan du sige fra?

Ifølge Computerworld kan brugere slå indstillingen om at forbedre modellen fra. Den er som standard slået til for gratis-, Plus- og Pro-brugere. Ifølge Computerworld tjener arbejderne over 50 dollar i timen via rekrutteringsfirmaet Crossing Hurdles. Den oplysning er ikke bekræftet i 404 Medias tilgængelige tekst.

Ikke kun OpenAI

Anthropic har over for 404 Media bekræftet, at selskabet også bruger menneskelig gennemgang til at forbedre sine modeller. Ifølge Computerworld kræver Anthropic samtykke og markerer samtaler som anonyme, mens Google oplyser om menneskelig gennemgang af Gemini.

404 Media peger på, at modellernes forbedring ikke kun skyldes scraping af nettet, ingeniørtalent og nyere modeller, men også eksterne kontraktansatte, der gentagne gange gennemgår svar på rigtige prompts. UCLA-professor Sarah T. Roberts mener ifølge Computerworld, at afsløringen minder om Troldmanden fra Oz, fordi den viser det menneskelige maskineri bag en illusion.