Forkert fødselsdato i ChatGPT udløser GDPR-klage mod OpenAI

Hvad gør man, hvis ChatGPT siger noget forkert om én selv? Det spørgsmål er blevet aktuelt i en klage fra den europæiske privatlivsorganisation noyb. Den blev indgivet 29. april 2024 hos den østrigske databeskyttelsesmyndighed, DSB.

Forkert fødselsdato

Klagen handler om, at ChatGPT gentagne gange gav en forkert fødselsdato for klageren. Ifølge noyb afviste OpenAI at rette eller slette oplysningen.

Noyb påstår også, at OpenAI svarede utilstrækkeligt på en anmodning om indsigt. Der var tale om en anmodning om at se, hvilke personoplysninger der er gemt, og hvor de stammer fra. Det strider ifølge noyb mod GDPR, artikel 5, 15 og 16. GDPR er EU's regler om beskyttelse af personoplysninger.

Ifølge noyb har OpenAI erkendt, at selskabet ikke kan rette forkerte oplysninger. OpenAI henviste til, at nøjagtighed i store sprogmodeller stadig er et forskningsområde. Selskabet kan kun filtrere eller blokere bestemte prompter (de spørgsmål, man skriver til ChatGPT). Det kan ikke fjerne oplysninger om en bestemt person selektivt.

Noyb kræver, at DSB undersøger OpenAIs databehandling og pålægger selskabet at efterkomme indsigtsanmodningen. Behandlingen skal bringes i overensstemmelse med GDPR, og organisationen vil også have fastsat en bøde.

OpenAIs formular

OpenAI har indført en webformular, hvor man kan bede om at få personoplysninger fjernet fra ChatGPT og relaterede produkter. Ifølge OpenAI garanterer en indsendt anmodning ikke, at oplysningerne fjernes. Selskabet vil vurdere den og afveje privatliv og databeskyttelse mod samfundsinteresser som adgang til information.

Det er teknisk svært at rette eller fjerne enkeltoplysninger i en trænet sprogmodel. OpenAI har tidligere blokeret prompter med navne, men har kaldt det en uholdbar langtidsløsning, fordi det er for besværligt. Nyhedssiden The Decoder vurderer, at formularen kun adresserer symptomer og ikke grundproblemet, nemlig at sprogmodeller opdigter oplysninger.

Råd fra et rådgivningsfirma

Rådgivningsfirmaet Kalicube anbefaler at oprette en egen hovedside om sig selv, et såkaldt »Entity Home«, og at strukturere sin tilstedeværelse på troværdige sider. Man skal desuden give AI-motorer som ChatGPT og Gemini klare data om sig selv. Kalicube hævder, at det sparer tid på at forklare sig og åbner for forretningsmuligheder. Det er firmaets egen påstand og et salgsargument.

Klagen og formularen stammer fra 2024. Udfaldet af klagen fremgår ikke af kilderne, og procedurerne kan have ændret sig siden.