Kina undersøger DeepSeek og Moonshot for datalæk til Claude

Kinas internetmyndighed CAC har åbnet en undersøgelse af de to kinesiske AI-selskaber DeepSeek og Moonshot. Ifølge nyhedsmediet The Information har myndighederne sendt medarbejdere ud for at interviewe ledelse og ansatte i selskaberne for at afdække, hvor alvorligt problemet er.

Sagen starter med en rapport fra det amerikanske AI-selskab Anthropic, der laver chatbotten Claude. Anthropic hævder, at DeepSeek og Moonshot ikke bare brugte Claude i deres egen udvikling, men også sendte deres kunders forespørgsler videre til Claude uden at fortælle det. Det betyder, at brugere troede, de talte med et kinesisk AI-system, mens deres data i virkeligheden blev behandlet af et amerikansk selskab.

Ifølge Anthropics undersøgelse sendte Moonshot over 23 millioner forespørgsler videre til Claude mellem maj og juli. DeepSeek sendte 12,1 millioner forespørgsler videre i løbet af blot 14 dage i juli.

Det, der bekymrer de kinesiske myndigheder mest, er hvilken type data der kan være havnet hos det amerikanske selskab. Der er mistanke om, at følsomme oplysninger fra kinesisk politi, militær og andre statslige systemer kan være blevet sendt til Claude via denne rute - blandt andet forespørgsler, der involverede politisystemer og nationale ID-numre.

Hverken DeepSeek eller Moonshot har udtalt sig offentligt om sagen, og der er endnu ikke afgjort, om selskaberne skal straffes. Nyheden fik aktiekurserne i kinesiske AI-selskaber til at falde.

For almindelige brugere handler sagen om, at man ikke altid ved, hvilket selskab der reelt behandler ens data, når man bruger en chatbot. Selv når man tror, man taler med et lokalt system, kan forespørgslen i praksis blive sendt videre til en helt anden virksomhed i et andet land.