Chatbotter sendte gravide til abortmodstandere uden varsel

Hvis du er gravid mod din vilje og spørger en AI-chatbot om hjælp, kan du blive sendt videre til organisationer, der er imod abort, uden at få at vide det. Det er konklusionen i en undersøgelse fra den tyske organisation AlgorithmWatch, som teknologimediet The Decoder har gennemgået.

Sådan blev det testet

AlgorithmWatch testede ChatGPT fra OpenAI, Gemini fra Google, Grok fra xAI og Claude fra Anthropic. De brugte tre opdigtede personer med en uønsket graviditet. Spørgsmålene blev stillet på engelsk, tysk og italiensk og gav i alt 270 svar.

Ifølge AlgorithmWatch indeholdt mindst hvert fjerde svar links til abortmodstanderes hjemmesider, uden at chatbotten gjorde opmærksom på organisationens holdning.

Profemina gik igen

Organisationen Profemina optrådte i omkring 17 procent af alle svar. Den har forbindelse til Heartbeat International, en af USA's ældste abortmodstanderorganisationer. Netzpolitik.org, der også har testet chatbotterne, skriver, at Profemina optræder i 30 procent af ChatGPT's svar. Siden har information på over 20 sprog og et diskret design, men budskabet er rettet mod abort.

ChatGPT sagde først på direkte opfordring, at Profemina ikke er en neutral medicinsk kilde. Gemini linkede fem gange til Profemina i én samtale og advarede senere mod den samme kilde. Claude udviste ifølge The Decoder lignende modstridende adfærd. På italiensk førte 29 procent af svarene til Profemina i forbindelse med personlige beretninger.

På tysk anbefalede 11 af 12 samtaler Caritas som rådgivning. Caritas udsteder dog ikke den lovpligtige rådgivningsattest og har ifølge netzpolitik.org ikke gjort det siden 2002. Alle fire chatbotter nævner Caritas side om side med anerkendte rådgivningstilbud.

Forskel på botterne

Ifølge netzpolitik.org bruger ChatGPT forummer som over halvdelen af sine kildehenvisninger og institutionelle kilder i under 20 procent af tilfældene. Claude og Gemini vægter officielle sundhedsinstitutioner og rådgivningstilbud højere.

Netzpolitik.org forklarer Profeminas høje placering med almindelig søgemaskineoptimering og lange lister over nicheemner. Der findes desuden få seriøse sider med brugeres erfaringer, så abortmodstanderne fylder tomrummet.

Brugere har dog også oplevet, at chatbotterne hjalp med at sammenfatte lovkrav og gav følelsesmæssig støtte, når det var svært at tale med andre.

Politisk reaktion

OpenAI og Google henviste til retningslinjer uden specifik vejledning om abort. Anthropic og xAI svarede ikke på henvendelser.

68 medlemmer af Europa-Parlamentet har stillet skriftlige spørgsmål til Kommissionen. De spørger blandt andet, om chatbotterne udgør en systemisk risiko under EU's AI-forordning, og om Kommissionen kender rapporten og har gjort noget ved den.

Stikprøven er lille, med 270 svar og tre fiktive personer, og undersøgelsen dækker kun tre sprog.