ChatGPT kan afbryde samtaler og pause konti ved voldsfokus

OpenAI har meddelt nye sikkerhedstiltag i ChatGPT, der skal forebygge vold. Det fremgår af en analyse fra Data Studios af OpenAIs meddelelse fra 30. oktober 2026.

Strammere regler for teenagere

OpenAI havde allerede et forbud mod at hjælpe teenagere med at skaffe våben. Ifølge Data Studios udvides forbuddet nu, så det også gælder spørgsmål, der ser uskyldige ud.

Nye regler for alle brugere

For alle brugere kan ChatGPT automatisk afslutte samtaler, hvor brugeren ser ud til at være fikseret på vold eller på alvorligt at skade andre.

Efter flere voldsfokuserede samtaler kan en konto desuden blive pauset midlertidigt. Hvis tidligere samtaler har vist advarselstegn, vurderer ChatGPT senere forespørgsler mere forsigtigt.

Også oplysninger om tidligere masseangreb bliver begrænset. Det gælder, hvilke våben der blev brugt, hvordan de blev skaffet, og sammenligninger med gerningspersoner.

Politihenvisninger og kommende rapport

OpenAI henviste over 200 sager til politiet i tredje kvartal 2026. Der er ikke oplyst, hvordan sagerne fordeler sig på lande, eller hvad der kom ud af dem.

OpenAI planlægger at udgive en Community Safety Report fra begyndelsen af 2027 og derefter hver sjette måned. Det er en plan og ikke noget, der er sket endnu.

Hvad der ikke er oplyst

Ifølge Data Studios har OpenAI ikke fortalt, hvornår ChatGPT vurderer, at en samtale er for voldsfokuseret, eller hvor præcist systemet kan genkende en teenagers alder. Der er heller ikke oplyst noget om, hvordan man kan klage over en afbrudt samtale eller en pauset konto. Den præcise tidsplan og hvilke regioner tiltagene gælder i, fremgår heller ikke.

For almindelige brugere betyder det, at ChatGPT kan reagere hårdere, hvis samtalerne drejer sig om vold. Hvordan reglerne virker i praksis, er endnu uklart.