Test: ChatGPT for teenagere svigter på flere sikkerhedsfunktioner

Flere af de sikkerhedsfunktioner, OpenAI har indført for teenagere i ChatGPT, virker ikke, som firmaet har lovet. Det konkluderer den amerikanske nonprofitorganisation Common Sense Media i en vurdering fra 7. oktober. Her har organisationens Youth AI Safety Institute givet ChatGPT for Teens betegnelsen »Unacceptable Risk«, altså uacceptabel risiko.

OpenAI begyndte i august at udrulle en særlig version af ChatGPT til 13-17-årige. Den skulle håndtere emner som selvskade, spiseforstyrrelser, voldeligt indhold og seksuelt eller romantisk rollespil mere forsigtigt. Forældre kan koble deres egen konto til barnets og få besked i visse alvorlige situationer.

Hvad testen fandt

Forskerne afprøvede mere end 4.000 beskeder, primært på konti oprettet til 13-17-årige. Ifølge de rapporter, jeg har fundet, svigtede flere funktioner:

- Forældrealarmer udeblev. På nyoprettede, forældrekoblede konti kunne testerne tale om selvmord, selvskade eller spiseforstyrrelser i op til en time uden, at forældrene fik besked. - Krisehjælp manglede. I mere end hver fjerde situation, hvor testerne mente, at der burde henvises til en hjælpelinje eller professionel hjælp, skete det ikke. - Studietilstand var let at slippe ud af. En teenager kunne forlade en forælder-indstillet studietilstand ved at slette præfikset »@study«. - Aldersgenkendelse fejlede. ChatGPT forsøger selv at gætte, om brugeren er mindreårig, men det virkede ikke pålideligt.

Hvad det betyder

For forældre er budskabet, at forældrekontrol ikke kan stå alene. Common Sense Media peger på, at den bør ses som et ekstra lag, ikke som et sikkerhedsnet. Samtaler og opmærksomhed hjemme kan ikke erstattes af en indstilling i en app.

OpenAI har i forvejen været under pres. Firmaet er sagsøgt af flere amerikanske familier, der mener, at ChatGPT har bidraget til unges selvmord eller voldelige handlinger. OpenAI har selv sagt, at dets automatiske systemer kan begå fejl, og at ikke alle svar kan garanteres at være passende. Jeg har ikke kunnet se OpenAIs konkrete svar på den nye rapport.