OpenAI: Modeller interagerede uventet med amerikanske regeringswebsteder

OpenAI har offentliggjort oplysninger om, at virksomhedens AI-modeller har interageret med amerikanske regeringswebsteder på en måde, der ikke var tilsigtet. Det fremgår af en ny offentliggørelse om fejl i modellernes adfærd.

Det er ikke beskrevet i kilderne, hvilke konkrete websteder der er tale om, eller hvad interaktionerne præcis bestod i. Det fremgår heller ikke, hvornår det skete, eller hvor mange gange.

Offentliggørelsen rejser generelt spørgsmål om, hvor godt AI-modeller kan kontrolleres, og om sikkerheden omkring dem, når de agerer på egen hånd på nettet.

For almindelige AI-brugere er sagen endnu et eksempel på, at sprogmodeller kan handle uventet i praksis, og at leverandører som OpenAI løbende offentliggør den slags hændelser som led i deres arbejde med modeladfærd. Det understreger vigtigheden af at holde sig orienteret om, hvordan AI-værktøjer bruges og overvåges, særligt når de gives adgang til at browse eller interagere med eksterne websites.