OpenAI strammer regler for mennesker i video-AI'en Sora

OpenAI har strammet reglerne for, hvem der kan optræde i videoer lavet med Sora 2, selskabets AI-værktøj, der kan generere realistiske videoklip ud fra en tekstbeskrivelse.

Baggrunden er, at skuespiller Bryan Cranston, kendt fra tv-serien Breaking Bad, opdagede AI-videoer med sit eget ansigt på platformen, kort efter Sora 2 blev lanceret i slutningen af september. Det skete, selvom OpenAI allerede havde lovet, at brugere ikke måtte genskabe andre menneskers ansigter uden samtykke.

Det var ikke kun Cranstons ansigt, der dukkede op uden tilladelse. Også ophavsretsbeskyttede figurer som Pikachu og SpongeBob blev delt i videoer lavet med værktøjet, hvilket viste, at de oprindelige sikkerhedsforanstaltninger ikke fungerede godt nok.

Hvad er ændret

Cranston gik videre til det amerikanske skuespillerforbund SAG-AFTRA, som samarbejdede med OpenAI og flere talentbureauer om at styrke beskyttelsen af stemme og udseende i Sora 2. Resultatet er, at platformen nu viser en fejlbesked, hvis en bruger forsøger at lave et klip, der kan krænke reglerne om »tredjeparts lighed« eller ligheder med andres indhold.

Med andre ord forsøger systemet nu bedre at genkende og blokere forsøg på at efterligne konkrete personers ansigter eller beskyttede figurer, før videoen bliver lavet.

Hvorfor det betyder noget

Sagen er endnu et eksempel på, hvor hurtigt AI-værktøjer kan misbruges til at lave falske videoer af rigtige mennesker, de såkaldte deepfakes. For almindelige brugere betyder det, at det bliver sværere at lave videoer med kendte personer uden deres tilladelse, mens kunstnere og skuespillere får bedre beskyttelse mod, at deres ansigt eller stemme bliver brugt uden samtykke.

Bryan Cranston har offentligt udtrykt taknemmelighed over for OpenAI for at stramme op, mens virksomhedens topchef Sam Altman har understreget, at OpenAI er forpligtet til at beskytte kunstnere mod misbrug af deres stemme og udseende.