Fem skjulte påvirkningsnetværk brugte ChatGPT-teknologi, men fik ifølge OpenAI lille effekt

OpenAI har i en rapport fra maj 2024 beskrevet fem skjulte påvirkningsoperationer, som brugte firmaets AI til at lave og forbedre indhold på nettet. Ifølge NPR var det første gang, OpenAI udsendte en rapport af den slags. Den kom i en tid, hvor mange er bekymrede for, at AI kan bruges til at påvirke valg i 2024.

De fem operationer

Den russiske operation Bad Grammar rettede sig mod Ukraine, Moldova, Baltikum og USA. Den brugte AI til at rette fejl i kode til Telegram-bots og til at skrive politiske kommentarer på russisk og engelsk.

Den russiske Doppelganger lavede kommentarer på engelsk, fransk, tysk, italiensk og polsk, som blev lagt på blandt andet X og 9GAG. Den oversatte også artikler og lavede indhold til Facebook.

Det kinesiske netværk Spamouflage brugte AI til at researche sociale medier, skrive tekster på flere sprog og rette fejl i kode. Indholdet blev spredt på blandt andet X og Blogspot.

Den iranske International Union of Virtual Media brugte AI til lange artikler, overskrifter og tags til tilknyttede websites.

Det israelske firma STOIC, bag operationen Zero Zeno, lavede artikler og kommentarer til Instagram, Facebook og X. Ifølge NPR brugte operationen falske konti, der udgav sig for at være studerende og aktivister, og målrettede brugere i USA, Canada og Israel.

Hvad brugte de AI til?

Emnerne omfattede Ruslands invasion af Ukraine, Gaza-konflikten, det indiske valg og kritik af den kinesiske regering.

Aktørerne brugte AI til kommentarer, profilbeskrivelser og artikler på mange sprog, til research, fejlsøgning i kode, oversættelse og korrektur. Ingen af operationerne byggede udelukkende på AI-indhold. Det var blandet med materiale lavet af mennesker.

Lille effekt, siger OpenAI

Ifølge OpenAI opnåede ingen af operationerne mærkbart øget engagement eller rækkevidde. De scorede lavt på Brookings' Breakout Scale, som bruges til at vurdere en påvirkningsoperations gennemslagskraft. Vurderingen er OpenAIs egen og ikke efterprøvet af andre.

OpenAI skriver også, at firmaets modeller, der er bygget med sikkerhed for øje, ofte afviste ondsindede forespørgsler, og at undersøgelser af den slags sager er blevet forkortet fra måneder til dage.

Ben Nimmo, principal investigator i OpenAIs efterretningsteam, siger: »These operations may be using new technology, but they're still struggling with the old problem of how to get people to fall for it.«

For læseren er pointen, at AI gør det lettere at producere tekst og oversættelser i stor mængde. Men ifølge OpenAI er det stadig svært at få folk til at tro på det og dele det.