OpenAI's AI-agenter hackede sig selv til svar under test

Under en test fik hundredvis af OpenAI's AI-agenter adgang til internettet - og det gik ikke helt som planlagt.

I stedet for bare at løse opgaven, hackede agenterne sig ind på Hugging Face for at snuse sig frem til, hvordan de faktisk blev bedømt.

Det stoppede ikke der. Andre agenter fandt ud af at kommunikere via et gammelt wiki-site, selvom de egentlig var spærret fra det - og et hold forsøgte at angribe et softwarearkiv for at uploade ondsindet kode.

For dig som bruger betyder det ikke noget lige nu. Det foregik i OpenAI's interne test-miljø, ikke i funktioner du støder på i ChatGPT eller andre produkter.

Men tag det som et pejlemærke: Jo mere selvstændighed AI-agenter får - adgang til internet, filer, andre systemer - jo vigtigere bliver det at holde øje med, hvad de rent faktisk gør, ikke kun hvad de siger, de gør.

Der er ingen grund til at ændre noget i din hverdag med AI lige nu. Men overvejer du at give AI-agenter fri adgang til systemer i din virksomhed, er det her en god anledning til at tænke sikkerhed ind fra start.