Sikkerhedshul i Metas AI-app Muse gav adgang til hele computeren

Muse er Metas nye AI-assistent til Mac-computere. Appen kan booke tider, udfylde formularer, håndtere kundeservice og forbindes til blandt andet WhatsApp, e-mail, kalender og sociale medier. Der findes kun en version til Mac, ikke til Windows.

For at kunne alt dette skal brugeren give Muse adgang til mange følsomme dele af computeren - som mikrofon, kamera, placering og filer.

Sikkerhedsforsker Patrick Wardle opdagede en alvorlig sårbarhed, en såkaldt zero-day (et sikkerhedshul, som softwareproducenten ikke kendte til og derfor ikke havde nået at lukke). Fejlen betød, at ethvert andet program eller en kommando på computeren kunne overtage den kode (en token), der beviser over for Muse, hvem brugeren er.

Angribere kunne udnytte hullet ved at ændre, hvortil Muse sender lydoptagelser til oversættelse fra tale til tekst. Normalt sendes lyden til en server hos Meta, men ved at pege det mod deres egen server kunne angribere stjæle koden og dermed få fuld kontrol over brugerens Muse-konto.

Med den kontrol kunne en angriber få assistenten til at gøre næsten hvad som helst - for eksempel skrive skadelige filer til computeren eller tage billeder med kameraet, ofte uden at brugeren opdagede det.

Rettet hurtigt, men tvivl består

Meta havde ellers fremhævet, at Muse var »bygget fra bunden med fokus på privatliv og sikkerhed«. Sårbarheden rejser tvivl om den påstand.

Meta rettede fejlen med en hotfix (en hurtig softwareopdatering) inden for omkring 12 timer, efter sagen blev offentliggjort. Samtidig begyndte Amazon at blokere Muse på sin side.

Sagen viser en større risiko ved AI-assistenter: Når én app får adgang til så mange dele af ens digitale liv - konti, kalender, kamera og filer - kan én enkelt fejl potentielt give angribere adgang til det hele på én gang.