Åben billedmodel fra Black Forest Labs kan køre på mindre GPU'er

Black Forest Labs har udgivet FLUX 3 Image Klein på Hugging Face, en platform, hvor man kan hente AI-modeller. Modellen er en såkaldt åben vægtmodel. Det betyder, at selve modellens indstillinger kan downloades og køres på egen computer i stedet for kun at blive brugt via en tjeneste på nettet.

Modellen har omkring 5,6 milliarder parametre, som er de tal, en AI-model har lært. Hugging Faces blog omtaler den som en model på 6 milliarder. Den kan lave billeder ud fra tekst, redigere billeder og lave nye billeder ud fra flere referencebilleder.

To udgaver med forskellig styrke

Modellen findes i to hovedudgaver. Base-udgaven bruger 50 trin og giver ifølge Hugging Face højere kvalitet. Den destillerede udgave er en slankere version, der bruger 16 trin og er optimeret til hastighed. Der findes også en ComfyUI-udgave, et program mange bruger til at bygge arbejdsgange med billedmodeller, og et demo-space, hvor man kan prøve modellen.

Til mindre GPU'er (grafikkort) findes kvantiserede udgaver, kaldet fp8r og nvfp4. Kvantisering betyder, at modellens tal gemmes mere kompakt, så den fylder mindre.

Hastighed og hukommelse

Hugging Face målte, at den destillerede model lavede et billede på 1024×1024 pixel på cirka 1,93 sekunder på et H100-kort. Redigering med ét referencebillede tog cirka 3,87 sekunder, og layoutredigering tog cirka 4,10 sekunder.

Spidsforbruget af hukommelse var 13,4-15,3 GiB for nvfp4 på et RTX 6000-kort, 14,35-16,27 GiB for fp8r på H100 og 18,8-20,72 GiB for bf16 på H100. Målingerne er lavet på datacenterkort, så de siger ikke direkte noget om, hvordan modellen kører på almindelige forbrugerkort.

Interessen

I Hugging Face-samlingen havde base-udgaven omkring 25,4 tusind downloads, og den destillerede udgave omkring 22,8 tusind. ComfyUI-udgaven lå på omkring 73,8 tusind. Tallene er et øjebliksbillede uden angivet periode.

Både målinger og tal stammer fra Hugging Face. Det fremgår ikke af kilderne, at en uafhængig part har testet modellen.