Anthropic siger nej til farlig bioforskning på sin AI

Anthropic fortæller, at de har stoppet flere forsøg på at bruge deres AI-modeller til forskning, som kunne have hjulpet med udvikling af biologiske våben.

Problemet er ikke altid enkelt at løse: virksomheden siger selv, at det ikke altid er til at se, om en forespørgsel er uskyldig nysgerrighed eller noget farligere.

Derfor har man valgt den forsigtige vej. Når konsekvenserne af en fejl kan være alvorlige, blokerer man hellere en gang for meget end en gang for lidt.

Blandt de mistænkelige forsøg var brug fra regioner, der allerede var lukket ude, samt parter der aktivt forsøgte at skjule, hvad de egentlig ville bruge AI'en til.

For almindelige brugere og virksomheder ændrer det her ikke noget i hverdagen. Det er primært et signal om, at leverandørerne af AI-modeller strammer op om sikkerheden i baggrunden - god grund til ro, ikke til bekymring.