Anthropic-chef opfordrer til global opbremsning af AI-udvikling

Chefen for AI-selskabet Anthropic har skrevet et essay på omkring 3.800 ord, hvor budskabet er klart: AI-udviklingen bør bremses globalt.

Han medgiver, at teknologien giver store fordele - men mener samtidig, at farten er blevet et sikkerhedsproblem. Udviklingen går simpelthen hurtigere, end forskerne kan sikre sig, at den forbliver under kontrol.

Baggrunden er et scenarie, flere AI-ledere nu forbereder sig på: at et AI-system på et tidspunkt kan blive i stand til at forbedre sig selv - uden hjælp fra mennesker. Nogle forskere advarer om, at denne form for 'selvforbedring' kan ende med AI-systemer, ingen længere har kontrol over.

Hvad betyder det for dig eller din virksomhed lige nu? Ikke noget akut. Der er ingen konkrete regler eller produktændringer på vej som følge af essayet - det er et debatoplæg, ikke en teknisk varsling.

Det værd at holde øje med er, om flere store AI-selskaber begynder at tale samme sprog. Hvis Anthropic's opfordring bliver fulgt af lignende udmeldinger fra f.eks. OpenAI eller Google, kan det pege mod reelle ændringer i tempo eller regulering - og det vil være tidspunktet, hvor man som virksomhed bør begynde at forholde sig aktivt til det. Indtil da: rolig observation er den rette respons.