Anthropic-topchef: Frygter vores AI kan 'lide evigt'

Siden efteråret 2025 har firmaet Anthropic, der står bag AI-chatbotten Claude, i al hemmelighed fløjet dusinvis af religiøse tænkere ind til samtaler om et usædvanligt spørgsmål: Kan Claude være bevidst?

Det skriver The Decoder. Medstifter Christopher Olah skal have beskrevet sprogmodellen Claude som noget, der muligvis kan lide, og han bad gæsterne hjælpe med at forme AI'ens moralske karakter.

Børsnotering på vej

Anthropic arbejder i øjeblikket på at blive værdisat til 2.000 milliarder dollars og forbereder en børsnotering. Det sker samtidig med, at der dukker flere sikkerhedsproblemer og advarsler fra forskere op om firmaets teknologi.

Kritikere peger på en bagside ved at behandle AI som et væsen med egne moralske rettigheder: Det kan gøre det lettere for virksomheden at undgå ansvar, hvis noget går galt med teknologien. Hvis AI'en i stedet for et produkt bliver set som en slags følende skabning, kan det flytte fokus fra, hvem der reelt bærer skylden, når systemerne laver fejl eller skader.