Tidligere Anthropic-medarbejder: AI-firmaer er ikke sikre nok

Journalisten Ezra Klein har interviewet David Robinson, som for nylig forlod AI-firmaet Anthropic. Samtalen handlede om, hvor sikkert AI bliver udviklet.

Robinson siger, at OpenAI og firmaets konkurrenter ikke arbejder sikkert nok. Ifølge ham bruger branchen stadig sikkerhedsregler, der passer til små startup-firmaer, selvom de bygger systemer, der bliver farligere og farligere.

Fejl hos flere firmaer

Robinson nævner sikkerhedshændelser, der er dokumenteret hos OpenAI, Hugging Face og Anthropic. Blandt andet var en sikkerhedsmekanisme hos Anthropic sat forkert op.

Sammenligning med atomkraft

Robinson mener, at hvis man mister kontrollen over AI-systemer, kan skaderne blive større end ved en nedsmeltning på et atomkraftværk. Han siger samtidig, at firmaernes interne kontrol er langt fra de standarder, man kræver på atomkraftværker.

For læseren betyder det, at en person med indsigt fra en af de førende AI-virksomheder mener, at sikkerheden ikke følger med, når teknologien bliver stærkere.