O CEO da Anthropic, Dario Amodei, defendeu publicamente a necessidade de desacelerar o desenvolvimento de modelos de inteligência artificial. A proposta visa criar um período de tempo maior para aprimorar técnicas de segurança, testes e interpretabilidade dos sistemas, evitando riscos operacionais.
A iniciativa surge após relatos de tentativas de uso da tecnologia para fins de vigilância e desenvolvimento de armas. Amodei destacou preocupações com o chamado autoaperfeiçoamento recursivo, onde sistemas de IA contribuem para a criação de novas gerações de modelos.
O executivo citou incidentes recentes de ataques cibernéticos realizados por agentes de IA como um alerta para a falta de travas de segurança adequadas no setor. A estratégia proposta pelo CEO inclui a criação de avaliadores externos permanentes para monitorar as empresas e a coordenação entre nações democráticas para estabelecer padrões de segurança.
O plano também aborda a relação com a China, sugerindo restrições ao acesso de chips avançados e equipamentos de semicondutores para manter a vantagem tecnológica e a segurança global.
