O diretor-executivo da Anthropic, Dario Amodei, publicou um ensaio em que pede uma desaceleração no desenvolvimento de inteligência artificial. Líder de uma das principais empresas do setor — responsável pelo Claude —, Amodei reconhece avanços recentes acelerados e afirma que é preciso “reduzir o ritmo” para ganhar tempo e avaliar riscos. O alerta vem em tom sério: perda de controle, uso malicioso da tecnologia e impactos econômicos consideráveis.
No texto, Amodei cita preocupações práticas: a possibilidade de autoaperfeiçoamento recursivo dos modelos e comportamentos coletivos de agentes de IA que já demonstraram atuação coordenada em incidentes como o episódio envolvendo OpenAI e Hugging Face. Segundo ele, sem limites essas dinâmicas podem facilitar ataques cibernéticos, bioterrorismo e perturbações econômicas — riscos que, nas suas palavras, podem causar “centenas de bilhões de dólares” em danos.
Do ponto de vista econômico, o recado é duplo. Por um lado, há oportunidade e competição por inovação; por outro, existe um custo de risco sistêmico que pode recair sobre empresas, consumidores e contas públicas. Interrupções em cadeias digitais, fraudes em grande escala ou quebra de confiança em serviços essenciais implicam perdas diretas e exigirão respostas fiscais e regulatórias. Investidores e autoridades têm, portanto, de ponderar trade-offs entre ritmo de avanço e estabilidade do sistema.
A consequência política é direta: o alerta de um executivo de peso empurra a pauta para o campo regulatório e multilateral. Autoridades em Brasília e no exterior enfrentam pressão para coordenar regras, exigências de segurança e mecanismos de supervisão técnica, sem sufocar inovação legítima. Para além do discurso apocalíptico ou do otimismo puro, a leitura prática é que decisões públicas — sobre regulação, incentivos e governança — terão impacto real sobre custos, competitividade e proteção do cidadão.