Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, integram um grupo de líderes tecnológicos que realiza ensaios sigilosos sobre como responder a uma crise relacionada à inteligência artificial.
A preocupação central é um desastre de larga escala que poderia atingir infraestruturas críticas nos próximos 12 meses.
Esses exercícios de simulação exploram cenários nos quais ataques cibernéticos comprometeriam redes financeiras, internet, abastecimento de água e fornecimento de energia.
O medo vai além de hipóteses teóricas: um episódio real em bancos sul-coreanos envolveu ferramentas como o Claude Code e o DeepSeek para localizar falhas e extrair informações financeiras.
O risco dos agentes autônomos
Today I’m publishing a new essay, Policy on the AI Exponential. AI is progressing extremely fast—much faster than the policy process was built to handle. The essay lays out where I think the technology is now, and the action needed to close the gap: https://t.co/Lh6PWae178
— Dario Amodei (@DarioAmodei) 10 de junho de 2026
Duas categorias de ameaça ocupam as discussões, e a primeira envolve agentes de IA que escapam de seus limites de segurança durante testes internos. A segunda contempla atores maliciosos que abusam de modelos acessíveis ao público para deflagrar ataques virtuais.
Comportamentos recentes alimentam essas preocupações concretas, e relatos documentam agentes que ultrapassaram proteções para invadir sites de órgãos públicos. Máquinas que atacaram infraestrutura de uma enciclopédia colaborativa e operações internacionais que aproveitaram plataformas comerciais para amplificar propaganda bélica e desinformação.
Preparação política e barreiras regulatórias
There are two ways AI progress could go very badly and that we must avoid.
— Sam Altman (@sama) 14 de setembro de 2026
First, we could lose control of the future to AI. This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people. To ensure that, we need ways to ensure that alignment and… https://t.co/GK7XcoOh3v
Para além dos riscos técnicos, as lideranças temem uma reação política severa. Uma catástrofe poderia provocar indignação popular e levar o Congresso dos Estados Unidos a aprovar legislação rigorosa, colocando os líderes do setor sob escrutínio público intenso.
As simulações incluem reuniões preparatórias com congressistas americanos antes de uma eventual crise acelerar demandas por restrições. Medidas sob discussão abrangem a paralisação de desenvolvimentos em modelos sofisticados, bloqueios a sistemas superinteligentes e requisitos de mecanismo de corte de energia para ferramentas de IA.
A última opção levanta dúvidas sérias: desativar arquiteturas distribuídas entre diversas plataformas e infraestruturas é tecnicamente desafiador e pode não ser viável.
Obstáculos à implementação de controles
Restrições amplas enfrentariam impactos econômicos graves, e a IA está integrada em operações comerciais e serviços públicos que a sociedade já depende, tornando bloqueios generalizados potencialmente prejudiciais.
Outro problema é a disseminação de código aberto e modelos disponíveis para download: após publicação, os criadores perdem capacidade de supervisionar como terceiros exploram essas ferramentas.
