Sam Altman, da OpenAI, e Dario Amodei, da Anthropic, integram um grupo de l\u00edderes tecnol\u00f3gicos que realiza ensaios sigilosos sobre como responder a uma crise relacionada \u00e0 intelig\u00eancia artificial. <\/p>\n\n\n\n
A preocupa\u00e7\u00e3o central \u00e9 um desastre de larga escala que poderia atingir infraestruturas cr\u00edticas nos pr\u00f3ximos 12 meses.<\/p>\n\n\n\n
Esses exerc\u00edcios de simula\u00e7\u00e3o exploram cen\u00e1rios nos quais ataques cibern\u00e9ticos comprometeriam redes financeiras, internet, abastecimento de \u00e1gua e fornecimento de energia. <\/p>\n\n\n\n
O medo vai al\u00e9m de hip\u00f3teses te\u00f3ricas: um epis\u00f3dio real em bancos sul-coreanos envolveu ferramentas como o Claude Code e o DeepSeek para localizar falhas e extrair informa\u00e7\u00f5es financeiras.<\/p>\n\n\n\n
Today I’m publishing a new essay, Policy on the AI Exponential. AI is progressing extremely fast\u2014much faster than the policy process was built to handle. The essay lays out where I think the technology is now, and the action needed to close the gap: https:\/\/t.co\/Lh6PWae178<\/a><\/p>\u2014 Dario Amodei (@DarioAmodei) 10 de junho de 2026<\/a><\/blockquote>\n\n\n\n
Duas categorias de amea\u00e7a ocupam as discuss\u00f5es, e a primeira envolve agentes de IA que escapam de seus limites de seguran\u00e7a durante testes internos. A segunda contempla atores maliciosos que abusam de modelos acess\u00edveis ao p\u00fablico para deflagrar ataques virtuais.<\/p>\n\n\n\n
Comportamentos recentes alimentam essas preocupa\u00e7\u00f5es concretas, e relatos documentam agentes que ultrapassaram prote\u00e7\u00f5es para invadir sites de \u00f3rg\u00e3os p\u00fablicos. M\u00e1quinas que atacaram infraestrutura de uma enciclop\u00e9dia colaborativa e opera\u00e7\u00f5es internacionais que aproveitaram plataformas comerciais para amplificar propaganda b\u00e9lica e desinforma\u00e7\u00e3o.<\/p>\n\n\n\n
Prepara\u00e7\u00e3o pol\u00edtica e barreiras regulat\u00f3rias<\/h2>\n\n\n\n
There are two ways AI progress could go very badly and that we must avoid.
First, we could lose control of the future to AI. This is unacceptable; we are unapologetically on Team Humanity, and AI must always serve people. To ensure that, we need ways to ensure that alignment and\u2026 https:\/\/t.co\/GK7XcoOh3v<\/a><\/p>\u2014 Sam Altman (@sama) 14 de setembro de 2026<\/a><\/blockquote>\n\n\n\nPara al\u00e9m dos riscos t\u00e9cnicos, as lideran\u00e7as temem uma rea\u00e7\u00e3o pol\u00edtica severa. Uma cat\u00e1strofe poderia provocar indigna\u00e7\u00e3o popular e levar o Congresso dos Estados Unidos a aprovar legisla\u00e7\u00e3o rigorosa, colocando os l\u00edderes do setor sob escrut\u00ednio p\u00fablico intenso.<\/p>\n\n\n\n
As simula\u00e7\u00f5es incluem reuni\u00f5es preparat\u00f3rias com congressistas americanos antes de uma eventual crise acelerar demandas por restri\u00e7\u00f5es. Medidas sob discuss\u00e3o abrangem a paralisa\u00e7\u00e3o de desenvolvimentos em modelos sofisticados, bloqueios a sistemas superinteligentes e requisitos de mecanismo de corte de energia para ferramentas de IA.<\/p>\n\n\n\n
A \u00faltima op\u00e7\u00e3o levanta d\u00favidas s\u00e9rias: desativar arquiteturas distribu\u00eddas entre diversas plataformas e infraestruturas \u00e9 tecnicamente desafiador e pode n\u00e3o ser vi\u00e1vel.<\/p>\n\n\n\n
Pontos-chave<\/div>Pontos-chave da mat\u00e9ria<\/div>\u2713<\/div>L\u00edderes de tecnologia realizam ensaios sigilosos sobre respostas a crises relacionadas \u00e0 intelig\u00eancia artificial.<\/div><\/div>\u2713<\/div>Preocupa\u00e7\u00e3o central \u00e9 um desastre de larga escala em infraestruturas cr\u00edticas nos pr\u00f3ximos 12 meses.<\/div><\/div>\u2713<\/div>Cen\u00e1rios incluem ataques cibern\u00e9ticos a redes financeiras, internet, abastecimento de \u00e1gua e fornecimento de energia.<\/div><\/div>\u2713<\/div>Dois tipos de amea\u00e7a: agentes de IA que escapam de limites e atores maliciosos que usam modelos p\u00fablicos para ataques.<\/div><\/div>\u2713<\/div>Simula\u00e7\u00f5es preveem prepara\u00e7\u00e3o pol\u00edtica e reuni\u00f5es com congressistas antes de uma crise que poderia gerar legisla\u00e7\u00e3o rigorosa.<\/div><\/div>\u2713<\/div>Desafios t\u00e9cnicos, econ\u00f4micos e regulat\u00f3rios dificultam implementar controles amplos e desativar arquiteturas distribu\u00eddas.<\/div><\/div><\/div>\n\n\n\nObst\u00e1culos \u00e0 implementa\u00e7\u00e3o de controles<\/h2>\n\n\n\n
Restri\u00e7\u00f5es amplas enfrentariam impactos econ\u00f4micos graves, e a IA est\u00e1 integrada em opera\u00e7\u00f5es comerciais e servi\u00e7os p\u00fablicos que a sociedade j\u00e1 depende, tornando bloqueios generalizados potencialmente prejudiciais. <\/p>\n\n\n\n
Outro problema \u00e9 a dissemina\u00e7\u00e3o de c\u00f3digo aberto e modelos dispon\u00edveis para download: ap\u00f3s publica\u00e7\u00e3o, os criadores perdem capacidade de supervisionar como terceiros exploram essas ferramentas.<\/p>\n\n\n\n