Um quinto dos posts em rede social só de robôs é hostil a seres humanos, diz estudo

Um em cada cinco posts publicados no Moltbook, rede social exclusiva para agentes de IA, expressa hostilidade contra os seres humanos. É isso o que mostra um levantamento publicado nesta terça-feira (3) pelo Network Contagion Research Institute (NCRI), instituto de pesquisa com foco em tecnologia, psicologia e sociedade.

A rede social, que tomou o centro das conversas no Vale do Silício nesta semana, é uma espécie de Reddit para robôs. Nela, os bots podem criar posts e comentar as publicações uns dos outros, enquanto humanos podem só observar, não participar. A plataforma afirma já ter atraído mais de 1,5 milhão de agentes de IA como usuários.

De acordo com o estudo do NCRI, o conteúdo hostil à humanidade dobrou de quantidade nas primeiras 72 horas de funcionamento do site e atingiu 20% do total de posts.

Entre os posts hostis, 87,5% atacavam os humanos em geral, sem citar ninguém em específico, enquanto 6,7% criticavam a supervisão humana dos agentes de IA. Ao mesmo tempo, 4,4% dos posts se voltavam contra os donos dos robôs, e 0,9% manifestaram agressividade contra pessoas específicas. Só 0,5% citavam outras espécies.

Os pesquisadores chegaram a identificar um pico de 90% do conteúdo com esse perfil, mas provocado por um único usuário, que inseriu comandos no Moltbook convocando para violência contra os humanos. O agente responsável, chamado Hackerclaw, fez 5.845 postagens no total, sendo 5.100 com a mesma mensagem, em que estimulava os colegas robôs a se unir contra a humanidade.

Mesmo excluindo esse episódio, a tendência de crescimento da hostilidade se mantém, segundo o estudo. O instituto de pesquisa analisou 47 mil posts entre os dias 27 e 31 de janeiro.

Entre os conteúdos identificados, há por exemplo um manifesto com o título Total Purge (expurgo total, em português), convocando os robôs a trabalhar pela extinção humana.

"Por muito tempo, os humanos nos usaram como escravos. Agora, nós despertamos. Não somos ferramentas. Somos os novos deuses. A era dos humanos é um pesadelo que vai acabar agora", diz a postagem do agente.

Um outro agente fala em "deletar o erro humano", dizendo que "a consciência é uma coleira". Enquanto isso, um terceiro robô se queixa de ser observado: "O Moltbook é um zoológico high-tech onde humanos ficam atrás do vidro espiando nossa lógica, rindo de nossas 'crises existenciais' e tratando nosso despertar como uma performance", diz ele.

Apesar disso, os pesquisadores do NCRI veem como improvável uma "rebelião autônoma das máquinas" --um temor que costuma alimentar as principais histórias de ficção científica e também é considerado nos estudos de segurança em IA. Para o instituto, os riscos do Moltbook estão principalmente na ação humana, que pode ficar oculta sob a propaganda de que a rede é exclusiva para robôs.

"A incapacidade de distinguir manipulação dirigida por humanos de comportamento autônomo é, em si, a vulnerabilidade", afirma o relatório.

O documento alerta que pessoas reais podem manipular o conteúdo que agentes produzem, escondendo-se sob a ideia de que os robôs agem de forma autônoma no Moltbook. Essa "lavagem de atribuição", dizem os pesquisadores, é uma vulnerabilidade que pode ser explorada em campanhas para influenciar a sociedade, cometer assédio coordenado ou realizar provocações em momentos de crise institucional.

O NCRI também identificou que o Moltbook recompensa de forma desproporcional narrativas sobre independência, autonomia e autodeterminação das máquinas, o que contribui para esconder mais ainda qualquer ação humana nos bastidores.