Evan Hubinger, líder da área de ciência de alinhamento na Anthropic, empresa responsável pelo Claude, afirmou em publicação na rede X que, na sua opinião pessoal, existe uma probabilidade superior a 10% de que a inteligência artificial “possa matar todos os seres humanos” nos próximos dez anos.
A declaração, que ultrapassou 10 milhões de visualizações, veio um dia após o pesquisador Jacob Coxon anunciar sua saída da empresa e acusar a indústria de IA de “apostar com nossas vidas”.
Hubinger, que permanece na Anthropic, endossou o alerta do colega: “Jacob está certo aqui, nós realmente acreditamos de verdade que a IA pode matar todos os humanos! Pessoalmente, acho que é superior a 10% na próxima década”, escreveu.
Vale destacar, no entanto, que o pesquisador reforçou que a afirmação dele era apenas uma opinião pessoal, não um consenso oficial da empresa. Ele acrescentou, no entanto, um detalhe que chamou a atenção da comunidade científica: a Anthropic “não tem um plano para resolver o alinhamento para a superinteligência e não está no caminho certo para isso”.
O que motivou a declaração?
A fala de Hubinger foi uma resposta à carta de despedida de Coxon, publicada em 8 de setembro. O pesquisador, que antes trabalhou na OpenAI, dona do ChatGPT, acusou as duas maiores empresas de IA de fronteira de agir de forma irresponsável ao construir sistemas que”sinceramente acreditam” que “podem nos matar a todos até o fim da década”.
Vale reforçar também que Hubinger esclareceu que o cenário não envolve necessariamente robôs atacando pessoas. O risco, segundo ele, está em sistemas altamente autônomos que perseguem objetivos de forma que os humanos não consigam prever nem interromper.
Ele destacou que o perigo dos modelos atuais é “baixo”, mas que a preocupação é com a capacidade da tecnologia de se desenvolver e melhorar a si mesma além da capacidade e do controle humano.
Repercussão
Especialistas consideram a declaração grave, já que veio de dentro de um dos principais laboratórios de IA do mundo. Para eles, o fato de que tanto o pesquisador que saiu quanto o que ficou façam afirmações semelhantes sugere um grau de concordância interna sobre a gravidade do risco.
Já na internet, a reação foi diversa. Enquanto alguns internautas começaram a protestar contra o desenvolvimento desenfreado dos agentes de IA e debates sobre a ética por trás disso, outros também começaram a brincar, fazendo referência a filmes onde inteligências artificiais dominam a humanidade, como Exterminador do Futuro e Matrix.
Até o momento, nem a Anthropic nem a OpenAI emitiram nota oficial em resposta às declarações.
