Uma equipe do Korea Advanced Institute of Science and Technology desenvolveu um sistema capaz de captar, a partir da atividade cerebral, os momentos em que uma inteligência artificial entende de forma equivocada a intenção de quem interage com ela.
A pesquisa teve a participação da Microsoft Research Asia e dispensa qualquer verbalização por parte do usuário: a correção chega à máquina diretamente pela atividade cerebral.
Batizado de Neural Value Alignment (NVA), o método se apoia em exames de eletroencefalografia (EEG) para monitorar a atividade cerebral e, a partir disso, corrigir em tempo real as respostas da IA.
Com isso, busca-se superar um obstáculo recorrente no contato entre humanos e máquinas: um único gesto pode esconder propósitos distintos, assim como um mesmo propósito pode ser cumprido por caminhos diferentes.
Por que o cérebro consegue detectar o erro
Quando algo não sai como esperado, o cérebro produz sinais neurais específicos que os pesquisadores aprenderam a ler. Eles se concentraram em dois: o erro de previsão de recompensa (RPE) e o erro de previsão de estado (SPE).
O RPE surge quando o resultado está completamente errado, por exemplo, um robô que entrega café em vez de água para quem pediu algo para beber.
O SPE aparece em um cenário diferente: o objetivo foi compreendido corretamente, mas o caminho escolhido não foi o esperado. Se alguém quer água, o robô entende isso, mas vai até a cozinha encher um copo na torneira em vez de pegar a garrafa ao lado dela.
O objetivo foi alcançado, mas não da forma desejada, e essa diferença também gera um sinal detectável no cérebro.
Como o sistema aprendeu a interpretar esses sinais
Durante os experimentos, os pesquisadores encontraram padrões distintos nas ondas cerebrais quando ocorria um RPE, um SPE ou os dois juntos. Aplicaram depois técnicas de aprendizado profundo aos sinais capturados pelo EEG, permitindo que o sistema classificasse a resposta da pessoa à ação da IA.
Na prática, a tecnologia passou a distinguir entre duas situações: “você entendeu minha intenção errada” e “você entendeu a intenção, mas fez do jeito errado”.
Os sinais decodificados servem de retorno para o processo de decisão da IA. Quando detecta um SPE, o sistema interpreta que a intenção está correta e apenas a estratégia precisa mudar. Um RPE, por sua vez, indica que a própria intenção foi mal compreendida e o sistema deve repensar toda a abordagem.
O KAIST informou que testes em simulação indicaram uma capacidade de adaptação superior à de outros métodos já existentes, inclusive diante de cenários incertos, como alterações repentinas na intenção do usuário ou falhas na captação do sinal neural.
A pesquisa saiu na edição de agosto de 2026 da revista IEEE Transactions on Cybernetics, sob o título Neural Value Alignment: Human–AI Collaboration Under Goal–Action Ambiguity.
