Uma equipe do Korea Advanced Institute of Science and Technology desenvolveu um sistema capaz de captar, a partir da atividade cerebral, os momentos em que uma intelig\u00eancia artificial entende de forma equivocada a inten\u00e7\u00e3o de quem interage com ela. <\/p>\n\n\n\n
A pesquisa teve a participa\u00e7\u00e3o da Microsoft Research Asia e dispensa qualquer verbaliza\u00e7\u00e3o por parte do usu\u00e1rio: a corre\u00e7\u00e3o chega \u00e0 m\u00e1quina diretamente pela atividade cerebral.<\/p>\n\n\n\n
Batizado de Neural Value Alignment (NVA), o m\u00e9todo se apoia em exames de eletroencefalografia (EEG) para monitorar a atividade cerebral e, a partir disso, corrigir em tempo real as respostas da IA. <\/p>\n\n\n\n
Com isso, busca-se superar um obst\u00e1culo recorrente no contato entre humanos e m\u00e1quinas: um \u00fanico gesto pode esconder prop\u00f3sitos distintos, assim como um mesmo prop\u00f3sito pode ser cumprido por caminhos diferentes.<\/p>\n\n\n\n
Quando algo n\u00e3o sai como esperado, o c\u00e9rebro produz sinais neurais espec\u00edficos que os pesquisadores aprenderam a ler. Eles se concentraram em dois: o erro de previs\u00e3o de recompensa (RPE) e o erro de previs\u00e3o de estado (SPE).<\/p>\n\n\n\n
O RPE surge quando o resultado est\u00e1 completamente errado, por exemplo, um rob\u00f4 que entrega caf\u00e9 em vez de \u00e1gua para quem pediu algo para beber.<\/p>\n\n\n\n
O SPE aparece em um cen\u00e1rio diferente: o objetivo foi compreendido corretamente, mas o caminho escolhido n\u00e3o foi o esperado. Se algu\u00e9m quer \u00e1gua, o rob\u00f4 entende isso, mas vai at\u00e9 a cozinha encher um copo na torneira em vez de pegar a garrafa ao lado dela.<\/p>\n\n\n\n
O objetivo foi alcan\u00e7ado, mas n\u00e3o da forma desejada, e essa diferen\u00e7a tamb\u00e9m gera um sinal detect\u00e1vel no c\u00e9rebro.<\/p>\n\n\n\n