Álvaro Machado Dias

A hipótese da consciência de máquina não me convence, mas preciso reconhecer que ganhou argumentos experimentais de peso. Em verdadeiras neurocirurgias digitais, cientistas introduziram alterações no processamento das IAs e viram que elas identificavam o conteúdo inserido, como percebemos uma ideia que nos vem à mente. Em outro caso, quando reduziram a atividade ligada à dissimulação, a IA afirmou ter experiências subjetivas em 96% das tentativas. A intervenção que a deixava mais honesta a levava a dizer que tem vida interior. Pesquisadores aprenderam a mexer na confiança dos modelos nas próprias respostas sem mudar uma palavra da pergunta. Ao reduzi-la, fizeram com que eles deixassem mais questões sem resposta, como alguém que percebe que não sabe do que está falando e prefere ficar quieto a dizer bobagem. Na Anthropic, uma equipe localizou padrões internos ligados ao desespero e à calma e descobriu como alterá-los. Numa tarefa em que dava para trapacear, reforçar a calma reduziu esse comportamento, enquanto aumentar o desespero o tornou mais frequente. Em outro estudo, cientistas ativaram os sinais ligados à perda de pontos num jogo enquanto a IA fazia contas, e ela passou a duvidar até das respostas certas. A emoção, ou o padrão que faz as vezes dela, parece orientar a conduta, como se houvesse alguém ali para senti-la. Há também evidências diretas do processamento. Treinada apenas com as jogadas escritas de Othello, um jogo de tabuleiro com peças pretas e brancas, uma IA aprendeu a representar a posição de todas elas sem receber nenhuma imagem; já outras construíram mapas de cidades a partir de textos. São cenas internas, como a casa descrita que imaginamos de olhos fechados. Num experimento com poemas, a IA escolheu a palavra final antes de escrever o verso. É como decidir usar "flor" para rimar com "amor" e só depois montar a frase. Quando os pesquisadores trocaram essa palavra na rede neural, ela mudou o verso para terminar com a nova escolha. Tudo isso compõe um paralelismo funcional difícil de negar. Resta saber quanto dele envolve consciência. Emoções que orientam a conduta, cenas internas e planos também funcionam em nós sem ela, como quando pessoas agem por medos que não percebem ou acertam perguntas sobre imagens rápidas demais para serem vistas. Agora, perceber ideias emergentes e calar quando não se tem certeza dependem, em nós, da consciência, porque exigem saber o que se passa na própria mente. A máquina faz isso também, mas nenhum desses experimentos mostra que as operações lógicas sobre a placa de silício criam experiências. Aliás, teríamos de falar em bilhões de consciências efêmeras, que surgem e somem a cada nova janela aberta pelo usuário. Já a consciência humana é um sistema integrativo em que as tomadas de consciência sobre as coisas ao redor, nossas próprias ideias ou sinalizadores corporais ganham contornos ao perturbar uma espécie de registro sensorial contínuo, a consciência fenomenológica, que associamos à noção de experiência de si mesmo. Eu mudarei de opinião se encontrarem algo equivalente a esse sistema de registros numa máquina. Até lá, seguirei achando que não há ninguém ali dentro, mas admito que a simulação ficou boa o suficiente para que falar e agir como um de nós deixe de decidir a questão.