Uso de IA pode causar déficit permanente nas habilidades de crianças, diz pesquisador

O que acontece com a aprendizagem em um mundo onde o acesso a respostas está cada vez mais fácil com as ferramentas de inteligência artificial? Essa é uma reflexão que Paulo Blikstein considera urgente para os rumos da educação no Brasil. Professor titular na Universidade Columbia, nos Estados Unidos, há anos ele estuda —e defende— o uso da tecnologia para auxiliar a aprendizagem. Blikstein, no entanto, vê com preocupação o entusiasmo e a velocidade com que ferramentas de inteligência artificial têm sido adotadas nas escolas. Para ele, nenhuma outra tecnologia mudou tão radicalmente a relação dos estudantes com o ensino. Essas transformações, no entanto, têm ocorrido sem serem acompanhadas de evidências científicas que comprovem possíveis benefícios na educação ou de regulamentações para evitar abusos. Por isso, defende, por exemplo, que o Brasil adote a verificação etária também para o uso de ferramentas de inteligência artificial, como foi feito recentemente para as redes sociais. Blikstein diz que o uso de chatbots por crianças e adolescentes, sem orientação e monitoramento de adultos, pode atrapalhar de forma definitiva o desenvolvimento de habilidades cognitivas dessa geração. "Daqui a cinco anos a gente vai ver o resultado do uso dessas ferramentas e pode ser tarde demais para toda uma geração que não vai saber escrever ou fazer contas sem usar a inteligência artificial." O sr. pesquisa o uso de tecnologias na educação e defende que elas podem ser benéficas para a aprendizagem. No entanto, vê as ferramentas de inteligência artificial com preocupação. Por que tem mais cautela em relação a elas? É preciso muito cuidado porque estamos lidando com crianças, que ainda não têm todas as habilidades da função executiva e de metacognição desenvolvidas como os adultos. Adultos já desenvolveram a habilidade de aprender sozinhos, de identificar quando devem parar de usar uma ferramenta e fazer as coisas por conta própria. Crianças ainda não sabem fazer essa distinção. Esse é o primeiro ponto. O segundo ponto é o papel que estão atribuindo a essas ferramentas dentro das salas de aula. Eu ouço muitas vezes as pessoas dizerem: "nossos professores não ensinam bem, então o único caminho para fazer educação de qualidade no Brasil é pela inteligência artificial". Esse tipo de raciocínio é muito perigoso, porque não existe nenhum sistema de educação do mundo que tenha conseguido oferecer um ensino de qualidade sem depender da qualidade dos seus professores. Essa esperança de que a inteligência artificial vai salvar a educação brasileira é muito perigosa. As pessoas que vêm da área de tecnologia, talvez por não conhecerem muito bem o campo de conhecimento da educação, enxergam o professor como um explicador. E então, pensam que, se construírem uma máquina que explica do mesmo jeito ou melhor que o professor, vão transformar a educação. Na verdade, o professor é muito mais que isso. Ele é um diagnosticador, um motivador e é também um modelo para as crianças. Um modelo de como estudar e também de comportamento. Ele é um criador de cultura em sala de aula, um curador de recursos de aprendizagem, um mentor. Ou seja, ele faz um trabalho muito mais complexo do que qualquer ferramenta pode fazer. O problema é que esse discurso, de quem vem da tecnologia com essas supostas soluções para o ensino, está ganhando espaço rapidamente, mesmo sem muita pesquisa e reflexão. Então, estamos colocando essas ferramentas nas redes de ensino, mudando as configurações da educação, da natureza do trabalho docente, sem refletir sobre os impactos. Daqui a dois ou três anos, quando os reflexos disso estiverem mais nítidos, pode ser tarde demais, porque aí já teremos uma plataforma que tomou conta das escolas, provocou a demissão de metade dos professores e não gerou o benefício que prometia. Quando percebermos que não está funcionando, pode ser muito difícil voltar atrás. O Brasil tem problemas graves e históricos na educação. Isso faz com que o país seja mais suscetível a aderir ao entusiasmo tecnológico, mesmo sem evidências dos benefícios? Sim, e uma das razões para isso é que existe toda uma indústria de tecnologia e de tecnologia educacional, que quer vender computador, plataformas e etc., sem ter uma preocupação com a educação em si. Muitas vezes essas indústrias têm lobbies poderosos e acabam empurrando essas soluções para as redes de ensino. Para muitas dessas soluções, já temos evidências científicas e experiências internacionais que mostram que elas não funcionam. Só que os pesquisadores e professores não são consultados quando essas decisões são tomadas. Por exemplo, sabemos que as plataformas de videoaulas têm uma efetividade muito restrita a algumas situações, como para alunos que já têm um certo domínio do conteúdo e que têm estrutura adequada em casa. Ou seja, uma realidade que não é a da maioria dos estudantes brasileiros. Ainda assim, se investe muito nessas plataformas. O mesmo acontece com as plataformas de ensino de gamificação, que usam jogos com pontos e recompensas para motivar os estudos. Elas funcionam em contextos muito limitados e não motivam o aluno a longo prazo, mas temos redes de ensino que adotam essas plataformas como se fossem solucionar o problema do ensino. O mesmo aconteceu com celulares, tablets, lousas digitais. São equipamentos extremamente caros, sem efetividade educacional, mas que se tornaram populares em muitas redes de ensino do país. O sr. afirma que a aprendizagem precisa de uma espécie de "ineficiência controlada", porque aprender envolve esforço, tentativa, erro e tempo. Já as ferramentas de inteligência artificial são desenvolvidas para tornar as tarefas cada vez mais rápidas e eficientes, por isso, prejudicam o processo de aprendizado. Como isso ocorre? Nós, seres humanos, desenvolvemos ao longo da vida, mas, sobretudo até os 16 ou 18 anos, as funções executivas que envolvem uma série de habilidades cognitivas e comportamentais. Essas habilidades nos permitem ter a capacidade de organização, controle de atenção, gerenciamento de tempo, autorregulação, entre outras várias habilidades. Tudo isso se desenvolve durante a infância e adolescência. E aí, aparece uma ferramenta que nos permite fazer tarefas sem precisar mobilizar essas habilidades. Quando uma criança precisa fazer uma tarefa escolar, por exemplo, ela é estimulada a recorrer a uma série de habilidades: planejar, organizar o tempo, até mesmo controlar as emoções diante de uma dificuldade. Agora, elas têm disponível uma ferramenta para a qual elas podem simplesmente dar um comando "me dê essa resposta" e a tarefa está pronta, sem que precise ter nenhum esforço. Mas é esse esforço que leva ao desenvolvimento dessas competências. E nós já estamos vivendo um passo à frente dessa situação, que são as crianças recorrendo à IA para lidar com questões emocionais. Imagine o risco, por exemplo, de criar jovens desabilitados até mesmo para as relações interpessoais. O perigo é a gente ter uma geração inteira que não consegue funcionar sem a inteligência artificial. Há um risco muito grande de crianças e adolescentes nunca desenvolverem habilidades cognitivas e socioemocionais e isso gerar um déficit permanente nessa geração. É por isso que o sr. defende a verificação de idade para usar ferramentas de inteligência artificial, como foi feito com as redes sociais? Sim, pelo menos até a gente ter mais clareza do que essas ferramentas são capazes de fazer. Nós precisamos ter pesquisas sobre o efeito disso nas crianças e adolescentes antes de deixá-las, sem controle, com essa ferramenta na mão. Já temos relatos de tragédias que aconteceram com crianças por conta desse uso sem controle de IA, como casos de suicídio, jovens que entraram numa espiral de depressão em conversas com chatbots. O uso não supervisionado dessas ferramentas por crianças é mais perigoso ainda do que as redes sociais. Os algoritmos das redes sociais são perigosos, porque são criados para viciar. O chatbot também tem isso, mas conta ainda com um elemento a mais: o domínio da linguagem. Esse domínio torna essa ferramenta ainda mais perigosa, porque nós, seres humanos, temos uma tendência a atribuir humanidade para coisas inanimadas. Por isso, é muito mais fácil entrar em uma relação neurótica, psicologicamente perigosa, com os chatbots. Os pais podem pensar que não há nenhum risco em deixar os filhos usarem esses softwares como ajuda para a lição de casa, o problema é que não sabemos o que mais eles vão perguntar depois e quais serão as respostas. Por isso, eu defendo a verificação de idade para o uso dessas ferramentas e até mesmo que elas sejam proibidas para determinadas faixas etárias ou que o uso só seja permitido com o monitoramento de um adulto. O que precisa ser feito para dar suporte às escolas? Essa deveria ser uma das agendas mais importantes para o próximo governante do país. Nós precisamos de uma força-tarefa com grande prioridade para lidar com a inteligência artificial na educação. Essa é uma situação que está acontecendo em um ritmo anormal para as mudanças educacionais, por isso, o seu enfrentamento precisa ser uma prioridade. Há dois anos, 20% dos alunos usavam essas ferramentas. Hoje, já ultrapassa 70%. Também é muito diferente de outras mudanças tecnológicas na educação, porque ela vem dos próprios alunos. Os professores estão muito desorientados sobre isso. Além do trabalho que sempre tiveram, agora eles precisam verificar se quem fez a tarefa foram os alunos ou a inteligência artificial. Eles não sabem como fazer essa verificação nem se podem ou devem punir os alunos. Isso está gerando um trabalho extra muito exaustivo. Há urgência em lidarmos com isso, porque nunca antes a gente teve uma penetração tão rápida de uma tecnologia que muda tão radicalmente a relação dos alunos com o estudo. Daqui a cinco anos a gente vai ver o resultado do uso dessas ferramentas e pode ser tarde demais para toda uma geração que não vai saber escrever ou fazer contas sem usar a inteligência artificial. Não há nenhum problema em usar uma ferramenta para nos auxiliar nos processos cognitivos. Nós fazemos isso desde que a escrita foi inventada e nos permitiu expandir nossa cognição, já que, a partir daí, a gente não precisava mais guardar tudo na memória. Nós usamos o papel como uma extensão do nosso cérebro. O problema é quando se cria uma relação com essas ferramentas que não é saudável, que cria uma dependência extrema. Então, em vez de a tecnologia expandir sua mente, sua capacidade de aprender, ela está, na verdade, reduzindo sua capacidade de compreender o mundo. RAIO-X - Paulo Blikstein, 54 É professor titular da Escola de Educação e professor afiliado no Departamento de Ciência da Computação na Universidade Columbia, nos EUA. Dirige o Lemann Center for Brazilian Studies, a Iniciativa Paulo Freire e o Transformative Learning Technologies Lab, onde desenvolve pesquisas sobre como as novas tecnologias podem transformar o ensino e a aprendizagem de ciências, computação e inteligência artificial.