A IA não pode definir o que merece a nossa confiança

Quando a IA viabiliza absurdos diante de nós, a reputação da imprensa pode ajudar a restaurar a confiança - Ilustração: Paulo Silvestre As novas regras de transparência da lei europeia de inteligência artificial, o AI Act, que valem desde o dia 2 de agosto, podem beneficiar o mundo todo ao provocar mudanças globais nessas plataformas. Elas exigem que certos conteúdos gerados ou manipulados por IA sejam identificáveis. A Anthropic largou na frente e passou a incorporar marcas digitais "invisíveis" em textos e metadados de procedência em arquivos produzidos ou processados pelo Claude. Ou seja, a tecnologia começa a deixar suas digitais naquilo que produz, o que é bem-vindo. Mas saber que uma IA participou de um conteúdo não basta para determinar sua credibilidade. Afinal, isso pode indicar a participação da máquina, mas não necessariamente quem criou, verificou ou responde pelo que foi publicado. O "carimbo" de participação da IA não revela quem teve a ideia, forneceu os dados, escreveu, editou ou assumiu a responsabilidade pelo material. Além disso, a participação da máquina não é binária. Por exemplo, um jornalista pode usar a tecnologia para transcrever uma entrevista, enquanto outro pode delegar a ela toda a produção de um texto. Logo, saber que a IA "tocou" o conteúdo é importante, mas saber como isso se deu será ainda mais. Além disso, uma informação criada por um robô pode estar correta, assim como uma mentira pode sair da cabeça de uma pessoa. Por isso, esse "carimbo" não pode funcionar como um "selo de desconfiança", e sim como uma informação adicional para que o público saiba a origem e o contexto do conteúdo. Assine gratuitamente minha newsletter sobre IA, experiência do cliente, mídia e transformação digital Inscreva-se no meu podcast (escolha a plataforma): Spotify , Deezer , Apple Podcasts ou Soundcloud Essa transparência tampouco resolve a questão da responsabilidade. Saber que uma IA produziu ou manipulou um conteúdo não esclarece quem decidiu publicá-lo, verificou suas informações ou deve responder por eventuais danos. A etiqueta identifica a participação da tecnologia, mas não substitui a responsabilidade humana, especialmente quando o conteúdo influencia decisões pessoais, políticas ou sociais. Isso se agrava porque textos, imagens, áudios e até vídeos já podem ser produzidos ou alterados por máquinas sem que isso salte aos olhos. Acreditarmos em uma falsificação é bem ruim, porém mais grave é, por conta desse poder, passarmos a desconfiar de conteúdos verdadeiros. A IA pode, assim, não apenas produzir mentiras, mas tornar mais fácil desacreditar a verdade. Já estamos em plena campanha eleitoral, e isso pode se transformar em uma poderosa arma política. Quando qualquer conteúdo pode ser questionado, fica fácil plantar dúvidas sobre fatos inconvenientes. Pessoas mal-intencionadas podem atribuir à IA uma verdade para desacreditá-la. Mais que combater a mentira, precisamos preservar a capacidade de reconhecer e acreditar na realidade. Siga-me no LinkedIn Siga-me no Instagram Siga-me no YouTube É justamente nesse cenário que o jornalismo profissional pode resgatar seu papel de organizador do debate público. Se qualquer um passa a ser capaz de produzir informação em escala, o diferencial deixa de ser a simples criação de conteúdo e passa à capacidade de oferecer apuração, contexto, verificação e responsabilidade editorial. A imprensa precisa se posicionar com o compromisso com a confiança sobre a informação que está colocando no mundo. Se a IA nos oferece hoje a chance de produzir muito conteúdo, o jornalismo profissional deve se diferenciar pela capacidade de oferecer algo além da informação. Se, de um lado, teremos as plataformas de IA identificando suas produções, do outro a imprensa pode atuar como uma referência de autenticidade, não porque garanta que toda informação esteja correta, mas porque identifica quem a produziu e se responsabiliza por ela. Portanto, rotular produções sintéticas não resolverá a crise de confiança que já enfrentamos. O jornalismo tem, por outro lado, uma chance rara de transformar sua reputação em um diferencial concreto, valendo-se do seu método. Em um mundo em que qualquer um pode fabricar uma "verdade", o maior valor de uma notícia passa a ser alguém disposto a colocar seu nome nela. Vídeo relacionado: