IA do governo vai detectar notícias com medo ou preconceito

Uma máquina para ler as entrelinhas das notícias

O governo desenvolveu uma inteligência artificial capaz de ler notícias e detectar se elas apelam para o medo ou para o preconceito. Segundo o levantamento reunido pelo Google News, a ferramenta analisa o conteúdo das informações que circulam na internet. Ela não olha só o assunto: ela examina o jeito como o texto foi escrito.

Inteligência artificial, aqui, é um programa de computador que aprende a reconhecer padrões depois de ver milhares de exemplos. É parecido com quem trabalha anos numa feira e passa a bater o olho e saber se a fruta está boa. A diferença é a velocidade. A máquina faz isso com milhões de textos por dia, algo que nenhuma equipe de pessoas conseguiria.

O objetivo declarado é ajudar a identificar desinformação, aquilo que a gente costuma chamar de fake news. Mas, como toda ferramenta poderosa, ela vem acompanhada de uma dúvida que não é técnica, e sim humana: quem decide o que é ou não é manipulação?

Por que isso mexe com a sua vida, mesmo que você nunca ouça falar dela

Talvez você pense que uma tecnologia do governo não tem nada a ver com o seu dia. Tem, e muito. Pense em quantas notícias passam pela sua tela todos os dias. No grupo da família no WhatsApp, no feed do Instagram, naquele áudio que um amigo encaminhou. Boa parte dessas mensagens não quer só informar. Ela quer que você sinta alguma coisa: raiva, medo, indignação.

Uma notícia que mexe com a emoção viaja mais rápido. É como fofoca de novela: todo mundo repassa antes de conferir se é verdade. O problema é que o susto e a raiva desligam a parte do cérebro que pergunta "será que isso é real?". É exatamente aí que a mentira se espalha melhor.

Uma ferramenta que consiga apontar quando um texto está apelando para o medo, em vez de trazer fatos, pode ajudar você a não cair em golpe, a não repassar boato e a não brigar com o tio no almoço de domingo por causa de uma informação falsa. Esse é o lado bom da promessa. Mas ele vem com asteriscos que a gente precisa ler com calma.

O que a máquina realmente procura no texto

Segundo a descrição da ferramenta, ela é treinada para reconhecer padrões de linguagem que manipulam emoções em vez de informar com fatos. Na prática, isso significa que ela caça certos sinais dentro das frases.

Um exemplo do dia a dia ajuda a entender. Compare duas maneiras de contar a mesma coisa. A primeira: "O preço do arroz subiu 4% no último mês, segundo o instituto de pesquisa X". A segunda: "URGENTE: eles estão deixando o povo passar fome e ninguém faz nada!". As duas falam de comida cara. Só que a primeira te dá um número e uma fonte. A segunda te dá um inimigo, um susto e uma ordem implícita de se revoltar.

A inteligência artificial aprende a diferença entre esses dois tons. Ela repara em palavras de alarme como "urgente", "chocante", "eles não querem que você saiba". Repara em generalizações que jogam um grupo inteiro de pessoas contra outro. Repara na ausência de fonte, de número, de nome de quem afirmou aquilo.

É importante ser honesto sobre o limite disso. A máquina não sabe se o fato é verdadeiro. Ela sabe apenas se o texto tem cara de manipulação. São coisas diferentes. Uma notícia pode ser verdadeira e ainda assim escrita de forma sensacionalista. E uma mentira pode estar escrita num tom calmo e educado, o que engana a máquina. Essa é a primeira rachadura na promessa.

O detalhe que muda tudo: quem programa o filtro

Aqui chegamos ao ponto que as manchetes costumam esconder, e que é a análise mais importante desta história. Uma inteligência artificial não nasce sabendo o que é preconceito ou o que é medo abusivo. Ela aprende com exemplos que pessoas escolheram e rotularam.

Imagine uma receita de bolo. O sabor final depende dos ingredientes que você põe. Se alguém coloca sal no lugar do açúcar, o bolo sai salgado, por mais moderno que seja o forno. Com a IA acontece o mesmo. Se as pessoas que treinaram a máquina consideram que criticar o governo é "apelo ao medo", a máquina vai aprender a marcar críticas legítimas como manipulação. Não por maldade do computador, mas porque foi isso que ensinaram a ele.

Esse é o risco real que o próprio material sobre a ferramenta admite: o uso dessa tecnologia levanta dúvidas sobre quem decide o que é ou não manipulação. Uma ferramenta pensada para combater mentira pode, nas mãos erradas ou com as regras erradas, virar um instrumento para rotular opinião incômoda como "desinformação". A fronteira entre proteger o público e silenciar o debate é fina, e ela não está no código. Está na decisão de quem manda no código.

Onde já vimos esse filme antes

Nada disso é totalmente novo. Redes sociais como Facebook, Instagram e YouTube já usam sistemas automáticos há anos para tirar do ar conteúdo violento, golpe e discurso de ódio. Qualquer pessoa que já teve uma foto boba derrubada por "nudez", quando não havia nudez nenhuma, conhece o problema na pele. A máquina erra. Ela erra bastante. E, quando erra, quem paga a conta é o usuário comum, que muitas vezes nem tem para quem reclamar.

A novidade aqui é o dono da ferramenta. Uma coisa é uma empresa privada moderar a própria rede, onde você entrou por vontade própria e pode sair. Outra coisa é um governo, que tem poder de lei e de polícia, decidir o que conta como notícia manipuladora. O peso é diferente. Por isso a mesma tecnologia que parece ótima na mão de um aplicativo assusta na mão do Estado.

Há um caminho do meio, e vale dizê-lo com clareza, porque as fontes não trazem essa reflexão. Ferramentas assim tendem a ser mais confiáveis quando têm três coisas: transparência sobre como decidem, direito de a pessoa recorrer quando é marcada por engano, e uma supervisão de fora do governo, feita por universidades, jornalistas e sociedade civil. Sem esses três freios, o filtro vira caixa-preta. E caixa-preta nas mãos de quem tem poder raramente termina bem para o cidadão comum.

Como se proteger sem depender de nenhuma máquina

Enquanto a discussão sobre a ferramenta do governo continua, você não precisa esperar de braços cruzados. Dá para treinar o seu próprio filtro, o que fica entre suas orelhas, com hábitos simples.

Primeiro, desconfie do que te dá um tapa na emoção. Se uma mensagem te deixou com raiva ou com medo em três segundos, respire antes de repassar. Emoção forte é justamente a isca. Segundo, procure a fonte. Notícia séria diz quem falou, quando e onde. Se não tem nome nem data, acenda o sinal amarelo. Terceiro, faça a busca do título. Copie a manchete, jogue num buscador e veja se veículos conhecidos publicaram o mesmo. Se só sites estranhos falam daquilo, provavelmente é boato.

Esses passos custam trinta segundos. Eles fazem o que a inteligência artificial faz, só que com uma vantagem enorme: quem decide é você, e não um programa cujas regras você não conhece.

Uma ferramenta é tão boa quanto a mão que a segura

A ideia de uma máquina que fareja medo e preconceito nos textos é sedutora, e num mundo afogado em boato ela pode até ajudar. Mas tecnologia não tem lado sozinha. Ela faz o que mandam. O martelo constrói uma casa ou arromba uma porta, dependendo de quem o empunha. Antes de aplaudir ou de condenar essa IA do governo, a pergunta certa não é "a máquina funciona?". É "quem escreveu as regras que ela obedece, e o que acontece quando ela erra com você?".