Ex-executiva do DeepMind: corrida por IA pode ser um desastre

Uma pessoa de dentro do setor liga o sinal de alerta

Verity Harding trabalhou por anos no DeepMind, laboratório de inteligência artificial ligado ao Google. Ela cuidava de política pública, ou seja, da relação entre a tecnologia e as regras do jogo. Agora, em entrevista à revista Wired, ela avisa que a corrida por IA pode terminar em desastre.

O detalhe importante é quem está falando. Não é um crítico de fora, nem alguém que odeia tecnologia. É uma profissional que ajudou a construir esse mundo por dentro. Quando alguém que estava na cozinha diz que a comida pode estar estragando, vale a pena escutar.

Quem é Verity Harding e por que a opinião dela pesa

Harding não é um nome famoso no Brasil, mas circula nos bastidores onde as decisões sobre IA acontecem. Segundo a Wired, ela vem do DeepMind, empresa responsável por avanços que viraram manchete no mundo todo, como programas que aprenderam a jogar xadrez e a prever o formato de proteínas. Proteínas, aqui, são as pecinhas que montam o nosso corpo. Prever o formato delas ajuda a criar remédios.

Ou seja, ela não fala de longe. Ela viu como essas empresas pensam, como negociam com governos e o que está em jogo nas reuniões fechadas. É por isso que o alerta dela é diferente do medo genérico de "robô que vai dominar o mundo". A preocupação é mais concreta e mais política.

Harding também é autora de um livro sobre o tema, no qual defende uma ideia simples: o futuro da inteligência artificial não está decidido. Ele depende de escolhas humanas, feitas por gente comum e por governos. Não é um destino que cai do céu. É uma construção. E toda construção pode desabar se for erguida com pressa e sem projeto.

O que significa tratar a IA como "corrida armamentista"

O centro do alerta, segundo a Wired, é a expressão corrida armamentista. Ela vem da Guerra Fria, quando Estados Unidos e União Soviética disputavam quem tinha mais bombas atômicas. A lógica era assustadora: se o outro lado está fabricando arma, eu preciso fabricar mais rápido, custe o que custar.

Harding avisa que estão aplicando essa mesma lógica à inteligência artificial. Países e empresas passaram a enxergar a IA como uma disputa em que perder não é opção. E quando a pressa vira regra, a segurança vira detalhe. Ninguém para para checar se o carro tem freio quando está convencido de que precisa cruzar a linha de chegada antes do vizinho.

Pense numa obra tocada às pressas para inaugurar antes do concorrente. O prédio até fica de pé no dia da festa. O problema aparece depois, quando ninguém mais está olhando. Com a IA, o risco é parecido: sistemas lançados sem teste suficiente porque parar significaria "ficar para trás".

Por que essa disputa mexe com a sua vida, mesmo longe do Vale do Silício

Pode parecer papo de rico em outro continente. Não é. A inteligência artificial já decide coisas que te afetam todo dia, mesmo que você não perceba. Ela filtra o que aparece no seu feed. Ela influencia se um banco aprova ou não o seu empréstimo. Ela ajuda a definir preços, anúncios e até a triagem de currículos numa vaga de emprego.

Quando essa tecnologia é desenvolvida na correria de uma disputa entre potências, os cuidados ficam em segundo plano. E os erros de um sistema apressado não ficam presos no laboratório. Eles vazam para o aplicativo que você usa, para o serviço público que depende dele, para a notícia que você lê. Um sistema mal ajustado pode reprovar você num crédito por engano, ou espalhar uma informação falsa em escala gigante.

Há ainda o efeito indireto. Se os países mais ricos tratam a IA como arma, eles gastam energia disputando poder em vez de resolver problemas reais, como saúde e educação. O Brasil entra nessa história como quem assiste ao jogo sem estar em campo, mas ainda assim leva o resultado para casa. Importamos a tecnologia, as regras e também os problemas prontos.

O nacionalismo tecnológico e o caminho para o pior cenário

Um ponto que a Wired destaca na fala de Harding é o nacionalismo, principalmente o americano. A ideia de "nós temos que ganhar essa corrida" vira desculpa para afrouxar limites. Afinal, se colocar freio na própria indústria, o argumento é de que o outro país sai na frente.

É aí que mora o pior cenário. Quando todo mundo usa o medo do rival para não se regular, ninguém se regula. Vira uma competição para ver quem corre mais sem cinto de segurança. E o problema da tecnologia é que ela não respeita fronteira. Uma IA perigosa criada em um país não fica dentro daquele país. Ela roda na nuvem, atravessa o mundo pela internet e chega ao seu celular.

Harding defende o caminho oposto, de acordo com a Wired: cooperação e regras claras, em vez de disputa cega. Não por ingenuidade, mas por interesse próprio. Assim como países rivais acabaram assinando acordos para controlar armas nucleares, ela sugere que a IA pede o mesmo tipo de conversa adulta entre governos.

A análise do Clube dos Cisnes: o discurso da corrida é conveniente para quem?

Aqui entra um ângulo que vai além do que a reportagem traz. Vale perguntar: quem lucra quando a IA é vendida como corrida armamentista? A resposta incomoda. Empresas de tecnologia adoram esse enquadramento, porque ele funciona como escudo. Se qualquer regra vira "ameaça à segurança nacional", fica muito mais fácil pedir dinheiro público, escapar de fiscalização e apressar lançamentos.

Em outras palavras, o medo do inimigo externo pode ser usado para calar o debate interno. É uma tática antiga, que já vimos em outras indústrias. Transformar tudo em guerra é a melhor forma de impedir que o cidadão comum pergunte "espera, isso é seguro mesmo?". O alerta de Harding, lido assim, não é só sobre países. É sobre não deixar que a palavra "corrida" sirva de desculpa para ninguém prestar contas.

Para o leitor brasileiro, fica uma lição prática. Da próxima vez que você ouvir que o país precisa "não ficar para trás na IA a qualquer custo", desconfie do "a qualquer custo". Pressa costuma ser o disfarce de quem não quer explicar as escolhas. E, nesse jogo, quem paga a conta do erro raramente é quem tomou a decisão lá em cima.

O recado de quem já esteve dentro do laboratório é claro: o futuro da inteligência artificial não é um trilho fixo. É uma estrada com várias saídas, e ainda dá tempo de escolher a curva certa antes do abismo.