Por que desligar a IA não resolve os riscos que ela traz

• A inteligência artificial, o sistema de computador que aprende sozinho a partir de dados, não tem um único botão de desligar: ela está espalhada por milhares de servidores no mundo todo.
• Segundo a Exame, o problema central não é técnico, e sim de governança: faltam regras claras sobre quem controla a IA e responde quando ela erra.
• Grande parte dos serviços que você já usa no celular depende de IA por trás, de aplicativos de banco a mapas de trânsito.
• Desligar a IA de repente causaria mais caos do que proteção, porque muitos sistemas essenciais passaram a depender dela.
• Na leitura do Clube dos Cisnes, o caminho realista é controle por regras e fiscalização, não um interruptor mágico.

A inteligência artificial não tem um botão de desligar

A Exame publicou uma análise com uma provocação simples e poderosa: por que não dá para simplesmente desligar a inteligência artificial da tomada? A reportagem mostra que essa ideia, embora reconfortante, não corresponde à realidade técnica nem econômica em que vivemos hoje, em 2026.

Isso importa para o brasileiro comum porque a IA deixou de ser assunto de filme de ficção. Ela já decide quais vídeos você vê, quanto custa a sua viagem de aplicativo e se o seu cartão foi bloqueado por suspeita de fraude. Entender por que não dá para desligá-la é entender quem manda, de verdade, na tecnologia que já organiza boa parte do seu dia.

Por que não dá para simplesmente tirar a IA da tomada?

Porque não existe uma tomada só. A inteligência artificial não mora em um computador central que alguém poderia desligar à noite. Ela funciona distribuída em milhares de servidores espalhados por vários países, como explica a Exame ao descrever por que a imagem do botão é enganosa.

O mecanismo é parecido com o da energia elétrica da sua cidade. A luz da sua casa não vem de um único gerador: ela chega por uma rede enorme, com várias usinas, linhas de transmissão e subestações. Se você quisesse apagar a luz do país inteiro de uma vez, não bastaria apertar um interruptor. Teria que coordenar centenas de pontos ao mesmo tempo, e cada um pertence a um dono diferente.

Com a IA acontece o mesmo. Um modelo de IA, que é o programa treinado para reconhecer padrões e responder, roda ao mesmo tempo em data centers nos Estados Unidos, na Europa, na Ásia e também aqui. Desligar um deles não apaga os outros. E muitos desses sistemas pertencem a empresas privadas, não a governos.

Há ainda um detalhe que a conversa de boteco costuma ignorar: boa parte dos modelos mais avançados já foi copiada e baixada por milhares de pessoas. Mesmo que a empresa original encerrasse tudo amanhã, cópias continuariam funcionando em computadores espalhados pelo mundo. É como tentar recolher a água depois que o copo virou na mesa.

Como a IA foi parar em tudo sem a gente perceber?

Ela entrou pela porta dos fundos, embutida em serviços que você já usava. Ninguém acordou um dia e instalou inteligência artificial na vida. Ela foi chegando aos poucos, dentro do aplicativo do banco, do mapa que mostra o trânsito e do filtro que separa o e-mail importante do spam.

Pense no seu dia como uma viagem de ônibus até o trabalho. O aplicativo que calcula o melhor caminho usa IA. A propaganda que aparece no seu celular no ponto usa IA. A recomendação de música que toca no fone usa IA. Você não ligou nada disso de propósito: veio junto, como o tempero que já vem na comida congelada.

Esse enraizamento silencioso é o que torna o desligamento tão perigoso. Um sistema que nasceu como conveniência virou infraestrutura. E, quando algo vira infraestrutura, tirá-lo do ar deixa de ser alívio e passa a ser apagão. Já escrevemos sobre esse espanto de perceber que a jaula da IA estava aberta o tempo todo, e o debate agora é sobre como lidar com isso.

Vale lembrar um precedente. Quando a internet se popularizou nos anos 2000, muita gente também achava que dava para viver sem ela. Hoje, um banco fora do ar por uma hora vira notícia nacional. A IA está trilhando o mesmo caminho, só que em menos tempo e com menos aviso.

Por que a governança da IA é tão complicada na prática?

Porque o problema central não é apertar um botão, e sim definir regras e responsáveis. É isso que a Exame chama de governança: o conjunto de leis, acordos e fiscalização que decide quem controla a tecnologia e quem paga a conta quando ela causa um estrago.

A dificuldade começa pela fronteira. A IA não respeita limite de país. Um modelo treinado nos Estados Unidos atende um brasileiro usando dados de uma empresa europeia. Se esse sistema erra e prejudica alguém, qual lei vale? A de onde mora o usuário, a de onde fica o servidor, ou a de onde está a empresa? Não há resposta fácil, e cada país puxa para o seu lado.

Some a isso a velocidade. A tecnologia muda a cada poucos meses, enquanto uma lei leva anos para ser aprovada. É como tentar fotografar um carro em alta velocidade com uma câmera antiga: quando a foto fica pronta, o carro já está longe. Por isso tanta regra nasce atrasada em relação ao que a IA já faz.

Há também um conflito de interesses pouco confortável. As empresas que mais entendem de IA são justamente as que lucram com ela. Pedir que elas se autorregulem é como pedir que o próprio jogador apite a partida. No Brasil, esse debate aparece na discussão sobre o Marco da IA e suas sanções, que tenta equilibrar controle e inovação sem travar o setor.

Quem é que decide as regras da inteligência artificial?

Hoje, ninguém sozinho. E esse é exatamente o problema que a reportagem da Exame coloca na mesa. O poder de decisão está dividido entre governos, grandes empresas de tecnologia e organismos internacionais que ainda não chegaram a um acordo.

De um lado estão os países ricos, que abrigam as maiores empresas de IA e querem proteger seus negócios. De outro, nações em desenvolvimento, incluindo o Brasil, que correm o risco de apenas consumir uma tecnologia decidida lá fora. Esse descompasso é o centro do debate global sobre quem define as regras da IA, hoje puxado por fóruns internacionais.

Para entender o tamanho do impasse, compare com o trânsito de aviões. Um voo que sai de São Paulo e pousa em Lisboa obedece a regras combinadas entre vários países, com uma autoridade internacional coordenando. Levou décadas para esse sistema funcionar bem. A IA ainda não tem nada parecido, e voa muito mais rápido que qualquer avião.

Enquanto o acordo não vem, cada empresa define suas próprias regras internas. Isso cria um cenário desigual: o que é proibido em uma plataforma é liberado em outra. Para o usuário comum, significa que a sua proteção depende de qual serviço você usou, não de um direito garantido para todos.

O que pode dar errado se a IA ficar sem controle?

Muita coisa, e nem sempre de forma barulhenta. O maior risco não é o robô rebelde do cinema, e sim erros silenciosos que afetam decisões reais sobre dinheiro, saúde e emprego das pessoas.

Um exemplo concreto: imagine que um sistema de IA de um banco aprenda, a partir de dados antigos, a negar crédito com mais frequência para moradores de certos bairros. Ninguém programou isso de propósito. O sistema apenas repetiu um padrão injusto que já existia nos dados. O resultado é uma pessoa honesta sem empréstimo, sem saber por quê e sem ter com quem reclamar.

Outro risco é a chamada alucinação, quando a IA responde com total confiança uma informação simplesmente falsa. Já tratamos de como a governança em IA tenta reduzir essas alucinações, porque uma resposta errada apresentada como verdade pode levar alguém a tomar um remédio errado ou assinar um contrato ruim.

Há ainda a questão da segurança. Quanto mais a IA controla sistemas importantes, mais atraente ela fica para criminosos. Um ataque bem-sucedido não derruba só um site: pode afetar hospitais, bancos e serviços públicos ao mesmo tempo. É o reverso do enraizamento. A mesma rede que traz conveniência concentra o estrago quando algo falha.

O que muda para o pequeno negócio brasileiro?

Muda que o dono de um pequeno negócio já depende de IA mesmo sem saber, e precisa aprender a conviver com ela de forma consciente. A máquina de cartão, o aplicativo de entrega e a rede social onde ele anuncia usam inteligência artificial por baixo do pano.

Na prática, isso tem dois lados. O lado bom é que ferramentas antes restritas a grandes empresas chegaram ao pequeno comerciante. Hoje, uma padaria consegue responder clientes no WhatsApp com ajuda de um assistente automático, algo impensável há poucos anos. O lado ruim é a dependência: se a plataforma muda a regra ou aumenta o preço, o pequeno fica refém.

Imagine uma loja de roupas que vende quase tudo pela rede social. De repente, o sistema de recomendação da plataforma muda e os anúncios param de aparecer para o público certo. As vendas caem pela metade, e o dono não tem a quem recorrer. Ele nunca teve o botão de desligar, mas também nunca teve o botão de ligar: quem aperta os dois é a plataforma.

É por isso que entender governança de IA não é assunto só de político ou de engenheiro. Para quem vive do próprio negócio, saber como essas regras funcionam virou tão importante quanto saber calcular o troco.

O que dá para fazer para colocar a IA sob controle?

Dá para controlar a IA por regras, fiscalização e transparência, não por um interruptor. Esse é o consenso que emerge da análise da Exame: como não existe botão de desligar, o controle precisa ser feito pelas bordas, definindo o que a tecnologia pode e não pode fazer.

O primeiro passo são leis que exijam transparência. Se um sistema nega crédito ou recusa um candidato a emprego, a empresa deveria ser obrigada a explicar o porquê em linguagem simples. Hoje, muitas decisões acontecem dentro de uma caixa-preta, e nem quem opera o sistema sabe explicar o resultado.

O segundo é a fiscalização independente, feita por alguém que não lucra com a tecnologia. Voltando à comparação com a aviação: existe uma autoridade que investiga acidentes e obriga mudanças. A IA precisa de algo parecido, um órgão que investigue falhas graves e force correções, em vez de deixar cada empresa julgar a si mesma.

O terceiro é a cooperação entre países, já que a IA não tem fronteira. Sem acordos internacionais, uma regra forte no Brasil pode ser driblada por um servidor em outro continente. E vale um alerta que as próprias reportagens de segurança reforçam: de nada adianta ter regra se, como mostra o caso de empresas que ignoram alertas de segurança, ninguém é cobrado por descumpri-la.

O risco da inteligência artificial nunca foi ela não ter um botão de desligar; é nós confiarmos tanto nesse botão imaginário que esquecemos de escrever as regras enquanto ainda dava tempo.

O que o Clube dos Cisnes enxerga por trás do "botão de desligar"

No Clube dos Cisnes, entendemos que a pergunta sobre desligar a IA é, na verdade, uma pergunta sobre poder. Quem controla o interruptor controla a economia digital inteira. E a notícia desconfortável é que esse interruptor não está nas mãos do cidadão nem, sozinho, nas mãos do governo brasileiro.

Na nossa leitura, o maior perigo dos próximos anos não é um colapso espetacular, e sim a acomodação. As pessoas vão se acostumando a decisões automáticas sobre a própria vida, e cada pequena perda de controle parece aceitável quando olhada isolada. É como o aumento silencioso no preço do pãozinho: um centavo de cada vez, até você perceber que a conta dobrou.

Para trazer isso ao chão, uma estimativa da CDC, baseada na nossa experiência acompanhando pequenos negócios, e não um dado verificado de terceiros: adaptar uma pequena empresa para usar IA com um mínimo de controle, revisando contratos de plataforma, treinando a equipe e definindo regras internas sobre o que pode ser automatizado, costuma custar menos tempo do que dinheiro. Falamos de algumas semanas de atenção do dono, não de uma fortuna. O caro, quase sempre, é o preço de não fazer nada e descobrir o problema depois.

Nossa previsão fundamentada: até o fim de 2027, veremos os primeiros casos de peso no Brasil em que consumidores e pequenos negócios cobrarão na Justiça explicações por decisões tomadas por IA. A pressão não virá de um grande acidente, e sim do acúmulo de pequenas injustiças que, somadas, viram caso de tribunal. Quem tratar governança como luxo vai descobrir, tarde, que era necessidade.

Nós defendemos uma posição clara: controle de IA não é freio de inovação, é cinto de segurança. Ninguém deixa de dirigir porque o carro tem cinto. Dirige com mais confiança justamente porque ele existe.

No fim, a pergunta certa nunca foi se dá para desligar a IA. É se teremos a sabedoria de escrever as regras antes que ela escreva as nossas.