IA errou e causou dano: quem vai pagar a conta no Brasil?

Quando o computador decide e a coisa da errada

Cada vez mais decisoes na sua vida passam por uma inteligencia artificial. Um sistema aprova ou nega seu emprestimo. Um programa filtra seu curriculo. Um aplicativo diz se voce pode fazer aquele exame pelo convenio. Segundo o noticiario reunido pelo Google News sobre IA no Brasil, esse tipo de uso cresceu rapido nos ultimos dois anos.

O problema aparece quando a maquina erra. E ela erra. Um algoritmo, que e apenas uma receita de passos que o computador segue, pode negar um credito para quem tinha direito. Pode barrar um curriculo bom por um detalhe bobo. Quando isso acontece e alguem sai prejudicado, surge a pergunta que ninguem quer responder: de quem e a culpa?

O fato: a tecnologia correu na frente da lei

A situacao e simples de descrever e dificil de resolver. As empresas colocaram sistemas de inteligencia artificial para funcionar em bancos, hospitais, lojas e ate em orgaos publicos. Isso aconteceu principalmente a partir de 2023, quando ferramentas como o ChatGPT viraram assunto de mesa de bar. So que a lei brasileira nao acompanhou esse ritmo.

Traduzindo para o dia a dia: a tecnologia entrou na sua vida antes das regras que deveriam te proteger dela. E como se todo mundo comecasse a dirigir carro numa cidade que ainda nao tem semaforo, faixa de pedestre nem placa. Enquanto ninguem bate, tudo bem. O problema aparece na primeira batida.

Por que isso mexe com o seu bolso e a sua rotina

Voce pode achar que esse assunto e coisa de advogado e empresa grande. Nao e. Pense numa situacao real. Voce vai financiar uma geladeira e o sistema do banco nega, sem explicar o motivo. Voce sabe que paga suas contas em dia. Mas quem voce vai procurar? O gerente diz que foi o sistema. O sistema nao tem rosto, nao tem telefone, nao atende.

Esse e o coracao do problema. Quando uma pessoa te causa um dano, voce sabe para quem apontar. Quando uma maquina causa o dano, a responsabilidade se espalha por tantas maos que parece sumir. E a conta, no fim, costuma sobrar para o lado mais fraco: voce.

Outro exemplo do cotidiano. Imagine uma clinica que usa um programa de IA para ajudar o medico a ler exames. O programa erra, aponta que esta tudo bem e a doenca passa batida. Quem responde por esse erro? O medico que confiou na maquina? A clinica que comprou o programa? A empresa que criou o programa? Cada um vai apontar para o outro.

Empresa, programador ou usuario: a batata quente da culpa

Aqui esta o no do debate, e vale destrinchar cada lado. Existem tres candidatos a pagar a conta, e cada um tem um argumento para escapar.

O primeiro e a empresa que usa a inteligencia artificial, o banco ou a loja. O argumento dela: 'eu so comprei uma ferramenta pronta, nao fui eu que programei'. E como o dono de um restaurante que compra um fogao com defeito de fabrica.

O segundo e o desenvolvedor, a empresa de tecnologia que criou o sistema. O argumento dele: 'eu entreguei a ferramenta funcionando, quem decidiu usar do jeito errado foi o cliente'. E o fabricante do fogao dizendo que o problema foi a cozinha do restaurante.

O terceiro, acredite, e o proprio usuario, ou seja, voce. Em alguns casos as empresas alegam que a pessoa aceitou os termos de uso, aqueles textos gigantes que ninguem le, e que ali estava escrito que a maquina podia falhar. E o cliente do restaurante sendo culpado por ter escolhido comer ali.

Percebe o jogo? Cada um dos tres empurra a batata quente para o outro. E enquanto essa disputa nao tem uma regra clara, quem levou o prejuizo fica sem ninguem para cobrar. No noticiario brasileiro sobre o tema, essa indefinicao aparece como a principal preocupacao de especialistas em direito digital, o ramo do direito que cuida das relacoes envolvendo tecnologia.

O Brasil ainda esta escrevendo essa regra

O pais nao esta totalmente parado, e isso e importante dizer com honestidade. Existe uma proposta de lei em discussao no Congresso, conhecida como o marco legal da inteligencia artificial, que tenta justamente definir de quem e a responsabilidade quando um sistema causa dano. O texto ja passou pelo Senado e segue em debate. Ou seja: a regra esta sendo escrita, mas ainda nao esta valendo de forma completa.

Enquanto isso, o Brasil se apoia em leis que ja existem, mas que foram feitas para outro mundo. O Codigo de Defesa do Consumidor, por exemplo, ja obriga empresas a responderem por defeitos de produtos e servicos. A duvida e: uma decisao errada de uma inteligencia artificial conta como 'defeito de servico'? Os tribunais ainda estao aprendendo a responder isso, caso a caso.

Vale olhar para fora tambem. A Uniao Europeia aprovou em 2024 a chamada Lei de Inteligencia Artificial, considerada a regra mais rigorosa do mundo sobre o tema. Ela classifica os sistemas por nivel de risco e cobra mais responsabilidade de quem usa IA em areas sensiveis, como saude e credito. O Brasil olha para esse modelo europeu como referencia, mas ainda precisa decidir o proprio caminho.

A analise que a noticia nao te conta: o perigo do 'a maquina que decidiu'

Aqui vai um ponto que raramente aparece nas materias e que, na minha leitura, e o mais perigoso de todos. O maior risco nao e so a IA errar. E a inteligencia artificial virar uma desculpa perfeita para ninguem assumir responsabilidade nenhuma.

Repare no padrao. Quando um atendente humano te trata mal, existe um culpado com nome e cracha. Quando 'o sistema' te trata mal, a empresa ganha um escudo invisivel. 'Foi o algoritmo' vira o novo 'nao fui eu, foi o computador'. So que agora essa frase pode negar seu emprego, seu credito e ate atrapalhar seu tratamento de saude.

Por isso o verdadeiro teste de qualquer lei brasileira nao sera punir a maquina, porque maquina nao vai presa nem paga multa. O teste sera garantir que sempre exista um ser humano ou uma empresa com nome e endereco para chamar a responsabilidade. Se a lei permitir que a culpa evapore no ar toda vez que houver um algoritmo no meio, ela ja nasceu falhada. Esse e o detalhe que o cidadao comum deveria cobrar de quem escreve essas regras.

Na pratica, o que voce pode fazer hoje e simples: sempre que uma decisao automatica te prejudicar, exija por escrito o motivo e o nome do responsavel humano. Guarde tudo. A lei ainda esta em construcao, mas o seu direito de perguntar 'quem decidiu isso?' ja existe.

No fim, a pergunta do titulo continua no ar, e e proposital. A maquina aprende rapido. A lei anda devagar. E, por enquanto, quem paga a conta do erro costuma ser justamente quem menos entende como a conta foi feita.