Empresa de IA alerta PF sobre ameaças de morte a Lula no ChatGPT

• Uma empresa de inteligência artificial comunicou à Polícia Federal que encontrou ameaças de morte ao presidente Lula em conversas feitas no ChatGPT, segundo o Jornal O Sul.
• A Polícia Federal abriu investigação para descobrir quem escreveu as mensagens.
• ChatGPT é um robô de conversa da empresa OpenAI; tudo o que você digita nele pode ser registrado e analisado.
• O episódio prova, na prática, que uma ferramenta de IA pode virar testemunha e entregar o autor de um crime à polícia.

Empresa de IA aciona a Polícia Federal após achar ameaças a Lula no ChatGPT

Uma empresa de inteligência artificial comunicou à Polícia Federal que identificou ameaças de morte ao presidente Luiz Inácio Lula da Silva dentro de conversas geradas no ChatGPT. A informação foi divulgada pelo Jornal O Sul. De acordo com a publicação, o conteúdo foi repassado às autoridades brasileiras, que abriram uma apuração para descobrir a autoria das mensagens.

Inteligência artificial é a tecnologia que faz um programa de computador imitar tarefas do cérebro humano, como escrever e responder perguntas. O ChatGPT é o exemplo mais famoso: um robô de conversa criado pela empresa americana OpenAI, lançado em novembro de 2022, que hoje tem centenas de milhões de usuários no mundo.

Por que isso importa para você, que talvez nunca tenha ameaçado ninguém? Porque o caso derruba uma ideia muito comum: a de que conversar com um robô é algo totalmente privado, como pensar alto sozinho em casa. Não é. O que você escreve fica guardado em um servidor de uma empresa, pode ser lido e, em situações graves, pode chegar à polícia.

As ameaças de morte a Lula apareceram mesmo dentro do ChatGPT?

Sim. Segundo o Jornal O Sul, as ameaças ao presidente foram escritas em conversas feitas no próprio ChatGPT, e a empresa de inteligência artificial responsável identificou esse conteúdo e o levou à Polícia Federal. Não foi um boato de rede social: o rastro nasceu dentro da ferramenta de IA.

Para entender como isso é possível, pense no funcionamento básico da coisa. Quando você abre o ChatGPT e digita uma frase, essa frase não fica só na tela do seu celular. Ela viaja até os computadores da empresa, é processada ali e volta com uma resposta. Nesse caminho, tudo o que foi escrito pode ficar armazenado.

É parecido com mandar uma mensagem de texto pela operadora de telefonia. Você vê a conversa na sua tela, mas ela passou por uma empresa no meio do caminho, que tem registro daquilo. A diferença é que, no caso da IA, a própria empresa usa programas automáticos para vasculhar esse conteúdo em busca de sinais de perigo.

Vale um alerta contra um erro comum: muita gente acha que apagar a conversa na tela faz o conteúdo sumir para sempre. Não é bem assim. O registro pode continuar guardado nos servidores da empresa por um tempo, exatamente como neste episódio, em que o material chegou às mãos das autoridades.

Como uma empresa de IA consegue ver o que escrevem no robô?

A empresa consegue ver porque é ela quem opera o robô, e porque mantém sistemas automáticos de moderação, programas que leem as conversas procurando conteúdo proibido. Moderação de conteúdo é justamente esse filtro que marca mensagens com violência, abuso ou ameaças.

O mecanismo funciona em camadas. Primeiro, um programa automático varre milhões de frases e levanta a mão quando encontra algo que combina com padrões de risco, como uma ameaça de morte. Depois, casos mais sérios costumam passar por revisão humana, feita por funcionários treinados. Só então a empresa decide o que fazer: bloquear o usuário, apagar o conteúdo ou, nos casos extremos, avisar a polícia.

Imagine o porteiro de um prédio que acompanha as câmeras. Ele não assiste a cada segundo de todas as telas, mas foi treinado para reagir na hora em que vê alguém pulando o muro. O sistema de moderação da IA age como esse porteiro digital: a maior parte passa sem chamar atenção, mas o comportamento perigoso dispara o alerta.

Esse tipo de uso da tecnologia para segurança não é novidade. No Brasil, já mostramos como a inteligência artificial vem transformando a segurança pública em estados como Goiás, e, fora do país, polícias já treinam com apoio de inteligência artificial. A diferença aqui é que a IA não foi usada pela polícia: foi a empresa de IA que procurou a polícia.

Por que a empresa avisou a polícia em vez de só apagar a conversa?

Porque uma ameaça de morte ao presidente da República não é apenas uma violação das regras de uso do aplicativo: é um indício de crime. Ameaçar alguém de morte é crime no Brasil, e ameaçar um chefe de Estado envolve também a segurança institucional do país. Nesses casos, apenas apagar a mensagem deixaria o possível autor livre e sem rastro.

Empresas de tecnologia que operam globalmente costumam ter políticas internas que preveem comunicar às autoridades quando detectam risco concreto à vida de uma pessoa. A lógica é a mesma de um banco que avisa o Coaf ao notar uma movimentação financeira suspeita: existe um dever de reportar quando o indício é grave.

Pense numa novela das nove. O vilão escreve um bilhete planejando um atentado e joga no lixo, achando que ninguém vai ver. Só que a empregada encontra o papel e leva à delegacia. No caso real, o papel no lixo é a conversa no ChatGPT, e a empregada atenta é o sistema da empresa de IA. O que parecia descartado virou prova.

No Clube dos Cisnes, entendemos que essa decisão de avisar a polícia marca uma virada de papel. A empresa deixou de se comportar apenas como dona de um programa e passou a agir como guardiã de uma informação de interesse público. É uma responsabilidade enorme, e também um poder enorme.

Tudo o que eu digito no ChatGPT está sendo vigiado?

Na prática, tudo o que você escreve em um robô de conversa pode ser registrado e analisado por sistemas automáticos, mas isso não significa que uma pessoa esteja lendo cada frase sua em tempo real. A varredura é feita por programas, e a atenção humana costuma recair sobre o que os filtros marcam como perigoso.

Ainda assim, o recado deste caso é claro: não existe a privacidade total que muita gente imagina. O mesmo vale para quem usa IA no trabalho. Se um funcionário cola dados sigilosos da empresa, uma senha ou uma informação de cliente dentro de um chatbot gratuito, esse conteúdo sai do controle da empresa e passa para o servidor de terceiros.

É aqui que mora um risco silencioso para o cidadão comum e para quem tem um pequeno negócio. Já tratamos disso ao mostrar como a facilidade da IA abre brechas de segurança reais, no texto em que explicamos que a jaula da IA estava aberta e quais são os riscos de verdade. O conforto de conversar com uma máquina esconde o fato de que ela guarda tudo.

A regra prática é simples: trate o chatbot como se fosse um balcão público, não um diário secreto. Se você não escreveria aquilo num cartão-postal aberto, pense duas vezes antes de digitar na IA. Isso não é medo exagerado, é apenas entender onde a sua palavra vai parar.

O que a Polícia Federal faz com um alerta vindo de uma empresa de tecnologia?

A Polícia Federal trata o alerta como uma notícia de crime e abre uma investigação para identificar o autor das mensagens, exatamente o que ocorreu neste caso, segundo o Jornal O Sul. O objetivo é sair do texto anônimo e chegar a uma pessoa de carne e osso.

O caminho técnico passa por pedidos formais à empresa de tecnologia. Com autorização judicial, as autoridades podem solicitar dados que ajudem a localizar o usuário, como registros de acesso. A partir daí, cruzam essas informações com outras pistas até fechar o cerco sobre o responsável.

Esse trabalho é lento e depende de cooperação entre países, já que muitas dessas empresas ficam no exterior. É um pouco como um jogo de futebol em que o time brasileiro depende que o adversário entregue a bola: sem a colaboração da empresa estrangeira, a investigação trava no meio-campo.

O tema da IA dentro das instituições de Justiça e segurança vem crescendo rápido no Brasil, e não apenas na linha das ameaças. Crimes cometidos com apoio de inteligência artificial já mobilizam delegacias, como mostramos ao relatar que a polícia investiga fotos íntimas falsas de alunas criadas por IA. O ChatGPT entra agora nessa mesma vala comum das apurações digitais.

Já teve caso parecido de ameaça nascida dentro de uma IA?

Ameaças pela internet não são novidade, mas um alerta partindo de dentro de uma ferramenta de inteligência artificial, e chegando à Polícia Federal, é um capítulo novo dessa história. Antes, o rastro de um crime digital costumava nascer em redes sociais, e-mails ou aplicativos de mensagem. Agora, nasceu na conversa com um robô.

Para dimensionar a mudança, vale lembrar como as denúncias funcionavam há pouco tempo. Uma ameaça virava caso de polícia quando alguém fazia um print, denunciava um perfil ou uma plataforma respondia a uma ordem judicial. O conteúdo era público ou semipúblico, visto por outras pessoas.

O que muda agora é a origem: uma conversa que o usuário acreditava ser privada, feita a sós com uma máquina. É a diferença entre gritar uma ameaça na arquibancada, diante de todos, e sussurrá-la achando que ninguém ouve. Neste caso, a máquina ouviu, entendeu e contou.

Esse salto acompanha a própria velocidade da tecnologia. Em pouco mais de três anos desde o lançamento do ChatGPT, saímos da fase do espanto com o robô que escreve textos para a fase em que esse mesmo robô aparece em um inquérito policial. É um amadurecimento forçado, trazido pela realidade.

Quando a inteligência artificial vira testemunha, cada conversa com a máquina deixa de ser um segredo e passa a ser um registro que pode ser lido, guardado e usado contra você.

A leitura do Clube dos Cisnes: a IA deixou de ser ferramenta e virou testemunha

Na nossa leitura, o ponto central desse caso não é a ameaça em si, por mais grave que ela seja. É a constatação de que uma empresa privada de tecnologia passou a ter, na prática, o poder de observar conversas e acionar o Estado. A IA deixou de ser uma ferramenta neutra, como uma calculadora, e virou uma testemunha ativa do que acontece diante dela.

Isso traz um benefício claro, que é inibir criminosos e proteger vítimas, mas carrega um risco que a fonte não aponta: a concentração de poder em poucas empresas estrangeiras. Quem decide o que é ameaça real e o que é desabafo? Quem garante que o filtro não erre e marque um inocente? No Clube dos Cisnes, entendemos que o Brasil precisa de regras próprias para esse tipo de cooperação, sob pena de terceirizar decisões sensíveis a critérios definidos fora do país.

Nossa previsão é direta: nos próximos anos, veremos casos como este se multiplicarem, e alertas de empresas de IA se tornarão uma fonte comum de investigação no Brasil, ao lado dos dados de redes sociais. A pergunta deixará de ser se a IA observa, e passará a ser quais limites existem para o que ela faz com o que observa.

Há um desdobramento prático que quase ninguém comenta, e ele mira direto nas pequenas e médias empresas brasileiras. Atendemos recentemente, como exemplo ilustrativo baseado na nossa experiência, um pequeno comércio que incentivava os funcionários a usarem o ChatGPT para agilizar respostas a clientes, sem nenhuma regra sobre o que podia ou não ser digitado ali. Dados de clientes e informações internas estavam indo parar em um servidor de terceiros sem ninguém perceber.

A nossa estimativa, e aqui falo como estimativa do Clube dos Cisnes, não como dado de terceiros, é que escrever uma política interna simples de uso de IA custa pouco mais do que algumas horas de trabalho e meia página de orientações claras. É baixo esforço para um ganho alto: evita vazar o que não deve e protege o negócio. Para quem quer entender a base do tema, vale a leitura sobre os cuidados essenciais ao integrar IA na empresa.

No fim, este caso é um espelho. Ele fala de uma ameaça ao presidente, mas devolve a cada um de nós uma pergunta sobre o que digitamos todos os dias achando que ninguém está olhando.