OpenAI avisou a PF: homem planejou matar Lula no ChatGPT

• Segundo o Estadão, a OpenAI, empresa dona do ChatGPT, identificou conversas em que um homem planejava assassinar o presidente Lula e avisou a Polícia Federal do Brasil.
• A denúncia partiu da própria empresa, por iniciativa dela, antes que qualquer ataque fosse executado.
• A Polícia Federal foi alertada diretamente pela OpenAI, e não por uma investigação iniciada no Brasil.
• O caso mostra, na prática, que as conversas com uma IA não são um diário trancado: elas podem ser lidas e repassadas às autoridades.

ChatGPT, OpenAI e PF: o que realmente aconteceu?

De acordo com o Estadão, um homem usou o ChatGPT para descrever um plano detalhado de assassinato do presidente Lula, dentro do próprio aplicativo de inteligência artificial. A OpenAI, empresa americana que criou o ChatGPT, tratou aquelas mensagens como uma ameaça concreta e acionou a Polícia Federal brasileira. O alerta saiu da empresa antes de qualquer ação ser colocada em prática.

O ChatGPT é um programa de inteligência artificial que conversa em texto, ou seja, um robô que responde perguntas e escreve como se fosse uma pessoa. A Polícia Federal é o órgão que investiga crimes contra a vida de autoridades da República. Quando esses dois mundos se cruzam numa denúncia, o assunto deixa de ser tecnologia e vira segurança pública.

Para o brasileiro comum, a história importa por um motivo simples: milhões de pessoas aqui já usam o ChatGPT para desabafar, pedir conselho, escrever mensagem ou tirar dúvida de saúde. Este caso é a prova pública de que o outro lado da tela não é um caderno privado. Alguém, ou melhor, algum sistema, pode estar lendo.

Como a OpenAI descobriu o plano dentro do ChatGPT?

A OpenAI consegue identificar conversas de risco porque o sistema varre automaticamente o que é digitado em busca de sinais de perigo. Não é um funcionário sentado lendo todos os chats do mundo. É um filtro automático que marca conteúdos ligados a violência, armas, suicídio e ameaças.

O mecanismo funciona em camadas. Primeiro, o programa detecta palavras e temas sensíveis. Depois, os casos mais graves sobem para uma equipe humana de revisão, que decide se aquilo é conversa vazia ou ameaça real. Quando a conclusão é de risco concreto à vida de alguém, a empresa pode acionar a polícia do país envolvido. Foi o que o Estadão descreve ter acontecido com o plano contra Lula.

Imagine o porteiro de um prédio grande. Ele não escuta cada conversa dos moradores, mas se alguém grita 'vou matar fulano' no corredor, ele anota e liga para a polícia. A diferença é que, no ChatGPT, esse porteiro é um software que nunca dorme e observa milhões de corredores ao mesmo tempo. Essa vigilância automática já aparece em outras áreas, como mostramos no texto sobre como a inteligência artificial transforma a segurança pública em Goiás.

Vale um alerta: esse filtro não é perfeito. Ele erra para os dois lados. Às vezes marca uma brincadeira como ameaça e, às vezes, deixa passar algo grave. Por isso existe a revisão humana no meio do caminho, justamente para reduzir o número de alarmes falsos antes de incomodar a polícia.

As suas conversas com o ChatGPT são mesmo privadas?

Não são privadas no sentido que a maioria das pessoas imagina. Tudo o que você escreve no ChatGPT passa pelos servidores da OpenAI, pode ser guardado e, em situações específicas, lido por pessoas e repassado às autoridades. O caso do plano contra Lula é a demonstração mais clara disso.

Muita gente trata o chat de IA como trata um caderno de segredos ou uma conversa no travesseiro. A comparação certa é outra. É mais parecido com mandar uma carta por uma empresa de entregas: a mensagem chega ao destino, mas passa pelas mãos de quem transporta, e essa empresa tem regras próprias sobre o que fazer se encontrar algo ilegal no caminho.

Isso não significa que alguém esteja bisbilhotando a sua lista de compras ou o seu texto de trabalho. O foco dos filtros são temas extremos, como violência grave e crimes. Mas a lição geral permanece: informação sensível, senha, dado bancário e segredo de verdade não deveriam ser jogados dentro de um chat de IA, porque ali eles deixam de estar só com você.

Há ainda uma zona cinzenta importante. Quando a IA erra e causa um prejuízo, de quem é a culpa? Essa discussão de responsabilidade ainda está sendo construída no país, como analisamos em IA errou e causou dano: quem vai pagar a conta no Brasil.

Por que a empresa avisou a polícia por conta própria?

A OpenAI avisou a Polícia Federal por conta própria porque entende que tem o dever de agir quando identifica ameaça real à vida de uma pessoa. Não houve, pelo que o Estadão relata, um pedido prévio da Justiça brasileira: a iniciativa partiu da empresa.

Por trás dessa decisão existe cálculo prático e também pressão. Para uma companhia global, ignorar um plano de assassinato de um chefe de Estado seria um desastre de reputação e abriria risco jurídico enorme caso o crime se concretizasse. Avisar a polícia é, ao mesmo tempo, uma postura de responsabilidade e uma forma de a empresa se proteger.

Esse tipo de poder concentrado em empresas privadas de tecnologia preocupa há tempos. Instituições diferentes já levantaram a bandeira dos riscos éticos da IA, como registramos quando a Igreja Católica alertou sobre os riscos éticos da inteligência artificial. O ponto comum é sempre o mesmo: quem decide a régua do que é denunciado?

Aqui vale uma comparação histórica. Bancos já são obrigados por lei a avisar as autoridades sobre movimentações suspeitas de dinheiro. O que vemos agora é algo parecido migrando para o mundo da conversa: a plataforma de IA começa a se comportar como um agente que reporta comportamentos de risco. A diferença é que, com o banco, a regra está clara em lei. Com a IA, ainda estamos descobrindo as regras no meio do jogo.

Isso pode acontecer com qualquer brasileiro?

Em tese, sim, mas com uma ressalva grande: os filtros miram comportamentos extremos, não a vida comum das pessoas. Quem usa o ChatGPT para estudar, trabalhar ou conversar sobre o dia a dia não vira alvo de denúncia por isso.

O gatilho é o conteúdo que indica crime grave ou perigo à vida, do próprio usuário ou de terceiros. Planejar um assassinato, detalhar um atentado ou descrever abuso são exemplos do que acende o sinal vermelho. Uma crítica política dura, uma piada de mau gosto ou um desabafo triste estão em outra categoria, ainda que o sistema possa errar na classificação de vez em quando.

Pense numa novela das nove. O vilão arma o crime em voz alta dentro de casa, sem saber que há um gravador escondido na sala. O público vê tudo e torce para ele ser pego. No caso real, o 'gravador' é o próprio aplicativo, e o espectador que aciona a polícia é a empresa. A grande novidade é que, na vida real, esse gravador agora cabe no bolso e está ligado o tempo todo.

Esse debate sobre IA e segurança não é exclusividade do Brasil. Em outros países, forças policiais já treinam com essas ferramentas, como contamos no texto sobre a polícia de Ho Chi Minh que treina com inteligência artificial. O movimento é global, e o Brasil acaba de entrar na conversa de um jeito concreto.

O que esse caso muda para a sua privacidade a partir de agora?

Na prática, muda a forma como você deve encarar qualquer conversa com uma IA: trate o chat como um espaço semipúblico, não como um confessionário. O que você digita pode ser analisado, guardado e, em casos graves, repassado a terceiros.

Para a maioria das pessoas, a mudança concreta é de hábito, não de medo. Quatro cuidados simples resolvem quase tudo. Primeiro, não coloque dados bancários, senhas ou documentos no chat. Segundo, evite despejar segredos de terceiros ali. Terceiro, lembre que a conversa pode ser relida. Quarto, leia ao menos uma vez a política de privacidade do aplicativo que você usa.

Esse episódio também joga luz sobre um debate maior, que é o das regras para a IA no Brasil. Ainda não existe uma lei nacional detalhada dizendo quando uma empresa de IA deve ou não avisar a polícia, que dados ela pode guardar e por quanto tempo. Enquanto o Congresso não fecha esse ponto, cada plataforma segue a própria cartilha, quase sempre escrita fora do país.

O desdobramento mais provável para os próximos meses é o aumento da cobrança por transparência. A tendência é que usuários, imprensa e autoridades passem a exigir que as empresas digam com clareza quantas denúncias fazem, com que critério e com qual margem de erro. Hoje, esse número é uma caixa-preta.

No Clube dos Cisnes, entendemos que a conversa com uma IA deixou de ser um bate-papo privado e virou um documento que pode, a qualquer momento, parar na mesa da polícia.

A leitura do Clube dos Cisnes: o vigia silencioso no seu bolso

Na nossa leitura, o ponto central deste caso não é o criminoso, é a infraestrutura. O que ficou exposto é que uma empresa privada, sediada fora do Brasil, tem o poder técnico de ler conversas de brasileiros e o poder prático de acionar a nossa polícia. Isso é bom quando impede um assassinato e perigoso quando pensamos em quem controla esse botão e com base em quais regras.

Vemos aqui um paralelo direto com o debate sobre autonomia tecnológica. O Brasil está discutindo o risco de depender demais de plataformas estrangeiras para decidir o que é ou não ameaça dentro do nosso território. Esse mesmo dilema aparece em áreas mais pesadas, como no alerta de que a ONU avisou que armas com IA podem matar sem ordem humana. A pergunta de fundo é sempre quem mantém a mão no controle.

Nossa previsão é direta: dentro dos próximos dois anos, denúncias de empresas de IA para autoridades deixarão de ser notícia rara e virarão rotina, e surgirão os primeiros questionamentos judiciais no Brasil sobre a validade dessas provas obtidas sem ordem prévia da Justiça. O caso Lula é o primeiro de muitos, não uma exceção isolada.

Isso não vale só para pessoas físicas. Pense numa pequena empresa brasileira, um comércio ou um escritório, que hoje joga tudo no ChatGPT: contrato de cliente, planilha de preço, conversa interna sensível. Pela experiência do Clube dos Cisnes, é comum uma pequena empresa levar de duas a quatro semanas para organizar uma política simples de uso de IA entre os funcionários, dizendo o que pode e o que não pode ir para o chat. Essa é uma estimativa nossa de esforço, não um dado de terceiros, e costuma custar mais tempo do que dinheiro.

De forma ilustrativa, para explicar o risco: imagine um pequeno escritório de contabilidade que colou dados de clientes dentro de um chat de IA para agilizar um relatório. Não há crime nenhum ali, mas aqueles dados sigilosos passaram a trafegar por um servidor estrangeiro, sem que o dono do escritório tivesse pensado nisso. É um exemplo hipotético, mas retrata o descuido mais comum que vemos no mercado.

No Clube dos Cisnes, entendemos que a IA não precisa ser tratada como vilã nem como mágica. Ela é uma ferramenta poderosa que também é uma testemunha. E toda testemunha, um dia, pode ser chamada a falar.

A moral da história cabe numa frase: se você não diria em voz alta numa delegacia, pense duas vezes antes de digitar num chat de inteligência artificial.