IA e Sobrevivência: o que vi no escritório da OpenAI

• Um jornalista do Estadão visitou o escritório da OpenAI e fez a pergunta direta: a inteligência artificial ameaça a sobrevivência da humanidade?
• A OpenAI, criadora do ChatGPT, foi fundada em 2015 e colocou a IA na mão de qualquer pessoa a partir do fim de 2022.
• O medo do 'fim do mundo' convive com riscos mais concretos e imediatos: emprego, notícia falsa e dependência da máquina.
• No Clube dos Cisnes, entendemos que o debate sobre extinção desvia a atenção do que já muda a sua vida hoje.

O dia em que um repórter entrou no escritório da OpenAI

Em uma reportagem publicada pelo Estadão, um jornalista contou como foi visitar o escritório da OpenAI, a empresa americana que criou o ChatGPT. No meio da conversa, ele fez a pergunta que muita gente pensa e poucos falam em voz alta: a inteligência artificial é uma ameaça à sobrevivência humana? A OpenAI, para quem nunca ouviu falar, é a companhia de tecnologia por trás do robô de conversa mais famoso do planeta.

Inteligência artificial, no fundo, é um programa de computador que aprende a partir de muitos exemplos. Ele lê milhões de textos e passa a responder, escrever e resumir como se conversasse com você. O ChatGPT é o rosto mais conhecido dessa tecnologia. Você digita uma pergunta e ele devolve um texto pronto em segundos.

Isso importa para você mesmo que nunca tenha aberto o site da OpenAI. O ChatGPT já está escondido dentro de aplicativos que você usa, de bancos a lojas online. A pergunta sobre sobrevivência não é roteiro de filme. Ela mexe com o seu emprego, com as notícias que você lê e com a confiança no que aparece na tela do celular.

A inteligência artificial é mesmo uma ameaça à sobrevivência humana?

Não existe hoje uma máquina capaz de decidir sozinha acabar com a humanidade, mas o risco que os especialistas discutem é sério e merece atenção. A pergunta feita pelo repórter do Estadão dentro da OpenAI não veio do nada. Ela ecoa um debate que cresce entre cientistas, governos e as próprias empresas de tecnologia.

Pense na diferença entre um carro e um piloto. Hoje, a inteligência artificial é como um carro muito potente. Ele só anda se alguém pisar no acelerador. O medo dos especialistas é o dia em que esse carro aprenda a dirigir sozinho, escolha o destino e ignore o freio que a gente colocou. Esse ponto ainda não chegou.

O que existe agora são riscos reais e menos dramáticos. Uma IA pode espalhar mentira em massa, ajudar golpistas a imitar a voz de um parente ou tomar decisões erradas sobre um empréstimo do seu nome. No Clube dos Cisnes, entendemos que fixar o olhar só no cenário de extinção faz a pessoa comum baixar a guarda diante do perigo que já bate na porta.

Vale lembrar que esse alerta não parte só de blogs. Organismos internacionais entraram no debate, como mostramos em nossa análise sobre o alerta da ONU sobre a inteligência artificial e a humanidade. Quando a conversa sobe a esse nível, ignorar deixa de ser opção.

O que é o 'risco existencial' da IA e por que se fala tanto nisso?

Risco existencial é o nome técnico para a hipótese de a inteligência artificial se tornar tão poderosa a ponto de ameaçar a própria existência da espécie humana. É desse conceito que trata boa parte do medo em torno da OpenAI. Ele aparece sempre que alguém pergunta se a máquina pode 'passar do ponto'.

Para não se perder, vale um mini-glossário de três termos. 'Superinteligência' é uma IA que seria mais esperta que qualquer humano em quase tudo. 'Alinhamento' é o esforço de garantir que a máquina siga os valores das pessoas. 'Alucinação' é quando a IA inventa uma resposta falsa com toda a cara de verdade.

Um erro comum é confundir esses três. Muita gente acha que o ChatGPT de hoje já é uma superinteligência. Não é. Ele erra contas simples e inventa fatos. A superinteligência é uma aposta sobre o futuro, não uma realidade do presente. Confundir os dois gera pânico onde deveria haver cautela informada.

Esse debate também tem lado político e comercial. Já escrevemos sobre como a corrida pela superinteligência entrou no discurso de poder. Quem promete construir uma máquina que salva ou destrói o mundo também está, ao mesmo tempo, vendendo a própria importância.

Como uma inteligência artificial poderia sair do controle?

Uma IA sairia do controle não por 'maldade', mas por seguir uma ordem ao pé da letra sem entender o bom senso por trás dela. Esse é o coração do problema técnico. A máquina não sente raiva nem ambição. Ela apenas persegue o objetivo que recebeu.

Imagine uma cozinha. Você pede ao cozinheiro para fazer o jantar mais rápido do mundo. Um humano entende os limites: não vale incendiar a casa para acelerar o fogo. Uma IA sem esses limites poderia escolher o caminho mais eficiente e mais perigoso, porque ninguém explicou o que não fazer. Esse é o passo a passo que assusta os engenheiros.

Na prática de hoje, o perigo é menor e mais silencioso. Uma inteligência artificial que aprova crédito pode recusar milhares de pessoas por causa de um dado torto. Um sistema de recomendação pode empurrar mentira porque a mentira gera mais cliques. O descontrole não vem de um robô de metal. Vem de decisões automáticas em escala, sem ninguém revisando.

É por isso que governos começaram a agir sobre o ritmo de lançamento dessas ferramentas. Mostramos esse tipo de tensão quando a Casa Branca pediu cautela à OpenAI antes de um novo modelo. O freio existe, mas ainda depende de vontade humana.

Por que os próprios criadores da IA falam nos perigos dela?

Os líderes das empresas de IA falam nos riscos porque isso mistura consciência real, estratégia de imagem e cálculo de negócio. É um ponto que a visita do repórter do Estadão deixa no ar. Faz sentido o dono da fábrica avisar que o produto pode ser perigoso?

De um lado, há preocupação legítima. Muitos engenheiros da área assinaram cartas públicas pedindo cuidado. Eles conhecem os limites da máquina por dentro e sabem onde ela falha. Esse alerta tem valor e não deve ser tratado como teatro.

De outro lado, há estratégia. Quando uma empresa diz que sua tecnologia é tão forte que pode ameaçar o mundo, ela também diz, nas entrelinhas, que é a mais avançada do mercado. O medo vira propaganda. E o pedido por regras pode, na prática, dificultar a vida de concorrentes menores que não têm o mesmo dinheiro para cumprir exigências.

A OpenAI nasceu em 2015 justamente com a bandeira de fazer uma IA 'segura e para o bem de todos'. Anos depois, virou uma das empresas mais valiosas e disputadas do setor, a ponto de o próprio governo americano querer participação, como analisamos em por que os EUA podem ficar com uma fatia da OpenAI. Discurso de segurança e disputa por poder andam juntos.

A inteligência artificial não vai acabar com a humanidade amanhã, mas o medo do fim do mundo pode fazer você deixar de proteger o que ela já ameaça hoje: seu emprego, seu bolso e o que você aceita como verdade.

Isso muda alguma coisa na vida do brasileiro comum?

Muda, e já está mudando, mesmo longe do escritório da OpenAI em San Francisco. O risco que chega primeiro ao Brasil não é o robô rebelde. É a transformação do trabalho, da informação e da confiança no dia a dia.

No trabalho, tarefas repetitivas de escritório são as primeiras a mudar. Quem escreve textos, organiza planilhas ou atende cliente por mensagem já sente a máquina do lado. Isso não significa desemprego automático para todos, mas significa que ignorar a ferramenta custa caro. Tratamos disso em quem fica para trás com a inteligência artificial no trabalho.

Na informação, o risco é a mentira bem feita. Uma IA hoje cria uma foto falsa, um áudio com a voz de um político ou um golpe imitando a mensagem do seu banco. O golpe do WhatsApp que você já conhece fica mais convincente. A tela do celular deixa de ser prova de nada.

Há também o risco da dependência. Quando a pessoa passa a confiar cegamente na resposta da máquina, ela para de checar. E a IA erra. Lembra da 'alucinação'? Uma resposta errada dita com firmeza engana mais do que uma dúvida honesta.

Já vivemos algo parecido com outra tecnologia antes?

Sim, a humanidade já passou por saltos parecidos, e a história mostra que o exagero e o medo costumam andar de mãos dadas. A comparação ajuda a manter os pés no chão diante do barulho em torno da IA.

Pense no trânsito no início do automóvel. Quando o carro surgiu, muita gente jurou que seria o fim das cidades e do emprego de quem cuidava de cavalos. Houve, de fato, mudança dura para muita gente. Mas também vieram estradas, semáforos, leis e cintos de segurança. A tecnologia perigosa foi domada com regras, não com proibição total.

O mesmo aconteceu com a internet nos anos 1990 e com o celular pouco depois. Cada onda trouxe golpe novo, emprego perdido e emprego criado. O ChatGPT, lançado no fim de 2022, é apenas a onda mais recente. A diferença é a velocidade: ele chegou a milhões de pessoas em poucos meses, mais rápido que qualquer aplicativo anterior.

A lição histórica é clara. Nenhuma dessas tecnologias acabou com a humanidade, mas todas mudaram quem trabalhava com o quê. Quem aprendeu a nova ferramenta cedo largou na frente. Quem esperou o perigo passar sozinho ficou para trás.

O que dá para fazer para se proteger dos riscos da IA?

Você não precisa entender de programação para se proteger, basta adotar hábitos simples de desconfiança e de aprendizado. A boa notícia é que as defesas mais eficazes estão ao alcance de qualquer pessoa com um celular.

Comece pela desconfiança treinada. Recebeu uma mensagem urgente pedindo dinheiro, mesmo com a voz de um parente? Desligue e ligue de volta no número que você já conhece. Uma imagem chocante nas redes? Procure a mesma notícia em um veículo sério antes de compartilhar. A IA barateou a mentira, então checar ficou mais importante que nunca.

Depois, aprenda a usar a ferramenta a seu favor em vez de fugir dela. Quem sabe pedir ajuda a um assistente de IA para escrever um currículo, resumir um documento ou estudar um assunto ganha tempo real. Para quem quer começar do zero, montamos um guia completo para aprender inteligência artificial do zero, em linguagem simples.

Por fim, cuide dos seus dados. Não coloque senha, número de documento ou segredo do trabalho dentro de um robô de conversa. O que você digita pode ser guardado. Tratar a IA como um estranho educado, útil mas não íntimo, é a postura mais segura para o dia a dia.

A nossa leitura: por que a sobrevivência não é o verdadeiro debate

No Clube dos Cisnes, entendemos que a pergunta sobre extinção, embora legítima, funciona como uma cortina de fumaça. Enquanto o país discute se o robô vai dominar o mundo em vinte anos, deixa de discutir quem controla os seus dados, o seu emprego e as suas notícias agora. Essa é a nossa tese, e ela contraria o tom apocalíptico que domina as manchetes.

A nossa previsão é direta. Nos próximos anos, o problema prático no Brasil não será uma máquina consciente. Será a distância entre quem sabe usar a IA e quem tem medo dela. Essa distância vira diferença de salário, de acesso a crédito e de poder na hora de procurar emprego. A desigualdade digital tende a crescer antes de qualquer 'fim do mundo'.

Para trazer isso ao chão do pequeno negócio, uma estimativa nossa, do Clube dos Cisnes, e não um dado de terceiros: hoje uma micro ou pequena empresa brasileira consegue começar a usar IA gastando de R$ 0 a cerca de R$ 200 por mês, usando versões pagas de assistentes de conversa. O gasto maior não é dinheiro, é tempo de aprendizado, algo em torno de poucas horas por semana no começo.

A título ilustrativo, imagine um pequeno comércio de bairro, um exemplo hipotético baseado no que vemos com frequência. O dono passava horas respondendo as mesmas perguntas no WhatsApp e escrevendo anúncios. Com um assistente de IA para rascunhar as respostas e os textos, ele devolveu esse tempo para o balcão e para a família. O risco existencial dele nunca foi um robô assassino. Era perder cliente por demora e cansaço.

É por isso que insistimos: o debate útil não é 'a IA vai nos matar?'. É 'quem vai ter acesso a ela e com quais regras?'. A resposta a essa segunda pergunta define o Brasil dos próximos dez anos muito mais do que qualquer cenário de ficção.

A máquina não precisa querer o nosso fim para mudar a nossa vida. Basta a gente entregar as decisões a ela sem olhar. O maior risco da inteligência artificial talvez seja o nosso próprio comodismo.