Rei Charles reuniu os chefes das maiores empresas de IA do mundo

• O Rei Charles III reuniu os chefes das maiores empresas de inteligência artificial do mundo, segundo o Estadão.
• O foco do encontro foi a segurança: como evitar que a IA cause danos enquanto fica mais avançada.
• Governos e empresas correm para criar regras antes que a tecnologia avance mais rápido do que a capacidade de controlá-la.
• O movimento segue a linha da Cúpula de Segurança em IA realizada no Reino Unido em 2023, que reuniu 28 países.
• A grande dúvida em aberto: quem decide os limites da IA, os governos, as empresas ou a sociedade?

Um rei, os donos da IA e uma conversa sobre segurança

De acordo com o Estadão, que reproduziu reportagem da rede pública americana NPR, o Rei Charles III reuniu os líderes das principais empresas de inteligência artificial do mundo. Inteligência artificial é a tecnologia que faz um programa de computador aprender com dados e tomar decisões parecidas com as de uma pessoa. A pauta do encontro foi a segurança desses sistemas, ou seja, como impedir que eles causem danos à medida que ficam mais poderosos.

Pode parecer um assunto distante, coisa de palácio e de bilionário. Mas não é. A mesma tecnologia discutida naquela sala já decide se o seu limite de crédito sobe, filtra as vagas de emprego para as quais você se candidata e escolhe o vídeo que aparece na sua tela. Quando os donos dessa tecnologia e um chefe de Estado sentam para falar de segurança, o que está em jogo é o dia a dia de gente comum, inclusive o seu.

O que exatamente aconteceu nesse encontro no Reino Unido?

O que aconteceu foi uma reunião de alto nível: o Rei Charles III recebeu os principais nomes das empresas que constroem os modelos de IA mais avançados do mundo, com a segurança dessas ferramentas no centro da conversa, conforme relata o Estadão.

Modelo de IA é o "cérebro" treinado por trás de ferramentas como assistentes de conversa e geradores de imagem. Ele aprende observando montanhas de textos, fotos e números, e depois passa a responder sozinho. As empresas presentes são justamente as que treinam os modelos mais potentes, aqueles capazes de escrever, programar, analisar exames e criar conteúdo em segundos.

Reuniões assim não servem para assinar contrato nem lançar produto. Elas funcionam como um sinal político. Quando a Coroa britânica coloca o tema na agenda, ela avisa ao mundo que a segurança da IA deixou de ser papo de especialista e virou assunto de governo. É como quando o técnico da seleção convoca uma coletiva antes de um jogo decisivo: o placar ainda não mudou, mas todo mundo entende que aquilo é sério.

Por que o Rei Charles se envolveu com um assunto tão técnico?

Porque a segurança da IA deixou de ser um problema só de engenheiros e passou a ser uma questão de interesse público, do tipo que costuma exigir a presença de autoridades. O Reino Unido vem tentando se posicionar como um dos países que puxam essa conversa no mundo.

O gesto tem peso simbólico. Um rei não escreve linha de código nem entende de matemática avançada, e ninguém espera que entenda. O papel dele ali é dar visibilidade e legitimidade ao tema, chamando a atenção da opinião pública para algo que, sem esse holofote, ficaria trancado em relatórios técnicos que quase ninguém lê.

Há também um recado para as próprias empresas. Ao serem recebidas em um ambiente de Estado, elas ganham prestígio, mas também assumem um compromisso público diante das câmeras. Fica mais difícil, depois, alegar que ninguém avisou sobre os riscos. Vale lembrar que muitas companhias já foram alertadas e seguiram em frente assim mesmo, como mostramos ao analisar por que empresas ignoram alertas de segurança sobre a IA.

O que significa "segurança" quando se fala de inteligência artificial?

Segurança em IA significa garantir que o sistema faça o que se espera dele e não cause danos, mesmo em situações que ninguém previu. Não é a mesma segurança de senha e antivírus, embora isso também conte.

Pense numa receita de cozinha. Você mistura os ingredientes certos esperando um bolo, mas se o forno esquenta demais sem aviso, o resultado queima. Com a IA acontece algo parecido: os modelos são treinados para uma coisa, mas às vezes "entregam" respostas erradas, tendenciosas ou perigosas, porque aprenderam padrões escondidos que ninguém programou de propósito.

Os riscos discutidos nesse tipo de encontro costumam se dividir em camadas. Há o risco do dia a dia, como uma IA que reprova o seu pedido de empréstimo por um preconceito embutido nos dados. Há o risco de uso malicioso, como golpes com voz clonada e fotos falsas. E há o risco de longo prazo, ligado a sistemas cada vez mais autônomos. Já existem, por exemplo, casos extremos como o de drones com IA que decidem sozinhos a quem atirar, o que mostra por que a palavra segurança pesa tanto nessa conversa.

Isso muda alguma coisa na sua vida aqui no Brasil?

Muda, ainda que de forma indireta e aos poucos. As regras e os padrões de segurança definidos lá fora costumam virar referência para o mundo todo, inclusive para as empresas e os governos que atuam no Brasil.

Funciona como acontece com a novela das nove: o que estreia num lugar de grande audiência acaba influenciando o gosto e o comportamento de quem está longe do set de gravação. Quando as gigantes de IA adotam um padrão de segurança para agradar a reguladores europeus, esse mesmo padrão tende a chegar nos aplicativos que você usa no celular, porque é caro manter versões diferentes para cada país.

Na prática, decisões tomadas em encontros como esse podem influenciar desde a forma como um banco brasileiro usa IA para aprovar crédito até as regras que o Congresso discute por aqui. O Brasil ainda debate seu próprio marco legal para o tema, e observa de perto o que grandes economias fazem. Não à toa, países vizinhos nesse debate, como a Itália, já saíram na frente, algo que detalhamos ao explicar como a Itália aprovou novas regras nacionais para inteligência artificial.

Por que criar regras para a IA é tão difícil?

É difícil porque a tecnologia avança mais rápido do que a lei consegue acompanhar, e porque quem mais entende do assunto são justamente as empresas que serão reguladas. Esse é o nó que aparece em todo encontro sobre o tema.

A velocidade é o primeiro obstáculo. Uma lei leva anos para ser escrita, debatida e aprovada. Um novo modelo de IA, muito mais capaz que o anterior, pode surgir em questão de meses. Quando a regra fica pronta, o problema que ela tentava resolver já mudou de forma. É como tentar fotografar um jogador em disparada com uma câmera lenta demais.

O segundo obstáculo é o conhecimento concentrado. Os detalhes de como um modelo funciona por dentro ficam guardados dentro das empresas. Governos precisam da cooperação delas até para entender o que estão regulando. Isso cria um desequilíbrio delicado, no qual o fiscalizado ajuda a escrever as regras da própria fiscalização.

Vale a comparação histórica. Em novembro de 2023, o Reino Unido sediou a primeira grande Cúpula de Segurança em IA, que reuniu 28 países e a União Europeia em torno de uma declaração conjunta sobre os riscos da tecnologia. A União Europeia, por sua vez, aprovou em 2024 sua lei de IA, considerada a mais ampla do mundo até hoje. Ou seja, o encontro convocado pelo Rei Charles não nasce do zero: é mais um capítulo de um esforço que já vem se arrastando há anos.

Quem ganha e quem perde quando as gigantes ajudam a escrever as regras?

Quem ganha, num primeiro momento, são as próprias grandes empresas, porque regras complexas e caras de cumprir acabam afastando concorrentes menores. Quem pode perder é a inovação vinda de baixo, feita por startups e pesquisadores sem exército de advogados.

Existe um risco real de "captura", termo que descreve quando o setor regulado influencia tanto as regras que elas passam a proteger os grandes em vez do público. Se só as gigantes conseguem arcar com as exigências de segurança, o mercado se fecha, e a fila de quem manda na tecnologia fica cada vez mais curta.

Por outro lado, ignorar as empresas também não funciona, porque são elas que detêm o conhecimento técnico. O ponto de equilíbrio saudável envolve trazer para a mesa universidades, sociedade civil e governos de países fora do eixo mais rico, para que a conversa não seja apenas entre a Coroa e um punhado de bilionários. Empresas que levam a sério essa transparência tendem a colher resultados melhores, tema que exploramos ao mostrar como a governança da IA gera resultados reais.

Já vimos algo parecido antes com outras tecnologias?

Sim, e mais de uma vez. A história recente está cheia de tecnologias que avançaram rápido demais e só depois ganharam regras, quase sempre tarde.

Pense nos carros no começo do século passado, que rodaram por décadas antes de cinto de segurança, semáforo e habilitação virarem obrigatórios. Pense na energia nuclear, que exigiu tratados internacionais para conter o uso mais perigoso. Em todos esses casos, a sociedade primeiro se encantou com o poder da novidade e só depois percebeu que precisava de freios.

A diferença com a IA é a escala e a velocidade. Um carro perigoso ameaça uma rua. Um modelo de IA falho pode ser copiado e espalhado pelo mundo em minutos, chegando a milhões de pessoas ao mesmo tempo. Por isso muitos especialistas defendem que, desta vez, as regras precisam vir antes, e não depois do acidente. É um raciocínio parecido com o de quem prova o tempero antes de servir o prato, em vez de esperar o cliente reclamar.

Como a pessoa comum pode se proteger dos riscos da IA hoje?

A proteção começa por entender que nem tudo que a IA produz é verdadeiro ou confiável, e por manter um pé atrás saudável diante de mensagens, áudios e imagens vindos de fontes desconhecidas. Você não precisa esperar rei nenhum para adotar esses cuidados.

Para ajudar, vale guardar três termos. "Alucinação" é quando a IA inventa uma informação com cara de verdade, então sempre confira dados importantes em uma fonte oficial. "Deepfake" é um vídeo ou áudio falso, criado por IA, que imita uma pessoa real, muito usado em golpes com voz de parentes. "Viés" é quando o sistema repete um preconceito que aprendeu nos dados, prejudicando grupos inteiros sem que ninguém perceba.

O erro mais comum é tratar a resposta de uma IA como se fosse a palavra final de um especialista. Ela é uma ferramenta poderosa, mas erra, e erra com confiança. Desconfie de pedidos urgentes de dinheiro por áudio, ative a verificação em duas etapas nas suas contas e, na dúvida, ligue para a pessoa de verdade. Quem quiser dar um passo além pode aprender o básico da tecnologia com calma, algo que organizamos em um guia de IA pensado para pequenas empresas e útil também para qualquer curioso.

Segurança em inteligência artificial não pode depender apenas da boa vontade de quem lucra com ela: sem regras claras e fiscalização independente, a promessa de proteção vira só marketing.

A leitura do Clube dos Cisnes: por que autofiscalização não basta

No Clube dos Cisnes, entendemos que o encontro convocado pelo Rei Charles é um avanço simbólico importante, mas insuficiente enquanto não vier acompanhado de mecanismos de fiscalização que não dependam da boa vontade das próprias empresas. Reunir os donos da IA para falar de segurança é necessário, só que pedir que eles próprios definam os limites é como deixar o goleiro apitar o pênalti.

Na nossa leitura, o próximo passo decisivo não será outra foto oficial, e sim a criação de auditorias independentes, capazes de olhar por dentro dos modelos sem depender do que a empresa escolhe mostrar. Nossa previsão é que, nos próximos anos, a segurança da IA vai deixar de ser uma promessa voluntária e virar exigência legal em blocos econômicos importantes, pressionando também o Brasil a se mexer.

Para quem toca um pequeno negócio, isso tem efeito prático e imediato. Estimamos, com base na experiência do Clube dos Cisnes e a título de estimativa própria, que uma pequena ou média empresa brasileira consegue montar uma política mínima de uso responsável de IA em cerca de 8 a 16 horas de trabalho interno, sem custo de software, apenas definindo o que pode e o que não pode ser feito com essas ferramentas. Para ilustrar, imagine um pequeno comércio de bairro, exemplo hipotético apenas, que passou a usar um assistente de IA para responder clientes e quase divulgou um preço errado inventado pela ferramenta. Uma regra simples, exigir conferência humana antes de publicar qualquer informação, teria evitado o problema. É esse tipo de cuidado barato que separa quem usa IA com proveito de quem se expõe sem perceber.

O recado do palácio ecoa até o balcão da padaria: a inteligência artificial só será segura para todos no dia em que a régua for definida por muitas mãos, e não apenas pelas que ganham dinheiro com ela.