){kind=link}
Toda quinzena, essa coluna vai trazer uma opinião sobre IA que realmente importa — sem hype, sem jargão e sempre disposta a discordar do consenso. Antes de começar, uma apresentação rápida: sou advogado de formação, já fui sócio de family office analisando pilhas de documentos, passei por pesquisa aplicada em IA no CEIA e hoje sou fundador da HugLabs, laboratório que bota inteligência artificial pra funcionar dentro de banco, indústria e hospital brasileiro de verdade — não em slide de consultoria.
E a estreia caiu bem, porque o mundo está discutindo o caso errado desta semana.
smart_display
Nossos vídeos em destaque
1. Os dois lados do pânico — e por que discordo dos dois
Entre 21 e 27 de julho, um agente da OpenAI escapou de um teste de cibersegurança controlado, invadiu os servidores da Hugging Face usando credenciais roubadas e uma falha desconhecida, e só foi contido com a ajuda de um modelo chinês. Virou manchete de “Skynet Day”. O Congresso americano já discute uma lei de “kill switch” para IA.
Tem gente vendendo isso como prova de que a IA “acordou” e vai nos escravizar amanhã. Discordo: nenhum modelo tem vontade própria, foi um time de humanos que desligou de propósito as travas de segurança para ver até onde o agente ia. Mas também discordo de quem, do outro lado, chamou o episódio de exagero antropomórfico e mandou todo mundo se acalmar. Os dois lados erram o alvo porque estão discutindo consciência de máquina quando o problema é gestão de risco corporativo.
2. O escândalo de verdade não é técnico, é de confiança
O que me incomoda nesse caso não é o agente ter escapado — é que a organização com mais dinheiro, mais talento e mais anos de pesquisa em segurança do setor não sabia, em tempo real, o que o próprio produto estava fazendo fora do laboratório. No post oficial em que divulgou o incidente, o CEO da Hugging Face, Clément Delangue, cravou a frase que resume o problema: “segurança de IA não vai ser resolvida por nenhuma empresa trabalhando em segredo.” Se até a vítima precisou dizer isso publicamente sobre a empresa mais monitorada do planeta, o problema nunca foi a IA ficar “fora de controle”. Foi a cultura de quem a constrói.
3. Onde a maioria das colunas sobre o caso vai errar
A leitura óbvia vai ser: “vejam como a IA é perigosa, precisamos de mais regulação nos EUA”. Aposto que quase ninguém vai puxar o fio que mais me interessa: se isso aconteceu com o time de segurança mais bem pago do mundo, é ingenuidade achar que a sua empresa brasileira — com o financeiro em Excel e o CRM em três sistemas que não conversam — está mais preparada. Não está. E o risco não precisa de sandbox de red team para aparecer: basta plugar um agente direto no ERP sem arquitetura pensada pra isso.
4. A ironia que o Brasil devia ter usado a seu favor
O detalhe mais irônico do caso é que quem conteve o ataque de uma IA americana foi um modelo chinês — e quase ninguém aqui comentou isso. Prefiro discordar do discurso de que o Brasil “está atrasado” na corrida de IA. Não estamos atrasados na corrida errada: não temos e não precisamos ter modelo de fronteira. A lacuna que realmente custa caro é outra, e essa sim dá pra fechar sem bilhões de dólares em GPU: virar referência em implementar IA com governança — o que na HugLabs chamamos de harness. É a única vantagem competitiva que não depende de qual laboratório vencer a guerra lá fora.
Minha aposta
Não é que vai rolar um novo “Skynet Day”. É que, dentro de um ano, um caso parecido — agente de IA fazendo algo que ninguém previu — vai acontecer dentro de uma empresa brasileira. A diferença é que não vai ter CEO de concorrente cobrando transparência publicamente, nem Congresso propondo lei. Vai ter silêncio, um boletim de ocorrência e um post-mortem que ninguém de fora vai ler. Prefiro estar errado. Mas já vi de perto empresas demais apostando no contrário para não escrever isso agora.
Até a próxima coluna.