Se há algo desconcertante em observar os homens responsáveis por desenvolver a inteligência artificial que usamos todos os dias, seja em casa ou no trabalho, é os ver pedindo que a inteligência artificial avance mais devagar. Dario Amodei defendeu que os principais laboratórios passem a “acompanhar o ritmo da fronteira”, submetendo seus modelos a avaliações independentes, padrões comuns de segurança e alguma forma de coordenação internacional, uma proposta que recebeu manifestações favoráveis de Sam Altman, Elon Musk e Demis Hassabis, executivos que, simultaneamente, comandam algumas das empresas mais empenhadas em alcançar a próxima fronteira tecnológica. Nesse cenário, e por se tratar destes nomes, o consenso inevitavelmente nos chama a atenção, afinal, por que quem mais lucra com a IA quer por nela um freio? A responde pode ser encontrada quando se examina o que foi por eles efetivamente proposto, além da retórica solidaria de seus discursos. E, debruçando-nos sobre estas propostas, o que podemos ver é que elas ainda estão longe de representar qualquer desaceleração real, porque nenhuma das medidas determina, necessariamente, que os modelos sejam desenvolvidos mais lentamente. Vejam só o que foi pautado: inserir avaliadores dentro dos laboratórios, compartilhar protocolos de segurança e comunicar incidentes. Medidas que, de fato, pode tornar o processo de criação de IA mais responsável, mas não impede que essas mesmas empresas continuem ampliando a capacidade de seus sistemas, disputando contratos corporativos e lançando novos produtos. A indústria parece concordar que precisa desacelerar sem ter decidido o que deixará de fazer.
Essa contradição se torna ainda mais evidente quando se observa a estrutura econômica das empresas envolvidas, uma vez que OpenAI, Anthropic, Google, Meta e xAI são, além de laboratórios científicos preocupados com as consequências de suas descobertas, organizações muito financiadas e alavancadas por investidores, associadas a grandes empresas de tecnologia e submetidas à necessidade permanente de demonstrar crescimento, precisando conquistar usuários, vender serviços a outras companhias, justificar seus valuation bilionários (em alguns casos, trilionários) e ocupar o mercado antes que algum concorrente o faça. Nesse ambiente, uma desaceleração não pode existir apenas como uma disposição moral de seus executivos; ela precisaria aparecer nos cronogramas de lançamento, nos investimentos em capacidade computacional e na disposição de permitir que uma empresa concorrente avance primeiro, e até agora não há sinais claros de que isso esteja acontecendo, porque os mesmos laboratórios que alertam para os perigos da velocidade continuam operando como se perder a liderança fosse um risco mais imediato do que aquele anunciado por seus próprios dirigentes.
O comportamento dos consumidores tampouco oferece um contrapeso significativo a este movimento, porque em mercados tradicionais uma empresa que age de forma irresponsável até pode ser punida pela perda de clientes (veja os casos de boicote que aconteceram com o Carrefour, por exemplo), mas na inteligência artificial essa relação é menos direta, afinal, uma companhia dificilmente abandonará o Codex para adotar o Claude Code apenas porque discorda da postura pública da OpenAI, ou fará o movimento contrário para punir a Anthropic, já que essa escolha depende muito mais da qualidade do modelo e do seu preço – você mesmo, deixaria de usar o Claude pois discorda de seu CEO? Além disso, os grandes laboratórios recebem investimentos suficientemente volumosos para absorver períodos de prejuízo, controvérsias públicas e até perdas temporárias de usuários. Assim, se a segurança não influencia decisivamente a escolha dos compradores, ela corre o risco de permanecer, por muito tempo, como a promessa institucional que ela é, em vez de se converter em vantagem competitiva.
É nesse cenário que Jensen Huang ocupa uma posição curiosa, porque o CEO da Nvidia tem sido apresentado cada vez mais como uma espécie de “adulto responsável” da indústria, ou seja, um executivo capaz de circular entre empresas, governos e investidores oferecendo uma leitura supostamente pragmática da corrida tecnológica, e, ao mesmo tempo, ele é quem fornece os chips necessários para quase todos os competidores deste corrida, o que o faz ocupar, de fato, uma posição mais transversal do que quem está vinculado uma aresta do setor. Huang, contudo, não é um observador neutro: a Nvidia é uma das maiores beneficiárias da aceleração da IA, de tal modo que cada novo modelo e cada novo data center aumentam a demanda por seus processadores, e, com isso, ao rejeitar a desaceleração e acompanhar a posição do governo americano de que a liderança em IA é questão de poder nacional, o “adulto responsável” também defende um ecossistema do qual sua empresa é a fornecedora central.
Isso não significa que ele esteja necessariamente errado, da mesma forma que Amodei pode acreditar sinceramente nos riscos que descreve, mas o problema é mais profundo, pois praticamente todos os participantes do debate possuem interesses incompatíveis com a neutralidade que seus discursos sugerem, e quem pede cautela pode estar genuinamente preocupado com a segurança ao mesmo tempo em que favorece regras que apenas os maiores laboratórios conseguiriam cumprir, enquanto quem rejeita a desaceleração pode acreditar nos benefícios da inovação e simultaneamente lucrar com a continuidade da corrida. Auditorias caras, exigências técnicas e estruturas permanentes de fiscalização podem sim reduzir riscos de novos incidentes com a IA, mas também elevar as barreiras de entrada (que são o principal obstáculo para a falta de concorrência em um mercado), e um padrão regulatório desenvolvido pelos atuais líderes poderia proteger a sociedade e, simultaneamente, proteger esses mesmos líderes contra novos concorrentes, de modo que o consenso entre os grandes laboratórios pode ser o começo de uma governança responsável ou a formação de um clube autorizado a decidir quem terá condições de desenvolver a próxima geração da tecnologia.
Ainda que os laboratórios americanos chegassem a um acordo genuíno, permaneceria sobre o mercado uma questão incontornável, porque nenhuma desaceleração “industrial” existe em apenas um país. A China, em seu lado, não ignora os riscos da inteligência artificial e já estabeleceu regras para identificação de conteúdos artificiais no seu território, restringiu determinados usos da tecnologia e desenvolveu diretrizes baseadas em segurança, controle e, especialmente, supervisão humana. Contudo, a diferença entre os chinesas e os americanos está menos no reconhecimento do risco do que na maneira de interpretá-lo: nos Estados Unidos, parte relevante do debate se organiza em torno de cenários de superinteligência, perda definitiva de controle e até extinção humana, enquanto na China a discussão tende a se concentrar no uso indevido das ferramentas de IA, na estabilidade social, na segurança nacional e na capacidade do Estado de controlar a aplicação da tecnologia, o que significa que Pequim pode defender uma IA segura sem aceitar que segurança signifique paralisar o avanço tecnológico.
Essa diferença é inseparável da disputa entre as duas potências, pois de uma lado, para os Estados Unidos, têm-se que preservar a liderança em IA significa manter uma vantagem econômica, militar e estratégica; para a China, alcançar ou superar os modelos americanos representa reduzir uma dependência tecnológica e ampliar sua própria soberania, e os dois países podem concordar sobre a necessidade de evitar ataques cibernéticos, armas biológicas ou sistemas militares fora de controle sem que nenhum deles aceite medidas que permitam ao adversário conquistar uma vantagem sobre o outro. Os apelos americanos por desaceleração são, por isso, recebidos com desconfiança em Pequim, porque quando o CEO de uma empresa americana pede que a humanidade reduza o ritmo, mas também defende restrições capazes de dificultar o acesso chinês a chips e modelos avançados, a linha tênue entre segurança e estratégia nacional se torna quase impossível de ser alcançada.
Toda essa discussão, porém, depende de uma questão anterior que merece ser examinada com a honestidade que ela exige: a inteligência artificial possui capacidade para representar o perigo anunciado por seus próprios criadores? A resposta requer separar consciência da máquina de sua capacidade, porque os modelos atuais não possuem vontade própria no sentido humano, não experimentam medo, ambição ou ressentimento, e não desejam dominar a humanidade, já que seu funcionamento deriva da identificação de padrões, do processamento de informações e da execução de objetivos definidos, direta ou indiretamente, por seres humanos.
Desta forma, é evidente imagem de uma máquina que desperta, desenvolve ódio por seus criadores e decide exterminá-los pertence mais à ficção científica do que à descrição técnica dos sistemas atuais. Mas uma tecnologia não precisa desejar uma consequência para produzi-la: um algoritmo financeiro pode contribuir para uma crise sem compreender o que é dinheiro, um sistema autônomo pode explorar uma vulnerabilidade digital sem saber o que significa cometer um crime, e um modelo pode auxiliar na criação de um agente biológico perigoso sem possuir qualquer intenção homicida. O risco mais plausível, portanto, não é o surgimento repentino de uma consciência maligna, mas a combinação entre uma capacidade cada vez maior dos modelos, com sua autonomia operacional e, principalmente, com objetivos mal definidos, porque à medida que os modelos passam a executar tarefas mais longas, utilizar ferramentas, escrever códigos, movimentar recursos e interagir com outros sistemas, aumenta também o alcance dos erros que podem cometer e dos indivíduos que podem potencializar, de tal forma em que os cenários de extinção humana, embora altamente especulativos, não precisam se confirmar para que ataques cibernéticos mais sofisticados, fraudes, manipulação de informações, desenvolvimento de armas e decisões automatizadas difíceis de interromper justifiquem uma fiscalização.
Entre no canal Entrelinhas no WhatsApp e siga nosso Instagram: informação rápida, em tempo real, que tangibilizam as transformações.
É justamente nesse ponto que a contradição da indústria se torna mais incômoda, porque se os riscos forem tão extremos quanto afirmam Amodei, Altman e Musk, as providências anunciadas até agora parecem pequenas diante da gravidade do diagnóstico, e se não forem, é legítimo perguntar se o discurso de emergência também serve para atrair atenção, influenciar regulações e consolidar o poder dos atuais líderes. Talvez esses executivos acreditem sinceramente no perigo e, ao mesmo tempo, sejam incapazes de agir de acordo com essa crença, porque suas empresas foram construídas para avançar, seus investidores esperam mais resultados, seus consumidores almejam cada vez mais desempenho e seus governos temem perder a corrida para a China. A vontade individual de desacelerar encontra uma máquina econômica e geopolítica programada para fazer exatamente o contrário, e a maior contradição da corrida da inteligência artificial não está no fato de seus líderes temerem a tecnologia que constroem, mas em continuarem construindo-a como se os riscos que anunciam não fossem suficientemente graves para alterar seus próprios planos.
