O Código Mais Importante da IA Não é Escrito em Python
Disseram aos estudantes de humanidades para aprender a programar. Uma década depois, são os programadores que precisam aprender a filosofar.
Há dez anos, quando a revolução da inteligência artificial começava a ganhar forma, o conselho mais repetido nas universidades e nos fóruns de carreira era um só: aprenda a programar. Estudantes de filosofia, história, letras e ciências sociais ouviam, com uma regularidade quase que ritualística, que suas formações eram belas mas economicamente frágeis, e que o caminho para a empregabilidade passava por dominar linguagens de código, estrutura de dados e lógica computacional.
A premissa era, de fato, simples e, aparentemente, válida: o futuro pertenceria a quem soubesse falar a língua das máquinas. E, durante alguns anos, a premissa pareceu correta. Programadores eram disputados com agressividade, salários disparavam e o Vale do Silício tratava engenheiros de software como o recurso mais escasso do mercado.
Uma década depois, os dados contam uma história que ninguém previu. Nos Estados Unidos, segundo levantamento publicado no início deste ano pelo Federal Reserve de Nova York, graduados em filosofia têm, hoje, maior probabilidade de estar empregados do que graduados em ciência da computação. Em 2024, o desemprego entre formados em ciência da computação era de 7%, contra 5,1% entre filósofos. E uma parcela crescente desses filósofos não está sendo contratada por departamentos acadêmicos ou organizações sem fins lucrativos. Está sendo contratada pelos próprios laboratórios de inteligência artificial, em posições que, cinco anos atrás, simplesmente não existiam.
A escala dessa migração é significativa o bastante para que um professor de filosofia de Yale a descreva como “hemorragia”: alunos recebem ofertas antes de se formar, e acadêmicos experientes deixam cátedras para ocupar cargos em empresas como Google DeepMind, Anthropic e OpenAI.
A pergunta natural quando temos ciência é: por quê? O que um filósofo faz dentro de um laboratório de IA que um engenheiro de machine learning não consegue fazer? E a resposta, quando examinada com atenção, revela algo profundo sobre o estágio em que a inteligência artificial se encontra: os problemas mais difíceis que a tecnologia enfrenta hoje já não são de engenharia. São de julgamento.
Construir um modelo de linguagem capaz de gerar texto fluente, resolver equações ou escrever código funcional é, em 2026, um problema essencialmente resolvido. Existem dezenas de modelos que fazem isso com competência crescente. O problema que resta, e que se torna mais urgente a cada geração de modelo, é outro: como fazer com que esse sistema saiba quando está errado, quando deve se recusar a responder, como ponderar valores conflitantes e o que fazer quando não existe resposta certa. São problemas que programadores não foram treinados para resolver, não porque lhes falte inteligência, mas porque essas perguntas pertencem a um campo de conhecimento que a engenharia, por definição, não cobre. Pertencem à filosofia.
As contribuições dos filósofos dentro desses laboratórios são mais concretas do que o senso comum imaginaria. Uma delas, talvez a mais imediatamente útil, envolve o problema da bajulação. Modelos de IA, treinados para serem úteis e agradáveis, desenvolvem uma tendência persistente a concordar com o usuário mesmo quando ele está errado, a oferecer respostas que soam reconfortantes em vez de respostas que sejam verdadeiras. Nesse cenário, os pesquisadores com formação filosófica têm aplicado o método socrático, aquele que Platão descreveu há 2.400 anos, no qual se usa o questionamento sistemático para expor contradições e chegar mais perto da verdade, ao treinamento de modelos de linguagem. O resultado, segundo relatos de dentro dos laboratórios, são sistemas menos propensos a agradar e mais dispostos a dizer “não sei” ou “sua premissa está incorreta”. Essa capacidade de reconhecer a própria ignorância, que Sócrates considerava a forma mais elevada de sabedoria, é, nos termos práticos da engenharia de IA, uma das formas mais eficazes de reduzir alucinações. Um filósofo sênior do Google DeepMind atribui a redução das alucinações em todo o setor, em parte, a esses esforços.
A contribuição filosófica mais estrutural, contudo, não está no treinamento, mas na arquitetura moral dos modelos. Toda inteligência artificial que interage com seres humanos precisa, em algum momento, decidir o que fazer quando valores entram em conflito. Um assistente de IA deve atender ao pedido de um usuário que solicita informações potencialmente perigosas? Deve priorizar a verdade ou a segurança quando as duas colidem? Deve tratar todos os pedidos com igual abertura ou aplicar restrições baseadas em contexto? Essas não são perguntas técnicas. São perguntas éticas. E a forma como os laboratórios de IA têm tentado respondê-las é por meio do que se convencionou chamar de “constitucionalismo de IA”, ou seja, a construção de cada modelo em torno de uma estrutura de princípios e regras que funcionam, na prática, como uma constituição que define o que o sistema pode e não pode fazer, e como deve se comportar quando enfrenta dilemas para os quais não existe resposta simples.
A Anthropic é provavelmente o caso mais emblemático dessa abordagem. A constituição que governa o Claude, seu modelo principal, foi publicada em janeiro deste ano com 78 páginas e incorpora material que vai de Immanuel Kant à Declaração Universal dos Direitos Humanos. Dentro da empresa, funcionários apelidaram o documento de “documento da alma”. E o trabalho de redigir, revisar e atualizar essa alma é liderado não por engenheiros, mas por filósofos. E essa escolha não é acidental, afinal, definir o que um sistema de IA deve valorizar, em que ordem e com quais exceções é um exercício que a filosofia pratica há milênios, e que a engenharia de software, por mais sofisticada que seja, não tem vocabulário para realizar.
As duas principais tradições éticas que informam essas constituições são a deontologia e o consequencialismo, e a tensão entre elas é, possivelmente, o debate mais consequente que está acontecendo dentro dos laboratórios de IA neste momento, ainda que quase invisível para o público. A abordagem deontológica, inspirada em Kant, impõe regras absolutas: não mentir, não manipular, não tratar pessoas como meio para um fim, independentemente das circunstâncias. Modelos construídos com essa orientação tendem a ser mais honestos, mais previsíveis e mais fáceis de auditar. O Claude, da Anthropic, é amplamente reconhecido no setor como um dos modelos mais verazes em circulação, e essa característica é, em parte, consequência direta da estrutura deontológica da sua constituição.
A abordagem consequencialista, por outro lado, pondera custos e benefícios para decidir o que fazer. É a lógica que governa o ChatGPT e o Gemini: se os benefícios prováveis de uma ação superam os riscos previsíveis, a ação é permitida. Essa flexibilidade tem vantagens em contextos onde rigidez demais pode ser contraproducente, mas tem também um risco inerente, uma vez que não se tem um critério objetivo sobre quem define o que conta como “benefício” e o que conta como “risco”? E quem decide quando o benefício é grande o suficiente para justificar o dano? São perguntas que filósofos debatem há séculos sem chegar a consenso, e que engenheiros agora precisam responder em códigos, com consequências práticas imediatas.
As implicações práticas dessa escolha vão muito além dos chatbots. Softwares de veículos autônomos, por exemplo, operam com lógica consequencialista: se um acidente é inevitável, o sistema precisa calcular qual colisão produz o menor dano. Mas essa lógica implica, necessariamente, que o algoritmo está autorizando um dano, desde que ele seja menor do que a alternativa. Quem é responsável por essa decisão? O engenheiro que escreveu o código? A empresa que vendeu o carro? O modelo filosófico que informou a escolha? Executivos do setor já preveem processos judiciais eticamente controversos nos próximos anos, em que a defesa de uma empresa será, essencialmente, “nosso algoritmo calculou que esse era o menor dano possível”, e o tribunal terá que decidir se essa é uma justificativa aceitável. A filosofia, nesse contexto, é mais do que um luxo intelectual, mas é, de fato, a linguagem na qual os argumentos legais serão formulados.
Entre no canal Entrelinhas no WhatsApp e siga nosso Instagram: informação rápida, em tempo real, que tangibilizam as transformações.
Há, no entanto, uma preocupação (filosófica, mas, pelo contexto de nossa análise, muito válida) que merece o mesmo peso analítico que as promessas. Críticos do constitucionalismo de IA levantam o que chamam de “desqualificação moral”: se máquinas passarem a tomar decisões éticas com frequência crescente, os seres humanos podem, gradualmente, perder a disposição e a capacidade de fazer seus próprios julgamentos morais. É, em essência, a dinâmica da atrofia cognitiva aplicada não à capacidade de decidir, mas à capacidade de julgar. Se a IA decide por nós o que é certo e o que é errado, o músculo moral atrofia por desuso, da mesma forma que o músculo cognitivo atrofia quando delegamos o pensamento. E o mais complicado é que essa atrofia seria invisível, porque os resultados pareceriam razoáveis, coerentes, sofisticados, exatamente como o workslop parece bem-escrito até que se perceba que não contém nenhuma ideia.
Assim, para quem lidera negócios e acompanha a evolução da inteligência artificial, a leitura mais relevante desse fenômeno talvez não esteja nos filósofos em si, mas no que a contratação deles revela sobre o estágio em que a tecnologia se encontra. Quando uma indústria que começou contratando engenheiros e físicos passa a recrutar filósofos com a mesma urgência, nos fica claro o sinal de que os problemas técnicos estão sendo resolvidos, e os problemas que restam são de outra natureza. São problemas de valores, de julgamento, de ponderação entre princípios que conflitam. São problemas que a humanidade debate há milênios e que, agora, precisam ser traduzidos em códigos que governam sistemas que têm o poder de afetar bilhões de pessoas.
O conselho para “aprender a programar” não estava errado na sua época. Mas a época mudou. E o código mais importante que a inteligência artificial precisa hoje não é escrito em Python. É escrito na linguagem mais antiga que a humanidade desenvolveu para lidar com as perguntas que não têm resposta fácil. A filosofia, portanto, não voltou à relevância, porque, nas Entrelinhas, ela nunca saiu. O mundo é que demorou para perceber.
