Dario Amodei está em uma posição curiosa: ele é fundador de uma das empresas que mais aceleram o desenvolvimento da inteligência artificial e, ao mesmo tempo, tornou-se uma das vozes mais enfáticas defendendo que talvez seja necessário pisar no freio.
O CEO da Anthropic publicou recentemente um ensaio propondo uma espécie de limite de velocidade para a corrida da IA. A ideia não é simplesmente interromper o desenvolvimento dos modelos, mas impedir que suas capacidades avancem mais rapidamente do que nossa capacidade de compreendê-los, testá-los e controlá-los.
O problema é que existe uma diferença enorme entre reconhecer que seria prudente desacelerar e efetivamente fazê-lo.
Imagine que Anthropic decida reduzir o ritmo de desenvolvimento de seus modelos. A OpenAI continua. Se a OpenAI desacelerar, o Google pode continuar. E mesmo que as principais empresas americanas cheguem a algum acordo, ainda existe a China.
Ninguém quer ser o primeiro a pisar no freio enquanto o concorrente continua acelerando.
É justamente aí que surge um dos aspectos mais interessantes dessa discussão: a corrida da inteligência artificial começa a se parecer com um gigantesco dilema do prisioneiro. O melhor resultado coletivo pode exigir algum grau de coordenação, mas cada participante possui individualmente incentivos para continuar avançando.
E essa discussão se tornou mais urgente porque a própria natureza da IA está mudando.
Durante algum tempo, o principal risco de um modelo era produzir uma resposta errada. Agora, sistemas de inteligência artificial começam a receber autonomia para executar códigos, utilizar ferramentas, acessar ambientes digitais e realizar tarefas praticamente sem intervenção humana.
Existe uma diferença enorme entre uma inteligência artificial que erra uma resposta e uma inteligência artificial que erra uma ação.
Por isso, talvez a discussão sobre segurança não deva tratar toda inteligência artificial da mesma maneira.
Um chatbot capaz de escrever melhor não representa necessariamente o mesmo risco de um sistema capaz de executar operações cibernéticas autônomas, colaborar com pesquisas biológicas perigosas, controlar infraestruturas críticas ou participar do desenvolvimento de modelos ainda mais poderosos.
O pacto, portanto, não precisaria impedir que a IA evoluísse. Poderia estabelecer limites para determinadas capacidades a partir das quais um erro deixa de produzir apenas informação equivocada e começa a gerar consequências materiais difíceis de reverter.
Mas existe outra questão igualmente importante.
Quem escreveria essas regras?
Se OpenAI, Anthropic, Google e outras gigantes definirem conjuntamente os padrões de segurança, existe o risco de que exigências justificadas pela proteção da sociedade também funcionem como barreiras para novos concorrentes. Quanto mais caro e complexo for cumprir determinado padrão, mais fácil será para empresas bilionárias atendê-lo, e mais difícil para quem tenta competir com elas.
Por isso, segurança e competição precisam caminhar juntas.
Não parece razoável deixar uma tecnologia potencialmente tão poderosa sem mecanismos externos de fiscalização. Mas tampouco parece razoável entregar exclusivamente às empresas que constroem essa tecnologia o poder de decidir quais riscos existem, quais limites devem ser impostos e quem poderá continuar desenvolvendo IA.
Entre no canal Entrelinhas no WhatsApp e siga nosso Instagram: informação rápida, em tempo real, que tangibilizam as transformações.
É essa contradição que torna o debate tão interessante.
Os mesmos líderes que passaram os últimos anos construindo motores cada vez mais poderosos começam agora a reconhecer que os freios talvez não tenham evoluído na mesma velocidade.
Talvez, portanto, não precisemos de um pacto para parar a inteligência artificial.
Precisamos de um pacto para impedir que velocidade seja o único critério da corrida.
Porque, se cada empresa acredita que não pode desacelerar enquanto as demais continuam avançando, esperar que o próprio mercado resolva espontaneamente esse problema pode significar aceitar que uma competição entre algumas organizações privadas determine, sozinha, quanto risco toda a sociedade está disposta a correr.
