A sociedade moderna tornou-se complexa demais para ser compreendida ou governada a partir de um único ponto de vista, de modo que foi dessa constatação que o sociólogo alemão Niklas Luhmann partiu para descrever um mundo diferenciado em sistemas que operam segundo lógicas próprias. Nesta descrição, o Direito observa os acontecimentos da sociedade pela distinção entre o lícito e o ilícito, a Economia pela distinção entre o lucrativo e o não lucrativo, a Ciência pela distinção entre o verdadeiro e o falso, a Medicina pela distinção entre o saudável e o patológico. À evidência de tal constatação, cada um desses sistemas desenvolveu ao longo do tempo formas específicas de formular seus próprios problemas, selecionar informações e produzir respostas que façam sentido dentro dos seus próprios critérios. Assim, uma descoberta científica, por exemplo, pode ser promissora para a Medicina, economicamente inviável para uma empresa e juridicamente inadmissível para um hospital, de modo que o acontecimento é o mesmo, mas o sentido que ele adquire depende inteiramente do sistema que o observa. Constatada tal observação, vale ressaltar, também, que essa diferenciação entre as “lentes” usadas para se analisar um fato não é uma falha de comunicação entre especialistas, mas a maneira pela qual a sociedade consegue lidar com uma complexidade que nenhum observador único seria capaz de processar inteiramente.
Em face desse fenômeno, a trajetória recente da inteligência artificial - ou seja, a de uma crescente na especialização dos agentes de IA - pode ser compreendida por uma analogia desse processo acima descrito, porque depois de uma primeira fase marcada por modelos generalistas (como foi o ChatGPT), capazes de responder sobre quase tudo com graus muito diferentes de profundidade, começam a ganhar espaço os sistemas construídos para trabalhar em domínios específicos, sob a forma de uma especialização que reproduz, no ambiente digital, a mesma dinâmica que Luhmann identificou na estrutura da sociedade. Com isso, uma IA voltada à saúde precisa reconhecer a linguagem dos prontuários, os limites da evidência clínica e a consequência de um erro de diagnóstico, enquanto uma IA jurídica precisa lidar com normas, precedentes, procedimentos e interpretações conflitantes. Em ambos os casos, conhecer muitos documentos é apenas o pontapé inicial do processo, pois o valor da ferramenta depende menos da quantidade de informação que ela processa e mais da sua capacidade de operar dentro de um contexto cujas regras, vocabulário e consequências são próprias daquele domínio. É, em certo sentido, a passagem de um modelo que sabe um pouco sobre tudo para modelos que sabem profundamente sobre algo, de certo que a diferença entre as duas coisas é a diferença entre uma enciclopédia e um especialista.
A especialização, porém, não encerra o processo de desenvolvimento e ganho de complexidade dos agentes de IA, porque os problemas mais difíceis que organizações e sociedades enfrentam raramente pertencem a um único domínio. Veja só, imagine uma IA capaz de avaliar a eficácia de um novo tratamento e outra capaz de analisar suas implicações regulatórias: quando essas duas capacidades se encontram, não basta somar uma resposta médica a uma resposta jurídica, porque surge um problema próprio da interface entre os dois sistemas, que é como transformar uma possibilidade clínica em uma prática autorizada, financiável, segura e acessível. É nesse contato que se torna possível imaginar uma terceira camada de inteligência artificial especializada, construída não para operar dentro de um domínio, mas para trabalhar sobre as relações entre domínios (relações entre áreas especializadas do conhecimento), compreendendo o que cada área produz, o que exige das demais e o que se perde quando uma conclusão é traduzida para outra linguagem, isto é, quando uma conclusão médica é levada a uma jurídica, o que, inevitavelmente, acarreta em erros.
Essa “terceira IA”, portanto, é uma hipótese sobre a evolução dessa tecnologia, que não é uma categoria formulada por um sociólogo, mas que sua teoria ajuda a perceber por que a integração entre as IAs especializadas será muito mais difícil do que a mera especialização em uma área específica, uma vez que se os sistemas sociais observam o mundo de maneiras genuinamente distintas, fazer circular informações entre eles não equivale a produzir uma decisão em comum. Assim, de tal modo, um parecer médico pode provocar uma resposta no Direito, assim como uma previsão econômica pode alterar prioridades políticas, sem que nenhum desses resultados seja determinado integralmente pelo sistema que produziu a informação inicial.
É aí que a IA vertical encontra seu desafio mais profundo e, simultaneamente, seu maior risco, porque uma ferramenta capaz de gerar recomendações em segundos pode alimentar, ao mesmo tempo, hospitais, seguradoras, tribunais, órgãos reguladores e empresas, e cada resposta provoca novas demandas, novas contestações e novas decisões que, por sua vez, exigem mais respostas. A velocidade e o volume desses resultados podem produzir aquilo que, na linguagem de Luhmann, se descreveria como uma espécie de hiperirritação dos sistemas sociais, porque eles passam a receber sinais em um ritmo superior à sua capacidade institucional de examiná-los, contestá-los e lhes atribuir responsabilidade.
Sob essa ótica, o risco mais evidente (e óbvio) é o de uma recomendação incorreta, mas existe um risco menos óbvio e potencialmente mais grave: mesmo uma recomendação tecnicamente plausível pode adquirir um excesso de autoridade (oriundo da IA) quando chega pronta, acompanhada de uma aparência de precisão e produzida numa escala que nenhum profissional individual conseguiria igualar. Isso significa que o médico que recebe centenas de alertas automatizados ou o juiz que trabalha sobre milhares de processos auxiliados por IA podem continuar formalmente responsáveis pela decisão sem dispor de tempo ou de condições reais para julgá-la, devido à velocidade com que elas chegam (graças a ultra produtividade da IA), e, nesse cenário, a supervisão humana permanece no procedimento formal da esteira do trabalho, mas se reduz, na prática, a uma chancela cujo conteúdo ninguém examinou inteiramente com cuidado.
Forma-se, então, aquilo que pode ser descrito como uma irresponsabilidade estrutural diante de um erro que atinja, por exemplo, um consumidor final, porque a empresa que desenvolveu o modelo pode afirmar que apenas forneceu uma ferramenta de IA eficaz, a instituição que o adotou pode alegar que manteve um humano no comando, e esse humano pode dizer que confiou em uma recomendação produzida por um sistema especializado cuja lógica interna ele não tem condições de auditar ou de acompanhar o ritmo, de modo que a decisão possui muitos participantes, mas nenhum deles parece ter acompanhado inteiramente o caminho que a produziu. Portanto, quanto mais interfaces a IA atravessa, quanto mais sistemas sociais ela irrita e quanto mais domínios ela conecta, mais fácil se torna distribuir a responsabilidade entre tantos pontos até que ela quase desapareça, e essa dispersão não é necessariamente intencional, pois ela pode resultar simplesmente da velocidade com que as recomendações se multiplicam em relação à capacidade humana de avaliá-las. Porém, seu efeito prático é real: decisões que afetam tratamentos médicos, processos judiciais, concessões de crédito, aprovações regulatórias e políticas públicas passam a ser produzidas por cadeias nas quais o elo humano existe formalmente, mas opera sob uma crescente pressão para não desacelerar o fluxo.
Entre no canal Entrelinhas no WhatsApp e siga nosso Instagram: informação rápida, em tempo real, que tangibilizam as transformações.
Por isso, o avanço da inteligência artificial vertical não deve ser medido apenas pela precisão de suas respostas dentro de cada domínio, de tal modo que a pergunta mais importante não é se a IA sabe operar dentro do Direito, da Medicina, da Economia ou da Ciência, mas o que acontece entre eles. Ou seja, quem pode contestar uma recomendação que atravessa fronteiras, qual instituição tem condições de compreendê-la em todas as suas dimensões e em que momento alguém efetivamente assume a decisão e suas consequências.
A sociedade se especializou para enfrentar a complexidade, e a inteligência artificial também está se especializando para atuar nela, mas cada nova ponte construída entre domínios amplifica tanto a capacidade de resolver problemas quanto a possibilidade de produzir decisões que ninguém teve tempo de pensar por inteiro. E talvez essa seja a Entrelinha mais importante da IA que aprende a falar a “língua dos sistemas”: quanto mais fluentemente ela se comunica com cada um deles, mais difícil se torna garantir que alguém, alguém humano, ainda governa a conversa.
