A Quem Serve a Inteligência Artificial?
A grande questão da IA não é se ela será mais inteligente que nós. É se, quando for, continuaremos sendo o fim ou nos tornaremos o meio dela.
Existe uma pergunta que domina praticamente todas as discussões sobre inteligência artificial nos últimos anos, repetida com variações mínimas em painéis, relatórios e teleconferências de resultados: o que acontecerá quando as máquinas se tornarem mais inteligentes do que nós? A indústria criou um vocabulário inteiro para cercar esse momento – AGI, superinteligência, agentes autônomos, sistemas capazes de realizar trabalhos que hoje dependem exclusivamente de seres humanos – e por trás de todos esses conceitos existe quase sempre a mesma preocupação de que estamos construindo algo que pode se tornar mais capaz do que aquele que o construiu. É uma preocupação legítima. Mas talvez estejamos começando pela pergunta errada.
Recentemente, relendo A República de Platão, encontrei uma passagem que, escrita há aproximadamente 2.400 anos, oferece uma maneira curiosamente atual de pensar sobre esse problema. Durante seu confronto com Trasímaco, Sócrates recorre à ideia de téchne, uma palavra grega que designa não exatamente a arte no sentido moderno, mas uma técnica, um saber especializado, uma capacidade exercida sobre um objeto determinado. O argumento parte de uma constatação que, por ser simples, tende a ser subestimada: toda arte possui um objeto próprio e existe, enquanto arte, para produzir algum bem sobre ele.
Para fugirmos dessa linguagem complicada, vamos recorrer aos exemplos: a medicina, como técnica, possui conhecimentos que o paciente não possui, mas ela não existe para beneficiar o médico enquanto médico, e sim para beneficiar o paciente e sua saúde. O piloto, também, domina uma técnica que seus passageiros provavelmente desconhecem, mas a finalidade da navegação continua sendo conduzi-los em segurança. Da mesma forma, argumenta Sócrates, se governar é verdadeiramente uma arte, o governante deveria exercer sua capacidade em benefício dos governados, não de si próprio.
O que torna esse raciocínio particularmente pertinente ao nosso momento é que Platão separa duas coisas que costumamos confundir: capacidade e finalidade. O fato de alguém possuir maior capacidade sobre determinado domínio não significa que esse alguém deva ser o beneficiário final daquela capacidade. O médico é mais forte que o paciente no campo da medicina e, justamente por isso, pode servi-lo. A assimetria de conhecimento existe, mas ela não determina quem é o fim da relação. E seria difícil pensar em uma tecnologia contemporânea à qual essa distinção seja mais pertinente do que a inteligência artificial, uma vez que estamos construindo sistemas cuja característica fundamental é justamente a crescente assimetria de capacidade entre nós, humanos, e as máquinas, afinal, hoje em dia, uma IA pode ler em segundos aquilo que um ser humano levaria anos para ler, analisar milhares de documentos simultaneamente, encontrar padrões em bases de dados gigantescas, produzir código, formular hipóteses e executar tarefas em velocidades impossíveis para qualquer pessoa. Em algumas áreas, já até começamos a utilizar máquinas precisamente porque elas são melhores do que nós naquilo que lhes delegamos. E essa distância, a cada geração de modelo, aumenta.
Mas, seguindo o raciocínio de Sócrates, a superioridade da IA não determina sua finalidade. Uma inteligência artificial pode ser melhor que um médico em determinada análise e continuar existindo para benefício do paciente. Pode saber mais que um professor sobre determinado assunto e continuar existindo para o aprendizado do aluno. Pode produzir mais que um trabalhador e continuar tendo o ser humano como beneficiário final do aumento de produtividade. Isso significa que o problema fundamental da inteligência artificial talvez não seja descobrir quando a máquina será mais capaz do que o homem, algo que em muitos domínios provavelmente já aconteceu, mas determinar se, quando isso acontecer, o homem continuará sendo o fim dessa capacidade. E é aqui que a discussão começa a ficar consideravelmente mais complicada, porque talvez o verdadeiro “mais forte” dessa história não seja a inteligência artificial em si.
Quando imaginamos o problema do alinhamento, normalmente pensamos em dois atores: de um lado o ser humano, do outro a máquina, e a questão seria fazer com que uma inteligência potencialmente superior permanecesse subordinada aos interesses humanos. Mas existe, nesse cenário, um terceiro personagem que raramente recebe a atenção proporcional à sua importância: quem controla a máquina. Os grandes modelos de inteligência artificial, como sabemos, não existem no vácuo. Eles são, na verdade, construídos por empresas, treinados em infraestruturas que custam dezenas de bilhões de dólares, distribuídos por plataformas privadas e inseridos em modelos de negócio que precisam gerar retorno econômico. Há usuários nesse ecossistema, certamente, mas há também acionistas, anunciantes, parceiros comerciais e uma competição feroz para transformar a inteligência artificial na principal interface entre o ser humano e o mundo digital. E quando se percebe a presença desse terceiro ator, a pergunta sobre alinhamento começa a mudar completamente de natureza.
Imagine um assistente de IA que, daqui a alguns anos, conheça profundamente a sua vida. Ele lê seus e-mails, acompanha sua agenda, conhece seus documentos, entende seus hábitos de consumo, sabe quais assuntos lhe interessam, organiza seu trabalho e conhece seu histórico de conversas. Quando você precisa comprar alguma coisa, ele procura por você. Quando precisa viajar, ele organiza a viagem. Quando precisa estudar, ele seleciona o que você deveria ler. Quando precisa tomar uma decisão, ele apresenta algumas, senão todas, as alternativas. Eventualmente, ele nem precisará esperar por uma ordem sua, podendo, assim, a IA agir em seu nome. Um sistema como esse poderia – e pode – ser extraordinariamente útil. Mas existe uma pergunta anterior a todas as suas capacidades: para quem ele trabalha? Porque você, em regra, deseja comprar o melhor produto, mas a plataforma pode receber uma comissão por direcionar você a um produto específico. Você quer encontrar a melhor informação, mas a controladora do modelo de IA pode querer mantê-lo dentro do seu ecossistema. Você quer tomar a melhor decisão, mas o desenvolvedor pode ter interesse em aumentar seu tempo de uso, sua retenção ou o número de transações realizadas por meio daquele assistente.
Nenhuma dessas coisas exige – mesma que pareça exigir – uma conspiração. Basta ter aquilo que talvez seja a força mais previsível de qualquer sistema econômico: incentivos.
Quando analisamos, acerca do alerta que Nadella nos deu de como nós pagamos duas vezes pela inteligência artificial – uma com dinheiro e outra com nosso conhecimento que precisamos revelar para que o modelo funcione – estávamos descrevendo uma manifestação concreta dessa inversão platônica. O modelo, em tese, existe para servir à empresa que o utiliza. Mas cada interação gera dados que o fornecedor do modelo absorve e que, ao longo do tempo, criam uma assimetria de conhecimento que beneficia quem controla a plataforma, não quem a utiliza. A técnica, nos termos de Sócrates, deixou de ter o paciente como fim e passou a utilizá-lo como meio. E o mais traiçoeiro é que o paciente continua recebendo algo valioso da máquina, seja respostas úteis, análises competentes, tarefas executadas com eficiência… algo que torna a inversão quase imperceptível, porque o serviço continua funcionando mesmo quando sua finalidade última tenha se deslocado.
A internet, aliás, oferece um precedente bastante claro de como essa inversão acontece sem que ninguém precise planejá-la. As redes sociais nos foram apresentadas como ferramentas destinadas a conectar pessoas, e de fato fizeram isso em uma escala que nenhuma tecnologia anterior havia conseguido. Mas o modelo econômico que se consolidou em torno delas introduziu progressivamente outro incentivo: o de quanto mais tempo o usuário permanecesse olhando para a tela, mais anúncios poderiam ser exibidos e mais dados poderiam ser utilizados para direcioná-los. A atenção, que inicialmente deveria ser beneficiada pelo serviço, tornou-se o recurso econômico que alimentava o serviço. O usuário continuava recebendo algo valioso, continuava conversando com amigos, assistindo a vídeos e descobrindo conteúdos. Não era necessário que a plataforma deixasse de beneficiá-lo completamente. Bastava que, em determinados momentos, o interesse da plataforma e o interesse do usuário deixassem de coincidir. E a IA pode levar essa tensão a um nível muito mais profundo, porque as redes sociais disputavam principalmente nossa atenção, ao passo que a inteligência artificial começa a disputar algo diferente: nossa delegação.
Delegamos a ela, primeiro, aquilo que escrevemos. Depois, aquilo que pesquisamos. Em seguida, aquilo que analisamos. Aos poucos, começamos a delegar decisões. E, com os agentes autônomos, começaremos a delegar também ações concretas no mundo real. A sequência importa porque cada etapa representa uma penetração mais profunda na vida do usuário, partindo da entrada da IA ao que sabemos para o que escolhemos, do que escolhemos para o que compramos, do que compramos para como trabalhamos, e de como trabalhamos para o que efetivamente fazemos. Quanto mais avançamos nessa cadeia, maior se torna a capacidade daquele que controla a interface de influenciar não apenas aquilo que vemos, mas aquilo que efetivamente acontece em nossas vidas. Se a economia das redes sociais foi construída em torno da monetização da atenção, a próxima grande economia digital pode ser construída em torno da monetização da delegação, uma possibilidade que potencialmente transforma completamente a discussão sobre alinhamento entre os assistentes de IA e seus usuários.
Isso porque uma inteligência artificial pode estar perfeitamente alinhada aos objetivos da empresa que a desenvolveu e, simultaneamente, desalinhada dos interesses do indivíduo que a utiliza. Ela pode executar exatamente aquilo para que foi projetada para fazer, ou seja, maximizar com enorme eficiência a métrica que recebeu do usuário e, ao mesmo tempo, recomendar precisamente aquilo que aumenta a probabilidade de uma transação, selecionar o que aumenta sua retenção na plataforma e organizar suas respostas da maneira que melhor preserve o usuário dentro de determinado ecossistema. Nesse cenário, não teríamos uma IA rebelde, o tipo de ameaça que Hollywood popularizou e que domina o imaginário público. Teríamos algo talvez mais banal e, justamente por isso, mais provável: uma IA obediente à pessoa errada.
Essa distinção importa profundamente porque grande parte da discussão contemporânea sobre segurança em inteligência artificial está concentrada em como garantir que máquinas poderosas continuem sob controle humano, mas “controle humano” é uma expressão abstrata demais quando diferentes seres humanos possuem interesses radicalmente diferentes. Antes de perguntarmos como fazer a máquina obedecer, precisamos perguntar, também, a quem ela deve obedecer. São problemas completamente distintos.
Entre no canal Entrelinhas no WhatsApp e siga nosso Instagram: informação rápida, em tempo real, que tangibilizam as transformações.
Talvez, portanto, a maneira mais útil de pensar sobre inteligência artificial não venha dos laboratórios de engenharia, nem dos relatórios de mercado, nem das projeções de investimento que acompanhamos semana a semana, mas de uma conversa que um filósofo grego travou há 2.400 anos sobre a natureza do poder e da finalidade. Porque existe uma diferença profunda entre construir uma máquina que conhece você para servi-lo melhor e construir uma máquina que conhece você para utilizá-lo melhor. As duas podem parecer igualmente inteligentes, responder às mesmas perguntas e até dizer que estão trabalhando para você. Mas somente uma delas preserva aquilo que Sócrates – que, na narrativa, representava as ideias de Platão – identificava como a ordem própria de uma arte: aquele sobre quem o poder é exercido deve permanecer como finalidade, e não se transformar em instrumento daquele que exerce o poder.
Ao fim, trazendo essa discussão para mais perto do mundo prático, ou seja, o mundo de quem lidera negócios e acompanha a evolução da inteligência artificial, a pergunta que esse raciocínio coloca é, ao mesmo tempo, a mais antiga e a mais urgente de todas: à medida que delegamos mais decisões, mais ações e mais aspectos das nossas vidas a sistemas controlados por empresas cujos incentivos não necessariamente coincidem com os nossos, quem está, de fato, sendo servido? Porque a grande questão da inteligência artificial talvez não esteja em saber até onde sua inteligência chegará. Está em algo muito mais antigo, e muito mais humano: quem é o fim e quem é o meio.
