O teste mais difícil para um agente de inteligência artificial talvez não seja responder a uma pergunta complexa, porque para isso os modelos já demonstram capacidades consideráveis, mas sim ligar para uma companhia aérea, esperar na linha, explicar uma alteração de reserva, ouvir que o procedimento depende de outro departamento e encontrar um jeito de concluir a tarefa apesar das exceções, dos interlocutores imprevisíveis e das regras que mudam no meio do caminho. O mundo fora da janela de conversa é feito de pessoas, burocracia e decisões que não cabem em fluxogramas, e é justamente nesse mundo que os agentes pessoais de IA prometem entrar em nosso lugar, assumindo as pequenas tarefas cotidianas que consomem nosso tempo e atenção para devolvê-los ao usuário sob a forma de conveniência. O Muse, da Meta, foi apresentado ao público dentro dessa promessa: um assistente capaz de assumir tarefas, fazer ligações e resolver pendências com cada vez menos participação humana. Cerca de 730 mil pessoas o instalaram nos primeiros cinco dias, um número que revela a força da demanda por algo que nos livre das burocracias que não queremos enfrentar. Agora, uma informação sobre seus bastidores acrescenta uma ressalva importante a essa promessa de autonomia.
Segundo a Reuters, a Meta testa internamente um serviço de concierge humano no qual funcionários terceirizados realizam parte das ligações que o agente pretende conduzir, e empregados da própria empresa manifestaram uma preocupação frente a isso com a possibilidade de esses operadores terem acesso a dados sensíveis dos usuários. A Meta afirma que o teste ajudará a desenvolver salvaguardas antes de disponibilizar o recurso publicamente, e existe uma distinção factual que precisa ser registrada com clareza antes de qualquer conclusão: não sabemos se algum dos usuários que baixaram o Muse teve uma tarefa entregue a esses operadores, porque o teste relatado ocorre dentro da empresa, e seria precipitado afirmar que as 730 mil pessoas que instalaram o aplicativo conversaram, sem saber, com seres humanos. A existência do teste, porém, já permite fazer uma pergunta mais interessante do que essa acusação: quando uma empresa afirma que seu agente faz algo, o que exatamente está sendo atribuído à inteligência artificial?
A pergunta importa porque, para o usuário, a resposta parece simples, afinal ele pediu uma tarefa, saiu do aplicativo e recebeu o resultado, e sob esse ponto de vista houve autonomia. Para a empresa, entretanto, o resultado pode ter passado por um modelo que planejou os passos, por sistemas convencionais que executaram alguns deles e por pessoas que intervieram onde a tecnologia ainda encontrou dificuldades, de modo que a experiência pode ser autônoma para quem delega sem que a tecnologia seja autônoma para quem a constrói. É nessa distância entre a percepção do usuário e a realidade da operação que a narrativa dos agentes pessoais ganha uma grande força comercial, mas também perde precisão, e o trabalho humano oculto, nesse contexto de demonstrações tecnológicas, não é uma novidade, uma vez que a indústria recorre há décadas ao chamado “mágico de Oz”, em que uma pessoa sustenta, nos bastidores, uma capacidade que o sistema ainda não domina, e existem bons motivos para testar produtos dessa forma, porque observar como alguém resolveria uma situação difícil pode ajudar a desenvolver a ferramenta que, no futuro, fará o mesmo. O problema começa quando a experiência provisória se confunde com uma capacidade já conquistada, sobretudo quando o produto exige acesso à vida privada de quem o utiliza.
No caso de um agente pessoal, a presença humana nos bastidores deixa de ser apenas uma questão sobre desempenho técnico e se torna uma questão sobre privacidade, porque para cancelar uma assinatura, remarcar uma consulta ou discutir uma cobrança, o sistema precisa conhecer nomes, horários, valores e muitas vezes o motivo da solicitação do usuário, e se uma pessoa assume uma dessas etapas, ela pode precisar conhecer parte desse contexto. O usuário talvez aceite entregar informações a um serviço de IA e talvez também aceite que um operador humano o ajude, mas são escolhas diferentes que exigem consentimentos diferentes, e a condição para que qualquer uma delas seja legítima é que ele saiba qual está fazendo. A tensão se amplifica porque, quanto mais útil o agente se torna, mais acesso ele pede: um assistente que conhece apenas uma pergunta isolada pode fazer pouco, enquanto um que lê e-mails, acompanha o calendário, identifica gastos e aprende a rotina consegue antecipar necessidades e agir, mas a conveniência cresce junto com a quantidade de informações reunidas em um único lugar, e quando uma empresa considera inserir pessoas nessa cadeia, ela precisa, em conjunto, explicar onde elas entram, quais dados recebem e como o usuário pode controlar esse acesso, porque uma promessa genérica de segurança responde mal a uma dúvida tão concreta.
A Meta chega a essa discussão carregando um histórico que, embora não demonstre qualquer uso indevido de dados no Muse nem deva ser tratado como prova antecipada de um problema no novo produto, inevitavelmente influencia a percepção pública, porque recentemente a empresa firmou um acordo de 18 bilhões de dólares com estados americanos em um processo sobre alegados danos a adolescentes associados às suas plataformas, e confiança não começa do zero a cada lançamento. Ao pedir que alguém lhe entregue e-mails, finanças e detalhes da rotina, a empresa pede, implicitamente, que essa pessoa avalie também como ela exerceu responsabilidades semelhantes no passado, e o interesse pelo Muse mostra que muita gente está disposta a fazer essa avaliação de forma favorável, mas downloads medem a disposição de experimentar uma promessa, não revelando, porém, quanto as pessoas sabem sobre o funcionamento do serviço nem quais condições aceitariam para continuar usando-o.
Existe, ainda, uma contradição econômica nessa história que merece atenção porque ela conecta o caso do Muse a uma transformação mais ampla do mercado de trabalho. A grande aposta dos agentes é executar tarefas em escala a um custo que diminui à medida que a tecnologia melhora, e o recurso a operadores humanos pode ser uma etapa temporária de aprendizado, mas se persistir, também indica que certas partes do trabalho continuam caras, demoradas e resistentes à automação. Uma ligação difícil não fica simples porque passou a ser iniciada por uma IA, já que alguém ainda precisa lidar com o atendente, com as exceções e com a decisão que o formulário não previa, e antes de substituir esse trabalho, o agente pode acabar apenas mudando o lugar onde ele aparece.
Os dados do mercado de trabalho autônomo confirmam essa leitura de uma forma reveladora, porque enquanto a demanda por freelancers que realizavam tarefas operacionais básicas, como redação simples, traduções literais e design genérico, encolheu drasticamente com a democratização dos modelos de linguagem, abriu-se um mercado altamente lucrativo para profissionais independentes que atuam como arquitetos de soluções de IA, construindo ecossistemas onde múltiplos agentes interagem para executar processos de ponta a ponta, e a maior demanda atual está justamente nos profissionais que unem conhecimento técnico de IA ao conhecimento profundo de um setor específico, o que sugere que a automação não eliminou o trabalho qualificado, mas o deslocou para um nível de complexidade que a própria IA ainda não alcança sozinha.
Entre no canal Entrelinhas no WhatsApp e siga nosso Instagram: informação rápida, em tempo real, que tangibilizam as transformações.
A questão decisiva, portanto, não é se o Muse é uma fraude ou se os agentes pessoais têm futuro, porque o teste interno não sustenta a primeira conclusão e a procura pelo produto dá bons motivos para levar a segunda a sério. A questão é se a indústria conseguirá descrever suas ferramentas com a mesma clareza com que descreve seus benefícios, porque quando uma tarefa é concluída, o usuário deveria poder entender o que o modelo fez, em que momento precisou de ajuda e quem teve acesso às informações necessárias para terminá-la. A Meta pode, um dia, fazer do Muse um agente capaz de navegar sozinho por boa parte da vida cotidiana, e seu teste atual é revelador precisamente porque mostra o tamanho do caminho entre parecer capaz de agir por nós e conseguir fazê-lo sem alguém nos bastidores. Enquanto essa distância existir, a transparência sobre o trabalho humano será parte da qualidade do produto, porque a conveniência de não precisar fazer uma tarefa só merece confiança quando sabemos quem a fez em nosso lugar.
