A IA Generativa Pode Estar Criando Mais Trabalho Para os Seres Humanos
Há um consenso de que as ferramentas de Inteligência Artificial (IA) Generativa podem ajudar as pessoas a economizar tempo e aumentar a produtividade.
No entanto, embora essas tecnologias facilitem a execução de códigos ou a produção rápida de relatórios, o trabalho de back-end para construir e sustentar grandes modelos de linguagem (LLMs) pode exigir mais trabalho humano do que o esforço economizado antecipadamente. Além disso, muitas tarefas podem não exigir necessariamente o poder de fogo da IA quando a automação padrão serve.
Essa é a visão de Peter Cappelli, professor de administração da Wharton School da Universidade da Pensilvânia, que falou em um evento recente do MIT. Em uma base cumulativa, a IA Generativa e os LLMs podem criar mais trabalho para as pessoas do que aliviar tarefas. Os LLMs são complicados de implementar e “acontece que há muitas coisas que a IA Generativa poderia fazer e que realmente não precisamos fazer”, disse Cappelli.
Embora a IA seja considerada uma tecnologia revolucionária, “as projeções do lado tecnológico costumam ser espetacularmente erradas”, ressaltou. “Na verdade, a maioria das previsões tecnológicas sobre o trabalho têm estado erradas ao longo do tempo”. Ele disse que a onda iminente de caminhões e carros sem motoristas, prevista para 2018, é um exemplo de projeções otimistas que ainda não se concretizaram.
As visões amplas da transformação impulsionada pela tecnologia muitas vezes ficam presas nos detalhes mais minuciosos. Os defensores dos veículos autônomos promoveram o que “os caminhões sem condutor poderiam fazer, em vez do que precisa de ser feito, e o que é necessário para a aprovação dos regulamentos – as questões de seguro, as questões de software e todas as demais questões”. Além disso, Cappelli acrescentou: “Se você observar o trabalho real, os motoristas de caminhões fazem muitas outras coisas além de apenas dirigir caminhões, mesmo em transportes rodoviários de longa distância”.
Uma analogia semelhante pode ser feita com o uso de IA Generativa para desenvolvimento de software e negócios. Os programadores “passam a maior parte do tempo fazendo coisas que não têm nada a ver com programação de computadores”, disse ele. “Eles estão conversando com as pessoas, negociando orçamentos e todo esse tipo de coisa. Mesmo no lado da programação, nem tudo isso é realmente programação.”
As possibilidades tecnológicas de inovação são intrigantes, mas a implementação tende a ser retardada pela realidade no terreno. No caso da IA Generativa, quaisquer benefícios de economia de mão-de-obra e produtividade podem ser compensados pela quantidade de trabalho de back-end necessário para construir e sustentar LLMs e algoritmos.
Tanto a IA Generativa quanto a operacional “geram novo trabalho”, destacou Cappelli. “As pessoas têm que gerenciar bancos de dados, têm que organizar materiais, têm que resolver esses problemas de relatórios conflitantes, validade e esse tipo de coisa. Isso vai gerar muitas tarefas novas, alguém vai ter que fazer isso.”
Ele disse que a IA operacional que já existe há algum tempo ainda é um trabalho em andamento. “O aprendizado de máquina com números tem sido marcadamente subutilizado. Parte disso tem a ver com questões de gerenciamento de banco de dados. É preciso muito esforço apenas para reunir os dados para que você possa analisá-los. Os dados geralmente estão em silos diferentes em organizações diferentes, que são politicamente e tecnicamente difíceis de extrair.”
Cappelli cita vários problemas na mudança em direção à IA Generativa e aos LLMs que devem ser superados:
Abordar um problema/oportunidade com IA/LLMs pode ser um exagero – “Há muitas coisas que grandes modelos de linguagem podem fazer e que provavelmente não precisam ser feitas”, afirmou ele. Por exemplo, a correspondência comercial é vista como um caso de uso, mas a maior parte do trabalho já é realizada por meio de automação básica. Acrescente o fato de que “uma carta padrão já foi aprovada por advogados e qualquer coisa escrita em grandes modelos de linguagem provavelmente terá que ser vista por um advogado. E isso não vai economizar nenhum tipo de tempo”.
Será mais caro substituir a automação mecânica pela IA – “Não está tão claro se os grandes modelos de linguagem serão tão baratos como são agora”, alertou Cappelli. “À medida que mais pessoas os usam, o espaço para computadores tem que aumentar, e a demanda por eletricidade por si só é grande. Alguém tem que pagar por isso.”
São necessárias pessoas para validar resultados da IA Generativa – Relatórios ou resultados de IA Generativa podem ser adequados para coisas relativamente simples, como e-mails, mas para relatórios ou empreendimentos mais complexos, é necessário que haja validação de que tudo está preciso. “Se você for usá-lo para algo importante, é melhor ter certeza de que está certo. E como você vai saber se está certo? Bem, ajuda ter um especialista; alguém que possa validar de forma independente e que saiba algo sobre o tópico. Para procurar alucinações ou resultados peculiares, e que está atualizado. Algumas pessoas dizem que você poderia usar outros grandes modelos de linguagem para avaliar isso, mas é mais uma questão de confiabilidade do que de validade, e isso não é necessariamente fácil ou barato de fazer.”
A IA Generativa nos afogará em informações demais e às vezes contraditórias – “Como é muito fácil gerar relatórios e resultados, você obterá mais respostas”, disse Cappelli. Além disso, um LLM pode até fornecer respostas diferentes para o mesmo prompt. “Esta é uma questão de confiabilidade – o que você faria com seu relatório? Você gera um que faz seu departamento parecer melhor e o entrega ao chefe.” Além disso, ele advertiu: “Mesmo as pessoas que constroem esses modelos não conseguem dar essas respostas de maneira clara. Será que vamos afogar as pessoas ao julgarem as diferenças nesses resultados?”
As pessoas ainda preferem tomar decisões com base em instintos ou preferências pessoais – esse problema será difícil de ser superado pelas máquinas. As organizações podem investir grandes somas de dinheiro na construção e gestão de LLMs para funções, como na escolha de candidatos a empregos, mas estudo após estudo mostra que as pessoas tendem a contratar pessoas de quem gostam, em comparação com o que as análises concluem, disse Cappelli. “O aprendizado de máquina já poderia fazer isso por nós. Se você construísse o modelo, descobriria que seus gerentes que já estão tomando as decisões não querem usá-lo.
Cappelli sugeriu que a aplicação de IA Generativa mais útil no curto prazo é examinar os armazenamentos de dados e fornecer análises para apoiar os processos de tomada de decisão. “Estamos coletando dados agora que não conseguimos analisar por nós mesmos”, disse ele. “IA Generativa será muito melhor para fazer isso do que nós”, disse ele. Junto com o gerenciamento de banco de dados, “alguém precisa se preocupar com proteções e problemas de poluição de dados”.
Traduzido (por seres humanos) do original: Generative AI may be creating more work than it saves
Equipe DSA