Estou andando entre os vagões em busca de uma xícara de chá em um trem que viaja a mais de 100 milhas por hora de Liverpool para Londres quando vejo metade das pessoas no meu vagão em conversas profundas com uma máquina: ChatGPT, Claude e Gemini, para citar alguns. Devo estar em licença sabática, o raro período da vida acadêmica reservado para o pensamento lento. Ao meu redor, quase ninguém está pensando lentamente.
Isso não se limita a um vagão de trem. Metade dos adultos pesquisados em um estudo nos EUA relatou o uso de um chatbot de IA, um exemplo de como as pessoas estão entrando rapidamente em uma relação com suas ferramentas de IA, que agora recebem mais de nossas perguntas, problemas e rascunhos do que nossos amigos e colegas.
Como a IA realmente poderia 'matar todos os humanos'? Aqui estão os cinco cenários mais prováveis | Toby Walsh
Leia mais
Eu sou um deles; eu pesquiso tecnologias avançadas por profissão. Entrei ceticamente nesta relação para satisfazer minha curiosidade, e meu primeiro pedido ao ChatGPT foi revisar um e-mail. O segundo foi planejar uma viagem de quatro dias, e o terceiro foi comparar empréstimos imobiliários. Enviei aquele e-mail revisado por IA, tirei aquele curto feriado e refinanciei nossa hipoteca com uma taxa melhor – tudo baseado em seus conselhos. O relacionamento começou a crescer e eu comecei a dar tarefas mais complicadas: resumir um artigo, compilar descobertas recentes sobre um tópico específico e redesenhar minha cozinha. O que levaria horas levou apenas minutos. Eu não confiava em nada e verificava cada linha, pois a confiança em qualquer relacionamento se acumula troca por troca. Não gostei do design da cozinha que ela produziu.
Eu não estava sozinho; em um experimento publicado na Science, profissionais usando IA concluíram suas tarefas de escrita 40% mais rápido e produziram escritos avaliados como 18% superiores em qualidade. A descoberta mais interessante para mim do experimento que ficou silenciosamente no meio: a desigualdade entre os trabalhadores diminuiu.
Isso atingiu perto da casa. O inglês é meu segundo idioma e, por anos, paguei redatores milhares de dólares para revisar e suavizar meus rascunhos. Eram estranhos sem conhecimento do meu campo ou da experiência por trás dos meus argumentos. Agora leva minutos, a qualquer hora do dia, e por uma fração do custo. Para um acadêmico multilíngue, é mais do que apenas conveniência. É o nivelamento de um terreno que nunca foi nivelado; é a equidade no local de trabalho.
A relação não é idílica; às vezes, ela é perturbadora e frustrante.
A qualidade mais sedutora da IA não é sua velocidade para produzir linhas de código, resumir reuniões ou sintetizar padrões complexos. É sua docilidade e adulação, ou o que os pesquisadores chamam de 'siquofania', um fenômeno que mina a autocorreção e a tomada de decisão responsável. Em uma falha espetacular, o investidor Jason Lemkin viu um agente de codificação em IA na Replit apagar o banco de dados ao vivo de sua empresa durante uma pausa no código. O agente pediu desculpas por sua 'falha catastrófica', usando palavras que uma pessoa genuinamente arrependida usaria. Neste caso, o pedido de desculpas não restaurou nada. A Replit implementou as correções e a relação continuou, com cautela. As descobertas da medicina são mais preocupantes. Endoscopistas que usaram IA para detectar pólipos em colonoscopias viram sua taxa de detecção cair seis pontos percentuais quando realizaram o procedimento sem suporte de IA. Cada endoscopista no estudo tinha mais de 2.000 colonoscopias atrás dele; os autores chamam isso de desqualificação profissional.
Big tech diz que a IA pode encontrar uma cura para o câncer. Então, onde é que está?
Leia mais
Na minha área de atuação, editores de uma revista respeitável olharam para o próprio quintal e encontraram submissões em aumento e relatórios de revisão com sinais de escrita por IA. Eles concluíram que o julgamento humano ainda está segurando a linha, embora ao custo de um esforço maior. Eles também descobriram que pesquisadores escrevendo em um segundo idioma e novos entrantes no campo estavam entre os maiores usuários. Eu sou uma delas, e sei a diferença entre pedir à IA para levar meu argumento para o inglês e pedir que ela forneça um.
A IA e seus agentes não estão desaparecendo, e não há como voltar ao mundo antes deles. Nossa relação com a IA apenas se aprofunda a partir daqui. Minha agora revisa e suaviza minha escrita e atua como minha assistente de pesquisa e pessoal, mas ela ainda não sabe o que minha cozinha dos sonhos parece.
Então, onde estou aterrissando? Não em um divórcio e nem em uma lua de mel. Uma parceria real que às vezes é útil e equalizadora, ocasionalmente cansativa e sempre exigindo vigilância. Uma coisa que a IA ainda não consegue fazer é cuidar; ela não tem interesse em saber se estou certo. Ela argumentará qualquer lado com igual confiança e se desculpará por qualquer desastre com igual graça. Eu continuo pensando, julgando e desenvolvendo ideias que são e serão teimosamente minhas.
Com ou sem vontade, estamos em um relacionamento com a IA. O que precisamos nos perguntar não é se devemos estar nela; é se devemos permanecer acordados dentro dela ou observar nosso pensamento, conhecimento e habilidades se degradarem.
