4+88, o que ele faz é adivinhar, dando diretamente 120, e então para, como se dissesse "talvez eu precise dar algumas explicações". Então calcula cada passo, 74 e 88, e junta-os, chegando a uma resposta diferente da adivinhação inicial, 92. Então, o experimentador diz "espere, você disse antes que a resposta era 120", e eles dizem "isso foi um erro, a resposta correta é 92".
Então, essencialmente, essas tecnologias, pelo menos no nível atual, ainda não têm a capacidade... elas realmente não têm os fatos básicos de correção, as pessoas tentam forçá-las a pensar passo a passo através de experimentos, em vez de apenas adivinhar a resposta, e isso ajuda um pouco, mas são todos "hacks", nós não estamos... elas não são tão confiáveis quanto especialistas, embora às vezes possam produzir saídas de nível especialista, ou pelo menos semelhantes a especialistas.
Então a questão é, como usamos essa tecnologia? É uma tecnologia diferente, estamos acostumados com tecnologias anteriores que cometiam erros, essas tecnologias ruins produziam saídas ruins, mas geralmente quando um programa ou tecnologia produzia uma saída ruim, você podia dizer que era ruim, como... não parecia real. Mas na verdade, a IA é projetada, os pesos são especificamente escolhidos para que as respostas sejam o mais próximo possível da resposta correta, então mesmo quando estão erradas, parecem muito convincentes, então a percepção existente de como detectar quando algo parece bom e quando parece ruim, especialmente quando você quer usá-lo de qualquer maneira que possa causar danos reais.
Por exemplo, se você quiser usar IA para tomar decisões médicas ou financeiras, ou mesmo como terapeuta, esses geradores de texto têm o potencial de serem ótimos companheiros, mas também podem dar conselhos muito ruins.
Portanto, em muitas áreas, embora haja um enorme potencial para a IA, a segurança ainda não está lá. É como se você tivesse inventado o motor a jato, você pode usá-lo para simular rapidamente algum tipo de veículo voador, mas pode levar décadas para realmente chegar ao ponto em que o público se sinta seguro, as viagens aéreas são atualmente a forma mais segura de viajar por milha-hora hoje, embora seja obviamente uma tecnologia perigosa, esses problemas serão resolvidos e são resolúveis, mas você realmente tem que pensar na segurança, você tem que assumir que vai acontecer.
Por outro lado, em cenários onde o risco de queda é baixo, a IA também tem boas perspectivas de aplicação. Por exemplo, você pode ter notado que todos os slides de fundo no relatório foram gerados por IA, talvez você tenha notado algumas falhas, a IA ainda é ruim em gerar texto, mas está lentamente ficando melhor, e o risco de queda é baixo, então só precisa parecer convincente, as imagens de fundo não são a parte principal, central da minha palestra. Portanto, em algumas aplicações, esse risco de queda é realmente aceitável.
Especialmente na ciência, uma maneira de reduzir o risco de erros e preconceitos é a validação científica, especialmente a validação independente. Se houver alguma maneira de combinar a saída realmente poderosa da IA, filtrando o lixo através da validação independente e mantendo apenas as coisas boas, haverá muitas aplicações potenciais.
Para fazer outra analogia, uma torneira pode produzir uma certa quantidade de água potável, mas há um limite para a quantidade que pode produzir, de repente temos uma grande mangueira de incêndio que pode produzir 100 vezes mais água, mas essa água não é diretamente potável, se você tiver um dispositivo de filtragem que filtre as partes não potáveis, você terá uma grande quantidade de água potável. É assim que vejo o desenvolvimento da ciência e da matemática.
Atualmente, muitas áreas da ciência enfrentam gargalos, precisando de bons candidatos para resolver problemas, talvez você esteja trabalhando em design de medicamentos, querendo encontrar um medicamento para tratar uma certa doença, você tem que pensar em um medicamento primeiro, talvez da natureza ou modificando medicamentos, então você tem que sintetizá-lo, você tem que fazer um ensaio de vários anos, ensaio de fase 1, ensaio de fase 2... e esses ensaios são muito caros, então atualmente apenas as grandes farmacêuticas podem continuar fazendo isso. Na verdade, muitos dos medicamentos que você testa não funcionam, e você tem que abandoná-los em algum momento do processo, às vezes você tem sorte, embora não curem a doença, eles funcionam em outras áreas, o problema é que você ainda precisa fazer muitas tentativas, enfrentar muitos erros.
A tecnologia de IA promete reduzir o número de candidatos, e as pessoas já estão usando-a para simular proteínas, com dados suficientes, você pode simular proteínas para ver se elas podem se ligar a certos receptores ou se podem inibir a ação de certas enzimas, assim você pode reduzir drasticamente o número de candidatos a medicamentos que precisam ser realmente sintetizados e testados.