4+88, lo que hace es adivinar, dando directamente 120, luego se detiene, como diciendo "quizás necesito dar alguna explicación", entonces calcula cada paso, 74 y 88, los junta y obtiene una respuesta diferente a la adivinación inicial, 92. Luego, el experimentador dice, "Espera, antes dijiste que la respuesta era 120", y ellos dicen, "Eso fue un error, la respuesta correcta es 92".
Así que, en esencia, estas tecnologías, al menos en su nivel actual, aún no tienen la capacidad... realmente no tienen una base fundamental de corrección, la gente intenta forzarlas a pensar paso a paso mediante experimentos, en lugar de simplemente adivinar la respuesta, lo cual ayuda un poco, pero son todos "trucos", no son... no son tan confiables como los expertos, aunque a veces pueden producir resultados de nivel experto, o al menos similares a los de un experto.
Entonces, la pregunta es, ¿cómo usamos esta tecnología? Es una tecnología diferente, estamos acostumbrados a tecnologías anteriores que cometían errores, estas tecnologías deficientes producían resultados de mala calidad, pero generalmente cuando un programa o tecnología produce malos resultados, puedes decir que es malo, como... no parece real. Pero en realidad, la IA está diseñada, los pesos están específicamente elegidos, para que las respuestas sean lo más cercanas posible a la respuesta correcta, por lo que incluso cuando están equivocadas, parecen muy convincentes, así que la percepción existente de cómo detectar cuándo algo parece bueno y cuándo parece malo, especialmente cuando quieres usarlo de cualquier manera que pueda causar daño real.
Por ejemplo, si quieres usar IA para tomar decisiones médicas o financieras, o incluso como terapeuta, estos generadores de texto tienen el potencial de ser grandes compañeros, pero también podrían dar consejos muy malos.
Por lo tanto, en muchas áreas, aunque la IA tiene un enorme potencial, la seguridad aún no está a la altura. Es como si hubieras inventado el motor a reacción, puedes usarlo para simular rápidamente algún tipo de vehículo volador, pero podría llevar décadas llegar al punto donde el público se sienta seguro, los viajes aéreos son actualmente el modo de viaje más seguro por milla-hora hoy en día, a pesar de ser obviamente una tecnología peligrosa, estos problemas se resolverán y son resolubles, pero realmente tienes que pensar en la seguridad, tienes que asumir que sucederá.
Por otro lado, la IA también tiene buenas perspectivas de aplicación en escenarios donde el riesgo a la baja es pequeño. Por ejemplo, es posible que hayas notado que todos los fondos de diapositivas en el informe fueron generados por IA, tal vez hayas notado algunos defectos, la IA todavía es mala generando texto, pero está mejorando lentamente, y el riesgo a la baja es pequeño, así que solo necesita parecer convincente, las imágenes de fondo no son la parte principal y central de mi presentación. Por lo tanto, en algunas aplicaciones, este tipo de riesgo a la baja es realmente aceptable.
Especialmente en el campo científico, una forma de reducir el riesgo de errores y sesgos es la validación científica, especialmente la validación independiente. Si hubiera alguna forma de combinar la salida realmente poderosa de la IA, filtrando la basura a través de la validación independiente y quedándose solo con lo bueno, habría muchas aplicaciones potenciales.
Para hacer otra analogía, un grifo puede producir una cierta cantidad de agua potable, pero la cantidad que puede producir está limitada, de repente tenemos una gran manguera de bomberos que puede producir 100 veces más agua, pero esta agua no es directamente potable, si tienes un dispositivo de filtración que elimine las partes no potables, tendrás una gran cantidad de agua potable. Así es como veo que se desarrollarán la ciencia y las matemáticas.
Actualmente, muchos campos científicos se enfrentan a cuellos de botella, necesitando buenos candidatos para resolver problemas, tal vez estés trabajando en el diseño de medicamentos, buscando un medicamento para tratar cierta enfermedad, primero tienes que pensar en un medicamento, tal vez de la naturaleza o modificando medicamentos, luego tienes que sintetizarlo, tienes que hacer un ensayo de varios años, ensayos de fase uno, ensayos de fase dos... y estos ensayos son muy caros, así que actualmente solo las grandes farmacéuticas pueden hacerlo constantemente. En realidad, muchos de los medicamentos que pruebas no funcionan, y tienes que abandonarlos en algún momento del proceso, a veces tienes suerte y aunque no curan la enfermedad, funcionan en otras áreas, el problema es que aún necesitas hacer muchos intentos y enfrentar muchos errores.
La tecnología de IA promete reducir el número de candidatos, y la gente ya la está usando para simular proteínas, con suficientes datos, puedes simular proteínas para ver si pueden unirse a cierto receptor o si pueden bloquear la acción de cierta enzima, así puedes reducir enormemente el número de candidatos a medicamentos que necesitas sintetizar y probar realmente.