4+88, ce qu'il fait, c'est deviner, il donne directement 120, puis il s'arrête, comme s'il disait "peut-être que je dois donner quelques explications", alors il calcule chaque étape, 74 et 88, puis les met ensemble, obtenant une réponse différente de sa supposition initiale, 92. Ensuite, l'expérimentateur dit : "Attends, tu as dit précédemment que la réponse était 120", ils disent : "C'était une erreur, la bonne réponse est 92".
Donc, fondamentalement, ces technologies, du moins au niveau actuel, n'ont pas encore la capacité... Elles n'ont pas réellement de base factuelle de correction, les gens essaient par l'expérimentation de les forcer à réfléchir étape par étape, plutôt que de simplement deviner la réponse, ce qui aide un peu, mais ce sont tous des "hacks", nous ne sommes pas... Elles ne sont pas aussi fiables que des experts, bien qu'elles puissent parfois produire des résultats de niveau expert, ou du moins similaires à ceux d'experts.
Alors la question se pose, comment devons-nous utiliser cette technologie ? C'est une technologie différente, nous sommes habitués aux technologies précédentes qui faisaient des erreurs, ces mauvaises technologies produisaient des résultats médiocres, mais généralement quand un programme ou une technologie produit de mauvais résultats, vous pouvez dire que c'est mauvais, comme... ça n'a pas l'air réel. Mais en réalité, l'IA est conçue, les poids sont spécifiquement choisis pour que les réponses soient aussi proches que possible de la bonne réponse, donc même quand elles se trompent, elles semblent très convaincantes, donc la perception existante de comment détecter quand quelque chose semble bon et quand ça semble mauvais, surtout si vous voulez l'utiliser d'une manière qui pourrait causer un préjudice réel.
Par exemple, si vous voulez utiliser l'IA pour prendre des décisions médicales ou financières, ou même comme thérapeute, ces générateurs de texte pourraient potentiellement être de bons compagnons, mais pourraient aussi donner de très mauvais conseils.
Donc, dans de nombreux domaines, bien que l'IA ait un énorme potentiel, la sécurité n'est pas encore au rendez-vous. C'est comme si vous aviez inventé le moteur à réaction, vous pouvez rapidement simuler une sorte d'engin volant avec, mais il faudra peut-être des décennies avant d'atteindre un état où le public se sente en sécurité, les voyages aériens sont actuellement le moyen de transport le plus sûr par mile-heure aujourd'hui, bien que ce soit évidemment une technologie dangereuse, ces problèmes seront résolus et peuvent être résolus, mais vous devez vraiment penser à la sécurité, vous devez supposer que ça va arriver.
D'autre part, dans les scénarios où les risques sont faibles, l'IA a également de bonnes perspectives d'application. Par exemple, vous avez peut-être remarqué que toutes les diapositives de fond dans le rapport ont été générées par l'IA, peut-être avez-vous remarqué quelques défauts, l'IA est encore mauvaise pour générer du texte, mais elle s'améliore lentement, et les risques sont faibles, donc elle doit juste paraître convaincante, les images de fond ne sont pas la partie principale, centrale de mon discours. Donc, dans certaines applications, de tels risques sont effectivement acceptables.
En particulier, dans le domaine scientifique, une façon de réduire les risques d'erreurs et de biais est la validation scientifique, en particulier la validation indépendante. S'il y avait un moyen de combiner les résultats vraiment puissants de l'IA, de filtrer les déchets par validation indépendante et de ne garder que les bonnes choses, de nombreuses applications potentielles apparaîtraient.
Pour faire une autre analogie, un robinet peut produire une certaine quantité d'eau potable, mais la quantité qu'il peut produire est limitée, soudainement, nous avons de grands tuyaux d'incendie qui peuvent produire 100 fois plus d'eau, mais cette eau n'est pas directement potable, si vous avez un dispositif de filtration qui élimine les parties non potables, vous avez une grande quantité d'eau potable. C'est ainsi que je vois l'évolution de la science et des mathématiques.
Actuellement, de nombreux domaines scientifiques sont confrontés à des goulots d'étranglement, nécessitant de bons candidats pour résoudre les problèmes, peut-être que vous travaillez sur la conception de médicaments, cherchant un médicament pour traiter une certaine maladie, vous devez d'abord concevoir un médicament, peut-être issu de la nature ou en modifiant un médicament, puis vous devez le synthétiser, vous devez mener un essai de plusieurs années, essai de phase 1, essai de phase 2... et ces essais sont très coûteux, donc actuellement seules les grandes sociétés pharmaceutiques peuvent continuer à le faire. En réalité, beaucoup des médicaments que vous testez ne fonctionnent pas, et vous devez les abandonner à un certain moment du processus, parfois vous avez de la chance, bien qu'ils ne guérissent pas la maladie, ils fonctionnent dans d'autres domaines, le problème est que vous devez toujours faire de nombreuses tentatives, faire face à de nombreuses erreurs.
La technologie de l'IA promet de réduire le nombre de candidats, et les gens l'utilisent déjà pour simuler des protéines, avec suffisamment de données, vous pouvez simuler des protéines pour voir si elles peuvent se lier à un certain récepteur ou bloquer l'action d'une certaine enzyme, ainsi vous pouvez grandement réduire le nombre de candidats médicamenteux qui doivent être réellement synthétisés et testés.