4+88，它所做的就是猜测，直接给出了120，随后它停了下来，好像说，"也许我需要给出一些解释"，它于是计算出了每一步，74和88，然后放在一起，得到了与最初猜测不同的答案，92。然后，实验者说，"等等，你之前说答案是120"，它们说，"这是一个错误，正确答案是92"。
所以，从本质上讲，这些技术，至少在目前的层次上，还没有能力……它们实际上没有正确性的基本事实，人们尝试通过实验来迫使它一步一步地思考，而不仅仅是猜测答案，这样做确实有一点帮助，但这些都是"黑客"行为，我们不是……它们不像专家那么可靠，尽管它们有时可以给出专家级的输出，或至少是类似专家级的输出。
那么问题来了，我们要如何使用这项技术呢？这是一种不同的技术，我们已经习惯了以前会犯错的技术，这些糟糕的技术会产生劣质的输出，但通常当一个程序或技术产生不好的输出时，你可以说它很糟糕，就像……它看起来不像真的。但实际上，人工智能在设计上，权重是专门选择的，以便答案尽可能接近正确答案，因此，即使它们错了，它们看起来也非常有说服力，因此，现有的感知如何检测某事物何时看起来不错和看起来很糟糕，尤其是当你想以任何可能造成实际伤害的方式使用它时。
例如，如果你想使用人工智能来做出医疗决策或财务决策，甚至作为治疗师，这些文本生成器有可能成为很好的伙伴，但也可能给出非常糟糕的建议。
因此，在许多领域，尽管人工智能存在巨大潜力，但安全性尚未达标。这就像你发明了喷气发动机一样，你可以用它快速模拟出某种动力飞行器，但要真正达到让公众都觉得安全的状态可能还需要几十年的时间，航空旅行目前是当今按英里小时计最安全的旅行，尽管这显然是一项危险的技术，这些问题将会得到解决并且是可以解决的，但你必须真正考虑安全问题，你必须假设它会发生。
另一方面，在下行风险很小的场景，人工智能也有很好的应用前景。例如，你可能已经注意到，报告中的所有背景幻灯片都是由人工智能产生的，也许你已经注意到一些缺陷，人工智能在生成文字方面仍然很糟糕，但它正在慢慢变得更好，且下行风险很小，所以它只需看起来令人信服即可，背景图片不是我演讲的主要、核心部分。因此，在某些应用中，这样的下行风险确实是可以接受的。
尤其是，在科学领域，降低错误和偏见风险的一种方法是科学验证，尤其是独立验证。如果有一些方法可以结合人工智能真正强大的输出，通过独立验证把垃圾过滤掉，只保留好东西，就会有很多潜在的应用程序出现。
再打个比方，水龙头可以产生一定量的饮用水，但它能产生的数量是有一定限制的，突然间，我们有了大型消防水龙带，它可以产生100倍的水，但这些水不能直接饮用，如果你有一个过滤装置，过滤掉那些不可饮用的部分，你就拥有了大量的饮用水。这就是我所看到的科学和数学的发展方向。
目前，很多科学领域都面临着瓶颈，需要好的候选者来解决问题，也许你正在从事药物设计，想找到一种治疗某种疾病的药物，你必须先想出一种药物，也许来自自然或通过修改药物的方式，然后你必须合成它，你必须进行一个多年的试验，第一阶段试验，第二阶段试验......而且这些试验非常昂贵，所以目前只有大的药厂才能一直做到这一点。实际上，你试验的许多药物并不起作用，而且你必须要在这个过程中的某一时刻放弃它们，有时你很幸运，虽然它们并不能治愈疾病，但它们在其它方面能够发挥作用，问题是，你仍然需要进行很多次尝试、面对很多个错误。
人工智能技术有望减少候选者的数量，而且人们现在已经在使用它来模拟蛋白质了，有了足够的数据，你就可以对蛋白质进行模拟，看看它们是否能与某种受体结合，或者是否能阻止某种酶的作用，这样你就可以大大减少需要实际合成和测试的候选药物数量。