4+88, оно просто угадывает, сразу выдавая 120, затем останавливается, как будто говоря: "Возможно, мне нужно дать некоторые объяснения". Затем оно вычисляет каждый шаг, 74 и 88, складывает их вместе и получает ответ 92, отличный от первоначального предположения. Затем экспериментатор говорит: "Подождите, вы раньше сказали, что ответ 120", и оно отвечает: "Это была ошибка, правильный ответ 92".
По сути, эти технологии, по крайней мере на данном уровне, еще не способны... У них на самом деле нет базовых фактов о правильности, люди пытаются заставить их мыслить пошагово через эксперименты, а не просто угадывать ответы, и это действительно немного помогает, но все это "хакерство", мы не... Они не так надежны, как эксперты, хотя иногда могут давать экспертные или почти экспертные результаты.
Так как же нам использовать эту технологию? Это другая технология, мы привыкли к технологиям, которые раньше ошибались, эти плохие технологии давали некачественные результаты, но обычно, когда программа или технология давала плохой результат, вы могли сказать, что он плохой, как... он не выглядел реальным. Но на самом деле, ИИ специально разработан так, чтобы веса подбирались для максимального приближения ответов к правильным, поэтому даже когда они ошибаются, они выглядят очень убедительно, и поэтому существующее восприятие того, как определить, когда что-то выглядит хорошо, а когда плохо, особенно если вы хотите использовать его каким-либо образом, который может причинить реальный вред.
Например, если вы хотите использовать ИИ для принятия медицинских решений или финансовых решений, или даже в качестве терапевта, эти генераторы текста могут быть отличными компаньонами, но также могут давать очень плохие советы.
Таким образом, во многих областях, несмотря на огромный потенциал ИИ, безопасность еще не на должном уровне. Это как если бы вы изобрели реактивный двигатель, вы можете быстро смоделировать с его помощью какой-то летательный аппарат, но чтобы действительно достичь состояния, когда общественность будет чувствовать себя в безопасности, может потребоваться несколько десятилетий, авиаперелеты сейчас являются самым безопасным способом путешествия в расчете на милю-час, хотя это, очевидно, опасная технология, эти проблемы будут и могут быть решены, но вы действительно должны думать о безопасности, вы должны предполагать, что это произойдет.
С другой стороны, ИИ имеет хорошие перспективы применения в сценариях с низким риском. Например, вы, возможно, заметили, что все фоновые слайды в презентации были созданы ИИ, возможно, вы заметили некоторые недостатки, ИИ все еще плохо справляется с генерацией текста, но он постепенно улучшается, и риск низкий, поэтому достаточно, чтобы он выглядел убедительно, фоновые изображения не являются основной, ключевой частью моего выступления. Таким образом, в некоторых приложениях такой низкий риск действительно приемлем.
Особенно в научной сфере, один из способов снизить риск ошибок и предвзятости - это научная проверка, особенно независимая проверка. Если бы был способ объединить действительно мощный вывод ИИ с независимой проверкой, чтобы отфильтровать мусор и оставить только хорошее, появилось бы много потенциальных приложений.
Еще одна аналогия: водопроводный кран может производить определенное количество питьевой воды, но его производительность ограничена, и вдруг у нас появляется большой пожарный шланг, который может производить в 100 раз больше воды, но эта вода не пригодна для питья напрямую, если у вас есть фильтрующее устройство, которое отфильтровывает непригодные для питья части, у вас будет огромное количество питьевой воды. Вот в каком направлении, как я вижу, движутся наука и математика.
В настоящее время многие области науки сталкиваются с узкими местами, нуждаясь в хороших кандидатах для решения проблем, возможно, вы занимаетесь разработкой лекарств и хотите найти лекарство от какой-то болезни, вы должны сначала придумать лекарство, возможно, из природы или путем модификации лекарства, затем вы должны синтезировать его, вы должны провести многолетние испытания, испытания первой фазы, второй фазы... и эти испытания очень дороги, поэтому в настоящее время только крупные фармацевтические компании могут постоянно это делать. На самом деле, многие лекарства, которые вы испытываете, не работают, и вы должны отказаться от них на каком-то этапе процесса, иногда вам везет, и хотя они не лечат болезнь, они работают в других областях, проблема в том, что вам все равно нужно сделать много попыток и столкнуться со многими ошибками.
Технология ИИ обещает уменьшить количество кандидатов, и люди уже используют ее для моделирования белков, имея достаточно данных, вы можете смоделировать белки и посмотреть, могут ли они связываться с определенным рецептором или блокировать действие определенного фермента, таким образом, вы можете значительно сократить количество кандидатов на лекарства, которые нужно фактически синтезировать и протестировать.