OpenAI разработала инструмент для обнаружения контента, сгенерированного ИИ, с точностью до 99,9%. Идея этого инструмента была предложена еще в ноябре 2022 года, но до сих пор не была обнародована.
Основные причины этого двоякие:
- Технические аспекты:
- Ранний уровень успеха составлял всего 26%, позже повысился до 99,9%
- Внутренние опасения о возможном влиянии на качество письма ChatGPT
- Риск обхода, например, путем стирания водяных знаков через перевод
- Предпочтения пользователей:
- Опросы показывают, что только 1/4 людей в мире поддерживают увеличение инструментов обнаружения
- Около 30% пользователей ChatGPT заявили, что уменьшат использование, если будут внедрены водяные знаки
- Возможно большее влияние на пользователей, для которых английский не является родным языком
Внутри OpenAI существуют разногласия по этому вопросу. Сторонники считают, что это полезно для развития экосистемы, противники опасаются потери пользователей. На данный момент инструмент все еще не выпущен.
Помимо OpenAI, компании вроде Google и Apple также разрабатывают подобные инструменты, некоторые уже начали внутреннее тестирование, но официально не запущены.
Согласно исследованиям, пользователи в основном используют ChatGPT для письма (21%) и выполнения домашних заданий (18%), что может быть одной из причин, почему пользователи выступают против технологий обнаружения.
OpenAI планирует разработать план к осени этого года, чтобы повлиять на общественное восприятие прозрачности ИИ. Однако конкретные меры пока не объявлены.