С тех пор, как ChatGPT появился на технической сцене в прошлом году, возникло много вопросов относительно этики и принципов. Например, как учителя могут узнать, было ли задание, написанное учеником, сгенерировано с помощью ChatGPT или нет. Писатели, учителя, ученые выражали беспокойство по этому поводу. Существуют инструменты, которые могут помочь определить, был ли написанный контент сгенерирован искусственным интеллектом или нет.
OpenAI, компания, стоящая за ChatGPT, также имела подобный инструмент. Однако, согласно сообщению The Verge, OpenAI закрыла инструмент под названием AI Classifier. В своем блоге OpenAI подтвердила эту разработку.
Низкий уровень точности
В своем блоге компания сообщила, что отныне разработка инструмента прекращена.
По состоянию на 20 июля 2023 года классификатор ИИ больше не доступен из-за его низкой точности. Мы работаем над тем, чтобы включить обратную связь и в настоящее время исследуем более эффективные методы определения происхождения текста, а также взяли на себя обязательства разработать и внедрить механизмы, которые позволят пользователям понять, является ли аудио- или визуальный контент сгенерированным искусственным интеллектом
говорится в сообщении OpenAI в блоге компании.
Инструмент был запущен в январе этого года. Еще во время запуска в OpenAI высказывали сомнения относительно его точности. «Наш классификатор не является полностью надежным», — заявили в OpenAI. Компания также сообщила, что, оценивая «тестовый набор» английских текстов, классификатор правильно идентифицирует 26% текстов, написанных ИИ (истинные положительные результаты), как «вероятно написанные ИИ», в то время как текст, написанный человеком, ошибочно маркируется как написанный ИИ в 9% случаев (ложные положительные результаты).
Существует много других инструментов, но они все еще остаются несколько нестабильными. Поскольку генеративный ИИ приобретает популярность, и все больше пользователей пользуются ChatGPT и Google Bard, ожидается, что такие инструменты тоже будут популярными. OpenAI также не исключает такой возможности и может просто запустить обновленную версию позже.