OpenAI (разработчик нейросети ChatGPT) объявила о запуске инструмента, способного распознавать текст, написанный человеком на основе сгенерированного ИИ материала.
В компании рассказали, что классификатор поможет бороться со злонамеренным использованием нейросетей в учебе и со случаями, когда тексты чат-бота пытаются выдать за человеческие.
OpenAI подчеркивает, что инструмент компании не является полностью надежным. В ходе тестирования классификатор определил правильно 26% текстов, написанных ИИ, как «текст, вероятно, написанный ИИ». При этом в 9% случаев он определил текст, написанный человеком, «как написанный ИИ». Разработчики заметили, что точность результатов повышается по мере увеличения длины текста.
«Мы опубликовали этот классификатор в открытом доступе, чтобы понять, полезны ли несовершенные инструменты, подобные этому. Наша работа по обнаружению текста, сгенерированного ИИ, будет продолжена, и мы надеемся поделиться улучшенными методами в будущем», — заключили в OpenAI.
Ранее стало известно, что в России студент пятого курса РГГУ Александр Жадан написал дипломную работу с помощью чат-бота ChatGPT и смог защитить ее на оценку «удовлетворительно».