Как вам подводные камни в ChatGPT?

В новых версиях моделей ChatGPT, таких как GPT-3 и GPT-4 mini, действительно были обнаружены скрытые «водяные знаки» в сгенерированных текстах. Эти водяные знаки представляют собой специальные символы Юникода, например, узкие неразрывные пробелы, которые визуально неотличимы от обычных, но могут быть обнаружены при анализе текста с помощью специальных инструментов.

https://www.rumidocs.com/newsroom/new-chatgpt-models-seem-to-leave-watermarks-on-text?utm_source=chatgpt.com

Цель внедрения таких водяных знаков — облегчить идентификацию AI-сгенерированного контента, особенно в академической среде, где существует риск использования ИИ для написания дипломных работ и других заданий. Однако эффективность этих методов ограничена: водяные знаки можно удалить или изменить, например, с помощью перефразирования текста, что снижает надежность их использования в качестве единственного средства обнаружения AI-контента citeturn0search5.

Кроме того, существуют опасения по поводу возможных ложных срабатываний, когда человеческий текст ошибочно идентифицируется как сгенерированный ИИ, что может привести к несправедливым обвинениям в плагиате citeturn0search26. Поэтому важно использовать такие инструменты с осторожностью и в сочетании с другими методами оценки оригинальности работ. https://en.wikipedia.org/wiki/GPTZero?utm_source=chatgpt.com

Если вы заинтересованы в более глубоком понимании механизмов водяных знаков в AI-сгенерированных текстах или в способах их обнаружения, я могу предоставить дополнительную информацию или рекомендации по соответствующим инструментам.