Стопроцентная грамотность и легкая читаемость текста, написанного виртуозным литератором, порождает обвинение искусственного интеллекта в абсолютном плагиате. Причем добиться реабилитации непросто, потому что мерилом истины может быть только ИИ.

Дошло до того, что некоторые исследователи обнаружили: Декларация независимости США помечается, как написанная ИИ. 

Издание Nature решило оценить, насколько хорошо работают программы, созданные для обнаружения текстов, написанных ИИ. Оказалось, что люди, которые вообще никогда не прибегают к помощи машин, не в состоянии избежать чистилища ИИ. Таким людям приходится искусственно «ухудшать» тексты, делать плохо читаемыми, и даже допускать орфографические ошибки.

Сложность заключается в том, что почти все крупные языковые модели (LLM), основанные на анализе предыдущих работ, не в состоянии обнаружить инструментами для поиска плагиата ранее им же созданные тексты.

Издание выяснило, что детекторы ИИ опираются на показатель, известный как перплексия, который оценивает, насколько предсказуемым будет каждое слово в последовательности. Поскольку текст, генерируемый ИИ, обычно следует более статистически предсказуемым шаблонам, чем человеческое письмо, отрывки с низкими баллами перплексности чаще отмечаются как машинно-генерируемые, тогда как менее предсказуемые формулировки воспринимаются как сигнал человеческого авторства.

Причем наибольшие проблемы поджидают людей, которые создают тексты на неродном языке с минимум редких синонимов.