Текст написан ИИ: чем он отличается от человеческого?

ИИ-контент раздражает не всех

Еще пару лет назад «генеренка» слишком бросалась в глаза — и вряд ли можно было поручить ИИ-моделям написание курсовых, академических работ или контента для социальных сетей. Сейчас они справляются куда лучше: это заметно по оценкам пользователей.

Согласно одному исследованию, 81% россиян 18–24 лет положительно относится к произведениям, созданным с использованием ИИ. Среди опрошенных постарше таких больше половины.

Другие данные дают более точную картину. Решающее значение имеет качество. Неряшливо сделанный контент вызывает отторжение. 22% опрошенных сказали, что их раздражают ошибки и неточности; 21% отметил нереалистичные детали. 18–19% не терпят шаблонности и искусственности, а 15% — отсутствия живых эмоций.

При этом пользователи соцсетей начинают уставать от машинного творчества. В США 33% молодых людей используют фильтр «поиск без ИИ» в сервисе DuckDuckGo (среди 45–54-летних таких 10%). В России, судя по оценкам Яндекса и Т-банка, которые приводит журнал «Эксперт», до такой усталости пока не дошло.

Отдельная проблема — ИИ в образовании. Педагоги боятся, что ученики, привыкнув все поручать нейросетям, разучатся не только критически воспринимать и глубоко анализировать информацию, но и в целом прилагать умственные усилия.

Всем, кто использует нейросети, полезно понимать, с чем ИИ справляется хуже человека (или иначе, чем человек). 

Авторам — чтобы умело дорабатывать тексты, созданные с помощью нейросетей, а читателям и оценщикам — чтобы понимать, с чем или кем они имеют дело.

Какие признаки выдают «генеренку»?

Внезапные глупые ошибки

Когда нейросеть пишет текст, можно быть почти уверенным, что запятые, тире и двоеточия будут расставлены как надо, орфографических ошибок и опечаток не будет. Сама по себе «правильность» оформления ни о чем не говорит — человек тоже может писать грамотно и внимательно. Но это только один штрих.

На контрасте с этим в тексте могут попадаться странные по смыслу конструкции. Например, говорится про голоса под окном, которые одновременно доносятся с лестничной клетки. Или вдруг подоконник оказывается стеклянным: Она просто положила ладонь на подоконник рядом с цветком, и стекло под ней оказалось теплым. С грамматическими формами тоже бывают чудеса: — Ты рада? — Я не рада. Я облегчена.

И стали они как боты? Человеческая речь может измениться под влиянием сгенерированных текстовОбщение с искусственным интеллектом не проходит даромВнезапно в русском тексте может появиться англоязычное слово (этот подход имеет свои преимущества и draw-backs) или даже текстовый «кентавр» (одна часть на русском, другая — на английском). Некоторые слова выглядят как кальки (этот инструмент ответственен за... вместо этот инструмент отвечает за...).

Это происходит из-за контекстной «протечки» (context leakage). Если модель посчитала, что английский аналог имеет более высокую статистическую вероятность в данном контексте, или если она «задумалась» на английском (так как ее внутреннее логическое мышление часто оптимизировано под английский язык), она выдает англицизм.

Чеканная монотонность

Алгоритмы выбирают наиболее вероятные и безопасные продолжения фраз. В частности, они «любят» стандартный порядок слов. Он воспринимается как вежливый и подходящий для большинства деловых или информационных задач.

Скажем, инверсию ИИ обычно не использует. ИИ-модели вообще плохо понимают, как работает инверсия и где она уместна. Если попросить модель намеренно использовать этот прием, она может выдать что-то неестественное, вроде в с жесткой структурой языках требует инверсия сложных конструкций.

Текст, созданный нейросетью, звучит как лекция. Как будто вы едете в поезде с профессором, который решил популярным языком рассказать вам о своем предмете.

Почему эмоциональные всплески в ИИ-текстах встречаются редко? У этого тоже есть объяснение. В обучающих выборках тексты с экстремальными эмоциями (гневные манифесты, признания в любви, истерики) составляют ничтожную долю по сравнению с нейтральными статьями, учебниками и документами. 

Пытаясь быть максимально полезным для всех, ИИ выбирает ту лексику, которая никого не обидит и будет понятна каждому. Конечно, можно скорректировать подачу с помощью промптов, но только до определенной степени. Обычно для хорошего результата требуется стилистическое постредактирование.

Шаблонная драма

Сгенерированный текст к месту и не к месту использует однообразные риторические приемы.

Например, часто встречается имитация динамики: 

Нарастание работает как стилистический крючок, но может быть пустым.

Многим знакома триада «Не А, не Б, просто В», имитирующая внутренний диалог:

Этот прием создает ощущение движения текста без реального содержания. Хотя здесь нужна оговорка: такие конструкции встречаются и в литературе. Ведь ИИ учится на живых текстах.

Разговор с ИИ-сторонним: что такое промпт как часть коммуникацииВалерий Шульгинов решил разобраться в лингвистической природе диалога с нейросетьюЕще одна деталь — псевдооткровения: 

В целом сгенерированным текстам свойственна торжественность, преувеличение обычных вещей: хотя он малоизвестен, он символизирует...; один маленький <...> объясняет всё; <...> выступает символом устойчивости сообщества; уже через час он... всего одно слово заставило ее...

Образный язык нейросети применяют, но тоже очень своеобразно. Им, например, свойственно одушевлять процессы и явления: Мозг дорисовывает картину; Психика стремится к безопасности; Бизнес — это живой организм.

Использовать, переписывать или отказаться?

Сначала — неочевидный вопрос: обязательно ли переписывать текст, созданный ИИ? Или лучше обходиться вовсе без ИИ? Иногда — особенно если это новостной, продающий или PR-текст — нейронка может неплохо справиться сама, если ей предоставили фактуру. Эксперты подтверждают, что такие тексты могут получать хорошие отклики.

Чаще всего текст не самоценен, если это не художественная литература. Обычно мы пишем его, когда хотим внятно донести информацию, объяснить, показать, мотивировать. Далеко не везде нужна та самая «человеческая нотка».

Чем сгенерированные тексты (пока еще) выдают себяОт шаблонной лексики до «любимых» синтаксических конструкцийЧтобы текст работал, он должен отвечать задаче. Если это учебная работа, все факты нужно проверить; рассуждения должны быть не абстрактными, а основанными на реальном анализе; примеры и ссылки — не выдуманы. Если это коммерческий текст, нужны живые и конкретные примеры. Их нейросеть, конечно, добавить не сможет.

Есть тексты, где не обойтись без человека. Например, техническая инструкция, экспертное мнение, научная статья. Нейросети все еще часто «галлюцинируют»: придумывают авторов и публикации, выдают подробности, которых нет в источниках. Многие компании, доверившись ИИ в важных вопросах, получили крупные штрафы и испортили себе репутацию. 

ИИ-помощников подводит излишняя услужливость: вместо того чтобы прямо признать, что информации нет, модель выдает правдоподобную выдумку.

Нейросетевая шаблонность неуместна в личном блоге, расследовательских и репортажных форматах. Попытки с помощью хитроумных промптов научить модель писать в стиле автора работают не на сто процентов. Читатели, которые приходят ради личного опыта, интонации, харизмы автора, быстро заметят подмену.

Запрещать ИИ-контент (по крайней мере, в ближайшее время) никто не собирается — наоборот, все призывают осваивать новый мощный инструмент. Навыки работы с ИИ становятся преимуществом при поиске работы и аргументом в пользу увеличения зарплаты. А как быть школьникам и студентам? Недавно Министерство просвещения выпустило собственные правила для работы с ИИ в школах. Общая идея там такая: пользуйтесь, но не слишком доверяйте, а главное, не забывайте тренировать собственные мозги — они еще пригодятся.