Алгоспик: как работает язык намеков в соцсетях

Что такое алгоспик

Слово пришло из английского и состоит из двух частей: algo- (от algorithm ‘алгоритм’) и speak (‘говорить’). Так называют специально искаженный язык, включая эвфемизмы, который обманывает алгоритмы, помогая избежать удаления поста или блокировки аккаунта.

Самое раннее использование слова algospeak удалось найти в твите 2016 года, а в обиход оно вошло в 2022 году после статьи в газете The Washington Post. Там были приведено несколько примеров алгоспика: замены по созвучию (seggs и corn) и эвфемизм unalive, который особенно часто используется при обсуждении ухода из жизни в форме unalived himself — буквально «разживил себя».

Масштаб явления измеряли и социологи. Согласно опросу 1000 американцев, проведенному Telus International, более половины респондентов замечали всплеск популярности алгоспика на фоне политических, культурных и глобальных событий, вызывающих полярные реакции.

Почти треть опрошенных признались, что сами использовали смайлики или альтернативные фразы, чтобы обойти фильтры.

Приемы, которые используются в алгоспике, хорошо знакомы любому активному пользователю соцсетей.

1. Звуковое сходство: «триггерные» слова заменяют созвучными или похожими (кекс и котики — самые известные примеры). 

2. Новые фразеологизмы: к примеру, для ухода из жизни используются выражения совершить Роскомнадзор (по названию регулирующего ведомства), отправиться на концерт Кобзона (фраза родилась после ухода певца из жизни), выйти из чата.

3. Эвфемизмы: минусануть (лишить жизни), мука и конфеты (запрещенные вещества). 

4. Значки и изображения вместо слов: эмодзи «18+» подразумевает разные вещи в зависимости от контекста, бабочка намекает на занятие ночных бабочек, а кукуруза (corn) в англоязычных чатах отсылает к уже упомянутому созвучию. 

5. Искажение написания: латинские буквы, цифры и символы вместо кириллицы (уьий$тво, расstреливать, зараб0т0к) или пародия на язык «падонкафф» (сегз).

Чтобы алгоритмы не распознали слово, в него включают буквы других алфавитов, цифры, специальные знаки вроде доллара или параграфа.

Еще один прием не является ни шифром, ни эвфемизмом — скорее может считаться прямой коммуникацией с алгоритмами модерации. Это случаи, когда пользователь обращается к алгоритму с комментарием по поводу собственного поста: «Дорогая цензура [название соцсети], я категорически против любых преступлений!»

Как мы видим, алгоспик используется не только злонамеренными людьми: он оказался нужен и самым обычным пользователям. Исследователи провели 19 глубинных интервью с авторами тикток-контента из США, Великобритании и Канады, чтобы понять их мотивацию. Выяснилось, что авторы в основном старались предугадать, как алгоритм воспримет их ролик, и подбирали слова так, чтобы избежать необоснованных ограничений, но при этом чтобы их аудитория могла его найти. 

Со временем такие приемы становятся популярны и выходят за пределы тех платформ, где они родились.

Пользователи жалуются, что алгоспик проник даже в соцсеть X, где ограничения на лексику, по сути, отсутствуют. Язык намеков перестает быть инструментом обхода алгоритмических ограничений и превращается в моду.

Зоны риска

Как узнать, какой контент не устраивает алгоритмы? Представление об этом появляется в результате реконструкции негласных правил сообщества и обобщения наблюдений пользователей. При этом список тем, на которые скорее всего отреагируют алгориты и модераторы, довольно устойчив.

Прежде всего это здоровье. Соцсети осторожно относятся к контенту, который может навредить физически: к лечению серьезных заболеваний недоказанными методами, пропаганде жестких диет и голодания, сомнительным БАДам и препаратам для похудения, отрицанию вакцинации и призывам отказаться от достижений медицины. Здесь же надо упомянуть и  о ментальном здоровье. Особенно внимательны платформы к контенту, который эстетизирует депрессию, расстройства пищевого поведения и панические атаки, а также с любыми упоминаниями о самоповреждениях и суициде.

Всё о чувствах и отношениях: почему язык психологии стал так популяренЛингвисты, социологи и психологи обсуждают вред и пользу психотерапевтической волны в русском языкеДругая зона риска — финансы. Алгоритмы стремятся защитить пользователей от мошенничества и «инфоцыганства». Подозрение вызывают схемы «как заработать $1000 за день без вложений», реклама казино и ставок, пирамиды, а также обещания гарантированного результата без усилий, где мелькают «пассивный доход», «схема» и «миллион за неделю».

Алгоритмы стараются хотя бы отчасти оберегать пользователей от вида насилия и другого шокирующего контента. Аварии, драки, последствия катастроф, травмы и даже крупные планы операций без размытия могут привести к ограничениям. Сюда же относятся опасные челленджи и трюки, которые подталкивают к действиям, угрожающим жизни.

Контент для взрослых тоже тщательно отслеживается. Даже без явных непристойностей (которые ведут к бессрочной блокировке) «пограничный» материал часто теряет охваты.

Алгоритмы «осуждают» глубокие декольте, прозрачную одежду, откровенный юмор и двусмысленные хештеги.

Наконец, платформы заинтересованы в том, чтобы оставаться привлекательными для рекламодателей, поэтому «токсичные» обсуждения острых социальных и политических вопросов не приветствуются. Сюда же относятся оскорбления по национальному, религиозному, гендерному и расовому признаку, агрессивная риторика и конспирология — от чипирования до плоской Земли.

Из этих тематических областей и растет алгоспик: чем больше напряжения вызывает тема, тем сильнее соблазн говорить о ней шифром. Одна из исследовательских работ формулирует это проще: быстрое развитие алгоспика обнажает главную слабость алгоритмической модерации — неспособность понимать контекст.

Есть ли смысл шифроваться

Часто пользователи заменяют в роликах те или иные слова, потому что видят подобное у других или узнают об этом из рекомендаций опытных блогеров. Сами социальные сети не раскрывают точные списки «запрещенных» слов. И дело не только в том, что их публикация дала бы козырь в руки тем, с кем борются модераторы.

Списков в чистом виде и не существует. Современные алгоритмы оценивают не отдельные слова, а контекст публикации целиком. Они используют сложные ИИ-модели, которые анализируют смысл и тональность, а не просто ищут лексические совпадения по своей базе.

Эвфемизмы: от суеверий до политкорректности«Благозвучные» слова используют не только вместо ругательствОдно и то же слово может быть использовано в медицинском или научном посте, в художественном рассказе или в устной речи. Если в посте про кино используется слово «убийство», ИИ проверяет другие маркеры: наличие слов «режиссер», «фильм», «актер», «премьера», а также категорию самого аккаунта. Возможно, речь о сериале «Она написала убийство» или об экранизации книг Агаты Кристи.

Кроме того, алгоритм оценивает реакцию на контент. Если пост содержит стоп-слово, но первые зрители смотрят видео до конца, пишут развернутые комментарии и не нажимают кнопку «Пожаловаться», алгоритм понимает, что контент несет художественную или информационную ценность, и снимает ограничения.

Модели учатся непрерывно. Базы данных обновляются ежедневно, реагируя на новые тренды, инфоповоды, появление нового сленга или атаки ботов.

Попытки обходить их с помощью языка намеков в таких условиях превращаются в своего рода ритуалы, которые авторы совершают по привычке.

Наконец, использование алгоспика может мешать авторам достигать своих целей. Алгоритмы продвижения оценивают, насколько долго и активно люди взаимодействуют с публикацией. Если в описании пользователь видит странный текст, написанный «алгоспиком», а суть раскрывается на третьем слайде карусели, у него пропадает желание тратить время на эту публикацию.

Меньше дочитываний и лайков — сигнал алгоритму, что контент неинтересен. Аккаунты, злоупотребляющие алгоспиком и ломаными словами со звездочками, быстро попадают под фильтры за «низкокачественный контент» или «спам-структуру текста». 

Впрочем, доказать, что алгоспик не работает, так же трудно, как доказать обратное. Лингвист Адам Алексич, автор книги «Algospeak: How Social Media Is Transforming the Future of Language» («Алгоспик: как соцсети преобразуют будущее языка»), отмечает, что из-за коммерческой тайны о работе рекомендательных систем известно слишком мало.

На самом деле непонятно, помогает ли такой шифр обходить цифровую цензуру и насколько соответствует реальности то, что о ней говорят. 

Исследователи, изучившие около 200 тысяч видео в китайском сегменте соцсетей, пришли к выводу, что алгоспик — это коллективно принятая стратегия, которая борется с фантомом, при том что в реальности модерация устроена гораздо тоньше. Отчасти такое восприятие объясняется недоверием людей к платформам и живучестью мифов, которые управляют их поведением в сети.

Как говорить аккуратно и понятно

Если шифр ненадежен и к тому же раздражает читателей, остается искать другой способ говорить на деликатные и трудные темы, не привлекая внимания цифровой цензуры. У хорошего рассказчика может быть много вариантов.

Первый — фигура умолчания . Триггерное слово вообще не произносится и не пишется, но смысл понятен из контекста. Вместо изобретения искусственных эвфемизмов автор выстраивает повествование так, что читатель сам достраивает картину, и это куда более сильный ход.

Второй — терминологический и академический язык. Научные, медицинские и юридические термины воспринимаются иначе, чем бытовые или экспрессивные слова. Выражения «несовместимый с жизнью», «интимные отношения», «депрессивный эпизод»  передают более спокойную интонацию; такой текст воспринимается как информационное сообщение, а не как эмоциональный всплеск.

Третий прием — устойчивые обороты. «Свести счеты с жизнью», «трагический финал», «преступить закон» мгновенно считываются носителем языка, но не обязательно привлекут внимание алгоритмов. Эти формулы работают давно: язык накопил их как раз для тех случаев, когда о тяжелом следует говорить бережно.

В правилах платформ прямо сказано, что чувствительная тема не равна нарушению, если она подана в определенном ключе. 

YouTube допускает, что контент, который на первый взгляд нарушает правила, может остаться на платформе, если у него есть образовательный, документальный, научный или художественный контекст. Похожие оговорки есть и у других площадок: TikTok допускает исключения для образовательного, документального, научного, художественного и сатирического контента, а также для профессионального и вымышленного контекста. 

Кто чаще переходит на алгоспик? Хорватские исследователи сравнили, как о насильственных преступлениях говорят крупные англоязычные СМИ и малоизвестные авторы true-crime-роликов. Оказалось, что верифицированные аккаунты редко прибегают к самоцензуре, а блогеры без верификации чаще и изощреннее используют алгоспик. Возможно, платформы по-разному относятся к аккаунтам с историей и репутацией и к новичкам, хотя официально об этом никто не сообщает и точный механизм остается неизвестным.

Эмодзи как доказательство: может ли самолетик в чате считаться угрозойКак юристы и эксперты осваивают язык цифровой эпохиПри этом сухая терминология не должна превращаться в канцелярит, который отпугивает читателя сильнее любого шифра. А в острых темах, связанных с угрозой здоровью и жизни, главная защита и для читателя, и для автора не выбор слова, а то, как о них говорят: без подробностей, без романтизации, с опорой на помощь и ресурсы.

Алгоспик — яркое свидетельство того, как быстро язык подстраивается под среду, в которой живет. Но «подстройка» не всегда равна успеху: в перспективе тайнопись не защитит автора от алгоритма, который постоянно умнеет, зато может отдалить его от читателя. Хорошо выстроенная фраза и продуманный контекст работают надежнее любых  намеров, потому что рассчитаны не на борьбу с платформой, а на контакт с ее аудиторией.