Сотни аккаунтов в социальной сети TikTok открыто продвигают контент откровенно нацистского характера, ненавистнические высказывания и антисемитские теории. Как выяснили исследователи социальных медиа, эта сеть не только не справляется с удалением подстрекательских видео, ее алгоритмы даже увеличивают их распространение и охват аудитории. Об этом свидетельствует обширный отчет Международного института стратегического диалога (ISD), опубликованный накануне, 29 июля.
ISD - независимая международная некоммерческая организация, штаб-квартира которой находится в Лондоне. Ее деятельность сосредоточена на борьбе с поляризацией общества, экстремизмом и распространением дезинформации во всем мире. Среди основных доноров института - фонд Мелинды и Билла Гейтс.
Согласно отчету ISD, в социальной сети TikTok есть сотни аккаунтов, открыто поддерживающих нацизм и использующих платформу для продвижения своей идеологии и пропаганды. Пронацистский контент, создаваемый ими, набирает десятки миллионов просмотров в приложении.
Среди прочего, это посты с отрицанием Холокоста, восхвалением Гитлера, нацистской Германии и нацизма в целом - как современное решение существующих в западном обществе проблем.
Исследователи ISD сообщили администрации соцсети о 50 аккаунтах, нарушающих "руководящие принципы сообщества" TikTok в отношении идеологий ненависти, продвижения насилия, отрицания Холокоста и других правил. Тем не менее все они остались активными после жалобы, а заявители получили ответ от компании с пометкой "нарушений не обнаружено". Эти аккаунты в совокупности набрали более 6,2 миллиона просмотров.
Через две недели после подачи заявления 15 из них были заблокированы, а через месяц - почти половина. Это означает, что TikTok не может немедленно удалить аккаунты, продвигающие межрасовую и межэтническую ненависть и пронацистскую пропаганду.
Согласно отчету, распространение аккаунтов, продвигающих нацизм, автоматически усиливается благодаря алгоритмам сети TikTok. Пользователям, которые часто просматривают праворадикальные ролики с ненавистническими нарративами, сеть предоставляет рекомендации с подобными нацистскими видео.
Исследование показало, что создатели такого рода контента зачастую действуют одновременно в нескольких социальных сетях и координируют свои действия путем обмена видео, фотоизображениями и звуковыми роликами.
В TikTok исследователи ISD выявили как минимум 200 таких аккаунтов или сеток, объединяющих аккаунты, а в Telegram им удалось составить список из более чем 100 пронацистских каналов. Чтобы отслеживать деятельность аккаунтов нацистского характера, исследователи ISD использовали регистрационные записи фиктивных пользователей.
Наиболее серьезное распространение в последнее время, согласно отчету, получило использование генеративного искусственного интеллекта. Часто он применяется для создания карикатур и дегуманизации "неарийских" этнических групп. Их представителей изображают как угрозу для "белого сообщества".
Еще один метод - публикация переводов речей Гитлера, фашистские песни и мелодии, которые могут служить зашифрованными ссылками для обхода алгоритмов фильтрации контента TikTok. Музыка обычно не нарушает правила сети, но она часто сочетается с мемами и изображениями, продвигающими нацизм, фашизм и белую супрематистскую идеологию.
Кроме того широко используются изображения с намеками или несущие скрытый подтекст. Речь идет об эмодзи, аббревиатурах, числах и закодированных изображениях, что действительно затрудняет обнаружение таких экстремистских аккаунтов для фильтров TikTok.