Израильский стартап разработал алгоритм для автоматического распознавания "троллей"
В прошлом редакторы новостных сайтов боролись с провокационными комментариями под статьями. Сегодня ситуация меняется в обратную сторну, и "тролли" становятся помощниками при продвижении сайта.
Борьба с "троллями" - это устаревший способ работы новостных сайтов. Раньше редакторы блокировали этим людям доступ на сайт, чтобы сохранить чистоту и уважение при обсуждениях.
"Эта тактика действовала до "эры социальных сетей", которые поглотили трафик в сети. Сегодня сайты всеми силами борются за удержание посетителей, и с помощью инструментов для изучения поведения людей в сети могут различать "троллинг", который способствует обсуждению, и тот, который своим радикализмом уже начинает отпугивать посетителей", - поясняет Надав Шоваль, генеральный директор израильского стартапа Spot.IM.
Для стимулирования положительного "троллинга" редакторы размещают ссылки на статьи, которые могут заинтересовать пользователя. Если алгоритм определяет пользователя как "политического тролля", тогда на полях статьи возникнут ссылки на другие политические статьи в надежде, что он туда обратится и оживит обсуждение. Предложения контента будут таковы, чтобы не пускать троллей туда, где они мешают обсуждению и вызывают уход пользователей.
Алгоритм основан на прогнозировании поведения и обучения. Например, определить пользователей, которые неожиданно ведут себя как "тролли". Есть ситуации, в которых эмоциональное настроение пользователя вызывает экстремальную реакцию, и стоит задача расшифровать его эмоции, прежде чем он отреагирует неприемлемым образом.
В случае случайного резкого комментария правильный путь - не спешить блокировать этого пользователя, так как ощущение, что тебе затыкают рот, может помешать реагировать на статьи в течение длительного времени.
Подобные инструменты установлены на 5400 активных сайтах, среди которых крупнейшие мировые новостные агентства, такие как Time, Forbes, AOL, HuffingtonPost и многие другие.
Поскольку программы установлены на больших сайтах, параллельно можно собирать информацию и отслеживать поведение "троллей", предсказывать их поведение, чтобы знать, когда активировать механизм цензуры.
Дополнительная информация, которая помогает охарактеризовать тролля, это его страна и географическая область, взаимодействие с контентом, представленным на сайте, файлы cookie и IP, скорость набора текста и многое другое.
