Исследование: алгоритмы рекомендаций Instagram предлагают пользователям антисемитский контент

В новаторском докладе организации Combat against Antisemitism раскрываются масштабы и механизмы этого явления и поднимаются вопросы об ответственности платформ социальных сетей за глобальный всплеск ненависти в интернете.

Исследование под названием «Искусственно созданная реклама: как антисемитский контент распространяется и усиливается среди миллионов пользователей Instagram» показывает, что алгоритм запрещенной в РФ социальной сети Instagram систематически подсовывает пользователям антисемитский контент, зачастую без их активного поиска.

В ходе целенаправленного 96-часового мониторинга исследователи ARC выявили 100 антисемитских постов, которые были напрямую рекомендованы пользователям платформы. Эти посты собрали более 5,3 миллионов лайков и 3,8 миллионов репостов, а их потенциальный охват может достигать 280 миллионов пользователей.

Согласно исследованию САМ, контент следует знакомым и опасным шаблонам, начиная от теорий заговора и заканчивая откровенной демонизацией, отражая пропагандистские приемы, которые исторически подпитывали антисемитизм на протяжении поколений.

Что особенно важно, исследование подчеркивает, что дело не просто в наличии пользовательского контента на платформе. Скорее, оно указывает на алгоритмическое усиление, когда собственные системы Instagram активно продвигают такой контент, чтобы максимизировать вовлеченность аудитории.

По словам экспертов, это различие имеет решающее значение.

«Раскрытие информации происходит не случайно, а целенаправленно», — предупреждается в докладе, подчеркивая, как системы рекомендаций могут превратить маргинальные проявления ненависти в широко распространенное явление.

Эти выводы сделаны на фоне повышенной глобальной обеспокоенности по поводу антисемитизма, особенно в интернете. За последние несколько лет мониторинговые группы сообщали о резком росте антисемитских подстрекательств на социальных платформах и рост числа публикаций, прославляющих насилие и распространяющих классические антиеврейские конспирологические теории.

«Проще говоря, это свидетельство масштабного системного сбоя со стороны Instagram и Meta», — заявил генеральный директор CAM Саша Ройтман Дратва. «Когда платформа активно рекомендует контент, который дегуманизирует евреев, массовой аудитории, речь уже не идет о простой оплошности или ошибке в алгоритмическом проектировании. Речь идет об инфраструктуре, которая нормализует ненависть в огромных масштабах, и с этим необходимо без промедления бороться».

Исследование ARC дополняет растущий объем доказательств, свидетельствующих о том, что алгоритмы социальных сетей, разработанные для приоритетного взаимодействия, могут непреднамеренно, а в некоторых случаях и систематически, продвигать экстремистский и поляризующий контент.

В докладе CAM содержится призыв к срочным действиям со стороны технологических компаний, регулирующих органов и гражданского общества, настоятельно рекомендуется повысить прозрачность в отношении алгоритмических систем и усилить борьбу с контентом, разжигающим ненависть.

Это также подкрепляет более широкий посыл: борьба с антисемитизмом в XXI веке неотделима от цифровых экосистем, в которых идеи и ненависть распространяются с беспрецедентной скоростью и в невиданных ранее масштабах.