Алгоритмы усилили расизм на чемпионате мира, говорится в докладе

• Опубликовано 14 минут назад

Согласно новому исследованию, расистские оскорбления, направленные против английских футболистов в социальных сетях, во время чемпионата мира усилились благодаря алгоритмам, разработанным для максимизации вовлеченности и прибыли.

Группа активистов Hope Not Hate проанализировала более 300 000 постов на платформе X (ранее Twitter) во время чемпионата мира по футболу 2026 года и обнаружила более 5500 откровенно расистских постов, направленных против игроков сборной Англии.

Организация утверждает, что рекомендательный алгоритм X поместил токсичный контент в миллионы каналов, поскольку сообщения, вызывающие гнев и возмущение, могут вызвать больше взаимодействия.

«X на самом деле извлекает выгоду из этой ненависти», — сказал Патрик Херманссон, старший научный сотрудник Hope Not Hate.

«Он стимулирует вовлеченность на своей платформе и эффективно использует свой алгоритм, чтобы продвигать и показывать его большему количеству своих пользователей.

«Они появляются в ленте рекомендаций — они не являются непонятными углами этого сайта, они находятся спереди и в центре.

«Это выбор, который ему не нужно делать, и тем не менее он это делает».

К Х обратились за комментариями.

Объекты злоупотреблений

Джуд Беллингхэм был игроком, который больше всего подвергался расистским оскорблениям, а Букайо Сака и Кобби Майну столкнулись с самой высокой долей расизма по сравнению с общим количеством сообщений, в которых они упоминаются.

Джед Спенс, принявший ислам в последние годы, также подвергся явному потоку антимусульманских оскорблений, сообщает Hope Not Hate.

Кроме того, исследователи изучили, как в ответах на отдельные громкие сообщения на платформе накапливались оскорбления.

В ответ на отчет представитель ФА заявил, что «все игроки имеют право играть, не подвергаясь воздействию ненавистного, дискриминационного и тревожного контента в Интернете».

«Мы хотим, чтобы поставщики услуг предприняли все необходимые шаги для создания более безопасной жизни в Интернете для всех», — добавили в нем.

Что еще можно сделать?

«Надежда, а не ненависть» отметила, что нынешние попытки борьбы со злоупотреблениями в Интернете часто слишком сосредоточены на том, что происходит после того, как расистский пост уже был просмотрен.

Игроки могут блокировать пользователей, сообщать о сообщениях, а платформы могут блокировать учетные записи, но Херманссон говорит, что эти меры не решают проблему распространения оскорбительного контента.

«X недостаточно серьезно относится к расизму», — добавил он. «Мы наблюдаем это уже несколько лет. Никаких изменений или улучшений нет».

Он сказал, что у компаний, занимающихся социальными сетями, уже есть инструменты для изменения того, как их алгоритмы рекомендуют контент, особенно в периоды роста злоупотреблений.

«На самом деле это относительно небольшое количество аккаунтов и исходящих твитов, которые затем получают массу ответов», — сказал он.

«Я думаю, что вполне возможно остановить это или большую часть этого».

В Hope Not Hate заявили, что одним из вариантов было бы понизить рейтинг постов, вызывающих большое количество злоупотреблений, то есть их рекомендовали меньшему количеству людей.

Перед новым сезоном Премьер-лиги группа призвала британского регулятора СМИ Ofcom более эффективно использовать свои существующие полномочия в соответствии с Законом о безопасности в Интернете и бороться с предсказуемыми всплесками ненависти.

Они хотят, чтобы Ofcom объявил вне закона алгоритмы, допускающие злоупотребления, а также обозначил крупные спортивные события как «высокорисковые».

Это потребует от платформ внедрения строгих правил безопасности, активного устранения злоупотреблений и снижения рейтинга быстро растущей вирусной ненависти посредством корректировки алгоритмов.

В заявлении Ofcom говорится: «Мы призываем технологические компании сделать их услуги более безопасными, и мы будем привлекать их к ответственности, если они этого не сделают».

Ofcom также упомянул о новом партнерстве с полицией и футбольными органами перед чемпионатом мира по борьбе с онлайн-злоупотреблениями.

Как исследователи выявили насилие?

Hope Not Hate собирает сообщения, в которых упоминаются игроки сборной Англии по имени или X-коду, а также ответы на учетные записи игроков и команд. Они также собрали сообщения с упоминанием сборной Англии и другими ключевыми словами. Нерелевантные сообщения были отфильтрованы.

Затем исследователи использовали искусственный интеллект для сортировки данных на основе примеров, обозначенных человеком.

Были выявлены различные формы расизма, а также «крайне правые нарративы» и ненавистнические лозунги. Образцы проверялись вручную на точность. Сообщения считались оскорблениями по принципу «да» или «нет», а не по степени серьезности.

Связанные темы

• Мужская сборная Англии по футболу
• Футбол