Алгоритмы YouTube уличили в продвижении запрещенных видео

Рекомендательные алгоритмы YouTube подсовывают пользователям "достойные сожаления" видеоролики, включая те, которые нарушают правила самого видеохостинга. Такой вывод содержится в результатах исследования, организованного Mozilla Foundation — некоммерческой организацией, занимающейся среди прочего разработкой браузера Firefox.

Чтобы оценить, как на самом деле работают алгоритмы крупнейшей мировой видеоплатформы, исследователи Mozilla рекрутировали более 30 000 добровольцев. Те установили в свои браузеры расширение RegretsReporter — "Отчет о сожалениях", с помощью которого сообщали о роликах, возмутивших их или вызвавших иную негативную реакцию. При этом расширение фиксировало "путь", которым алгоритмы YouTube приводили пользователя к неприятному видео. Например, человеку, смотревшему видео об армии США, видеохостинг затем подсовывал женоненавистнический ролик под названием "Мужчина унижает феминистку".

Всего в результате исследования с июля 2020-го по май 2021-го были выявлены 3362 "достойных сожаления" материала из 91 страны. 71% из них были рекомендованы алгоритмом видеохостинга. Чаще всего они содержали дезинформацию, жестокий или натуралистичный контент, язык вражды, спам или мошенничество. 200 роликов были удалены впоследствии YouTube как нарушающие правила — но до этого успели получить суммарно 160 миллионов просмотров.

Как выявило исследование, вероятность того, что доброволец пометит ролик как неприятный, была у рекомендованных алгоритмом материалов на 40% выше, чем у тех видео, которые они находили через поиск. При этом известно, что на рекомендации приходится около 70% просмотров на платформе — это порядка 700 миллионов часов ежедневно.

YouTube давно обвиняли в том, что он рекомендует вредный контент ради того, чтобы максимально долго удерживать зрителей у экрана, таким образом максимизируя показы рекламы и заработок на ней. Сам алгоритм рекомендаций принадлежащая Google платформа не раскрывает, ссылаясь на коммерческую тайну.