Тема:

Социальные медиа 2 дня назад

Новый скандал с Facebook: ИИ назвал чернокожих людей "приматами"


Pixabay

Facebook пришлось принести извинения в связи с инцидентом, который случился по вине алгоритма. ИИ, анализирующий видео чтобы выявить его тему и порекомендовать пользователю сходные ролики, совершил скандальную ошибку.

Зрители видео, размещенного британским таблоидом Daily Mail и изображавшего чернокожих людей, были шокированы, когда соцсеть поинтересовалась у них, хотят ли они "продолжить видеть видео о приматах".

Как сообщили изданию The Verge в компании, как только об ошибке стало известно, функция рекомендации тем в видеосервисе соцсети была полностью отключена. "Ясно, что это была непозволительная ошибка", — признал представитель Facebook, добавив, что разработчики выясняют причину случившегося.

Инцидент стал далеко не первым примером, демонстрирующим расовую или гендерную предвзятость алгоритмов искусственного интеллекта. Объясняется она, среди прочего, тем, что в используемых для обучения визуального ИИ наборах изображений доминируют люди европеоидной расы. Например, в 2015-м году Google пришлось извиняться за то, что приложение "Фото" промаркировало снимки чернокожих тегом "горилла". Как выяснилось позднее, даже спустя три года после скандала сервис не возобновил показ снимков по запросам "горилла", "обезьяна" и "шимпанзе".