Интернет-боты научились генерировать фейковые фото профиля

Facebook и Twitter сообщили о блокировке глобальной сети ботов, состоявшей из сотен аккаунтов, страниц и групп. Новость интересна тем, как организаторы попытались замаскировать фейковые аккаунты.

Особенностью проекта, поддерживавшего президента США Дональда Трампа и продвигавшего недостоверные новости о его оппонентах, было использование ИИ для генерации достоверно выглядевших фотографий профиля. Всего таких аватарок несуществующих пользователей, на которых заметны следы работы алгоритмов, выявили 18 штук.

Как пишет Wired, это первый случай, когда генеративные нейросети были использованы в масштабной кампании по дезинформированию пользователей Facebook, Instagram, Twitter и YouTube. Такие алгоритмы могут создавать изображения, при беглом просмотре неотличимые от человеческих лиц, однако не выдерживающие тщательного изучения. Например, они не "понимают" человеческую анатомию и часто не в состоянии одинаково воспроизвести симметричные детали вроде серёжек или дужек очков.

Большинство страниц, задействованных в кампании, имели названия вроде "Америке нужен президент Трамп", "Трампа в президенты Америки" и "Мы поддерживаем Трампа и Пенса" и были созданы во Вьетнаме.