Facebook создал тестовую соцсеть с ботами-негодяями

Компания Facebook разработала "хулиганский" искусственный интеллект для имитации поведения людей, нарушающих правила соцсети. Симуляция — WW — является почти полной копией соцсети, только населена ботами, которые ругаются, продают оружие и наркотики, публикуют непристойный контент и спамят.

Параллельная версия, основанная на настоящем коде Facebook, должна научить алгоритмы лучше справляться с выявлением злонамеренных действий пользователей. Возглавляет проект инженер Марк Харман, руководитель ИИ-подразделения компании в Лондоне.

Харман привел пример из реальной жизни, когда мошенники начинают изучать дружественные связи жертвы. Чтобы смоделировать такое поведение в условиях WW, была создана группа "невиновных" ботов и несколько "плохих", которые пытаются войти в доверие к первым.

Наблюдая за ними, исследователи Facebook тестировали различные способы защиты — например, ограничение на количество личных сообщений и постов, которые боты могли отправлять каждую минуту. "Мы можем масштабировать эту ситуацию до десятков или сотен тысяч ботов и, следовательно, параллельно искать много, много различных векторов ограничений", — сказал Харман.

Вместе с этим он подчеркнул, что WW — это только числа, а не графика, и в качестве аналогии между тестовой ИИ-площадкой и реальной версией Facebook привел трансляцию футбольного матча по телевизору и его результат. Используя реальную инфраструктуру соцсети, боты могут искать, добавлять в друзья, оставлять комментарии, создавать посты и отправлять сообщения, но никоим образом не могут взаимодействовать с настоящими пользователи, добавил Харман.