Москва27 марВести.Развитие искусственного интеллекта делает анонимность в интернете практически недостижимой. К такому выводу пришли исследователи из ETH Zurich и Anthropic.
В ходе эксперимента, результаты которого приводит РБК, ученые применили ИИ-агента для анализа данных пользователей форумов Hacker News и Reddit. Алгоритм изучал стиль письма, биографические детали, время публикаций и сопоставлял эти данные с информацией из других источников, включая профили в LinkedIn. В результате система смогла установить личности 68% пользователей всего за несколько секунд, даже при отсутствии прямых указаний на их имена.
Соавтор исследования Саймон Лермен пояснил, что такие ИИ-агенты способны выполнять задачи, которые ранее считались крайне сложными: анализируя произвольный текст, они могут определить личность человека без необходимости в заранее структурированных и сопоставимых наборах данных. По его словам, эксперимент обошелся менее чем в 2000 долларов, что делает технологию легко масштабируемой для анализа десятков тысяч пользователей.
Даже при минимуме данных ИИ в ряде случаев успешно определял личности, а при анализе активных обсуждений, например, о кино, точность значительно возрастала.
Авторы исследования предупреждают, что такие технологии могут использоваться для массовой слежки. В частности, власти получат возможность сопоставлять анонимные аккаунты с реальными людьми, что создает риски для журналистов, активистов и других пользователей.
При этом, как отмечает профессор Университетского колледжа Лондона Питер Бентли, ошибки ИИ могут привести к необоснованным обвинениям. С другой стороны, технология может помочь правоохранительным органам выявлять преступников в сети. Однако собранные ИИ данные не имеют юридической силы в суде, что ограничивает их применение.
Эксперты также указывают на риск усиления контроля со стороны государства и возможное использование таких инструментов экстремистами для поиска сторонников.
