Эксперт рассказал, чем может обернуться помощь голосовых помощников


Вести.Экономика

Размещая у себя дома или в офисе смарт-колонку с голосовым помощником или активируя его на смартфоне, пользователь, часто не задумываясь об этом, рискует утечкой чувствительной информации. Об этом пишет "Прайм" со ссылкой на Ашота Оганесяна – основателя сервиса разведки утечек DLBI.

Проблема в том, что для полноценной работы — когда функция приема голосовых команд активируется не кнопкой, а специальной фразой вроде "Привет, Siri" или "Окей, Google" — помощник должен постоянно прослушивать помещение при помощи микрофона. При этом записанные данные часто отправляются для обработки на серверы компании-разработчика, где могут храниться неограниченное время и, теоретически, нанести вред в будущем.

"Нередко записи, содержащие нераспознанные системой звуки, прослушивают "асессоры" — люди, занимающиеся "разметкой" данных для нейросетей. Асессоры часто не являются сотрудниками компаний и не соблюдают обязательства конфиденциальности. Особо "интересные" записи звуков или бесед в результате их работы могут оказаться даже в интернете", — предупредил Оганесян.

Кроме того, логика работы нейросетей, определяющих действия системы в ответ на голосовую команду, не всегда оказывается четкой, либо команда может быть "услышана" неправильно. В результате возможны неадекватные действия помощника — от звонка или сообщения не тому абоненту до реального ущерба собственности в случае, если помощник отдаст не ту команду "умному дому", к которому подключен. Например, система может по ошибке отпереть дверь или включить на полную отопление.

Также Оганесян отметил важное отличие между помощниками в смарт-колонках и теми, которые встроены в телефоны и компьютеры. Если первые просто записывают и отправляют в интернет аудиоданные, то вторые помимо этого имеют доступ к функциям операционной системы устройства и хранящимся на нем данным. Поэтому, подчеркнул эксперт, каждый должен решать сам, насколько безопасно для него лично полагаться на "помощь" голосового помощника — исходя из своего понимания вещей, которые с ним происходят и которые он хотел бы оставить приватными.